Das Symposium war toll organisiert und das Panel war hochrangig besetzt mit Prof. Scott Adler (Dean der Graduate School, CU Boulder), Dr. Camille Crittenden (Executive Director of Center for Information Technology Research in the Interest of Society (CITRIS), University of California ) und Prof. Zach Pardos (Associate Professor, UC Berkeley). Den Panelists wurde drei Fragen gestellt:
- Welche Entwicklungen im Bereich der KI werden Ihrer Meinung nach die größte Auswirkung auf das Studium haben? Und warum?
- Wie können die Teilnehmenden am Symposium ihre Praktiken weiterentwickeln, um die potenziellen Auswirkungen von KI auf das Studium zu berücksichtigen?
- Wie gehen wir mit den potenziellen ethischen, rechtlichen und soziale Herausforderungen um, die sich aus der zunehmenden Nutzung von KI ergeben?
Aus meiner Sicht sind die größten Auswirkungen derzeit – scheinbar – die Folgen von ChatGPT. Ich halte sowohl die Technologie als auch ihre Konsequenzen auf den Bildungsbereich für überbewertet. Viel spannender sind die Möglichkeiten, individuelles Lernen zu unterstützen durch (semi)automatisiertes formatives Feedback. Hierzu habe ich Beispiele aus unserem Projekt IMPACT und erläutert, dass es neue Formen der Bewertung geben könnte, die viel stärker die Kompetenzen der Lernenden in den Blick nehmen. Ein zweiter zentraler Bereich des Wandels wird die Berücksichtigung von kritischen Datenkompetenzen sein, um KI verantwortungsvoll einsetzen zu können. Ich habe auf unsere Forschungsschwerpunkte im ifib und im ZeMKI-Lab "Soziotechnische Systeme und kritische Datenstudien" verwiesen.
Für die Teilnehmenden war es mir wichtig herauszustellen, dass es zwar kurze technologische Entwicklungszyklen gäbe, aber eine Einbettung in die organisatorischen Strukturen und Abläufe einer Universität ihre Zeit bräuchten. Wichtig war mir herauszustellen, dass der Fokus auf den Lernerfahrungen liegen müssen und nicht auf der Verringerung manueller Arbeit durch die KI. Ich war mir sehr einig mit Zach Pardos, dass es nach wie vor eine große Diskrepanz zwischen den Ankündigungen der BigTech und der Informatik gibt, was die System schon können und ihre wirklichen Leistungsfähigkeit. Beide haben wir das schon in unseren Forschungsprojekten erleben können.
Die ELSI-Thematik beschäftigt uns im ifib seit unserer Gründung. Daher habe ich noch einmal deutlich gemacht, dass es zwei Richtungen derzeit gibt: zum einen technische Lösungen wie transparente KI, Explainable AI oder der Ansatz der "differential privacy". Das wird aber nicht ausreichen. Der zweite Ansatz sind Regeln und Vorschriften, die Qualifizierung und Beteiligung aller Stakeholder an den Entscheidungsprozessen. Das bedeutet einen kulturellen Wandel an den Hochschulen (und im Bildungssystem insgesamt) und der braucht seine Zeit.
Neben dem Symposium und dem Erfahrungsaustausch zu datengestützten Entscheidungsprozessen in Hochschulen hatte ich die Chance, einige ausgewiesene Expert:innen zu KI und Bildung zu treffen und zu befragen. Dies reichte von Berkeleys KI-Zentrum BAIR bis zu Prof. Dora Demszky an der Stanford University, die sehr spannende Forschung zur KI-Nutzung für Feedback-Verfahren in der Schule durchführt.