Am 15. und 16.5.2023 fand ein Workshop im Rahmen des Netzwerkes "AI and Data use in Education (AID-E)" an der University of Twente statt. Am zweiten Tag hielt Prof. Andreas Breiter einen Vortrag zum Wandel von Kommunikation in Bildungskontexten.
Im Kern des Vortrags stand die Frage, welche Maßnahmen existieren und welche möglich sind, um Bias in den KI-Systemen für Bildungskontexte zu reduzieren. Bias in der "Machine Learning Pipeline" kann in sechs Unterbereiche unterteilt werden (nach Suresh & Guttag, 2021): Historical, Representational, Measurement, Aggregation, Evaluation, Deployment. Anhand des aktuellen Projektes IMPACT an der Universität Bremen mit fünf weiteren deutschen Universitäten, an dem auch Kolleg:innen des ifib beteiligt sind, werden Beispiele für Bias vorgestellt. Zum einen wird deutlich, das bestimmte Diskriminierungen in den Daten nur dadurch aufgehoben werden können, wenn weitere (insbesondere personenbezogene) Daten gesammelt werden - das ist keine sozialverträgliche Lösung. Weitere Ansätze lassen sich mit dem "Explicability turn” (Farrow 2023) umschreiben. Das umfasst den Versuch mit Hilfe unterschiedlicher Methoden Transparenz zu schaffen und die Funktionsweise der Algorithmen zu erklären. Aus den Erfahrungen im IMPACT-Projekt wird abgeleitet, dass eine Verbreitung von AI-Systemen in Bildungsinstitutionen in die jeweiligen organisatorischen, sozialen Kontexte eingebettet werden müssen und hierfür eine entsprechende Governance geschaffen werden muss. Dies wird zum Abschluss am Beispiel der Empfehlungen zur KI-Nutzung für Bildung und Verwaltung an der University of California und dem SHEILA-Framework vorgestellt, das auch im IMPACT Projekt zur Einbindung aller Stakeholder genutzt wird.
Die Kooperation mit dem Netzwerk "AI and Data use in Education (AID-E)" an der University of Twente wird weiter intensiviert. Geplant ist ein gemeinsamer Hackthon im November 2023.