Im Rahmen der Klausurtagung des ifibs in der vergangenen Woche haben wir uns in einem Workshop mit den Themen Ethik und Informatik beschäftigt. Ziel war es, gemeinsam einen Überblick über das Spannungsfeld zwischen Ethik und Informatik zu bekommen, Probleme kennenzulernen und Lösungen zu erkunden.
Irina Zakharova hat dazu einen Überblick über die Geschichte der Ethik in der Informatik gegeben, der von Norbert Wiener über die Informationsethik von Luciano Floridi bis hin zu diversen angewandten Themenethiken wie beispielsweise Algorithmen- und Datenethik reichte. Hendrik Heuer hat aktuelle Beispiele aus der Informatik präsentiert und dabei insbesondere den Prozess des maschinellen Lernens und damit verbundene ethische Fragen und Probleme vorgestellt. Ein Beispiel hierfür ist die Diskriminierung von Minderheiten, z.B. durch den Einsatz von Algorithmen im US-Justizsystem für Vorhersagen, inwieweit straffällig gewordene Personen zukünftig erneut straffällig werden.
Ziel war es, eine Diskussion anzuregen und gemeinsam mit den Workshopteilnehmenden ein Verständnis für die Probleme zu bekommen. In der Diskussion haben sich dabei einige Punkte herauskristallisiert, mit denen wir uns in Zukunft verstärkt beschäftigen wollen. Dazu gehört die Entmystifizierung der Künstlichen Intelligenz und der Techniken des Maschinellen Lernens. Aus unserer Forschungspraxis wussten wir zu berichten, wie "der Algorithmus" bzw. "die KI" häufig als magische Lösung für unterschiedlichste Probleme dargestellt wird. Nutzer*innen erwarten von diesen Systemen u.a., dass sie automatisch zu besseren Ergebnissen bei der Bearbeitung verschiedenster Prozesse führen. Diesen Erwartungen zu begegnen ist insbesondere deshalb wichtig, weil wir am ifib selbst solche Systeme entwickeln. Aktuelle Herausforderungen für den Einsatz von KI sind beispielsweise, wie man KI-Entscheidungen transparent erklären kann, wie solche Systeme technisch umgesetzt werden sowie die Reproduzierbarkeit und Verständlichkeit der Prozesse, die zu KI-Entscheidungen führen. Darüber hinaus müssen auch die Risiken, die dadurch entstehen, dass KI-Systeme zunehmend auch von Laien trainiert und eingesetzt werden, weiter betrachtet werden.
Als ifib sehen wir Ethik als Teil der Forschung zu soziotechnischen Systemen und als Teil eines erfolgreichen Projektmanagements, das sich in sozialverträglichen Forschungsergebnissen und ethischer Forschungsorganisation widerspiegelt. Ein aktuelles Beispiel dafür ist auch das Projekt Multimodal Algebra Lernen, in dem wir uns intensiv mit der Relevanz und adäquaten Adressierung ethischer Fragen im Projektkontext befassen.
Dieser Artikel wurde gemeinsam von Irina Zakharova, Hendrik Heuer und Stefan Welling verfasst.