In der vergangenen Woche startete die erste Feldphase einer Experimentreihe zum Vertrauen in maschinelles Lernen und künstliche Intelligenz. In Kooperation mit einer bremischen Schule wurde der Zusammenhang von Vertrauen in Datenpunkte und Algorithmen untersucht. Dies passierte vor dem Hintergrund der mangelnden Algorithm Awareness vieler Nutzerinnen und Nutzer. Gemeint ist hier ein fehlendes Bewusstsein dafür, wie und wo Systeme des Maschinellen Lernens aktiv werden. Ein Beispiel hierfür ist die Filterung und Sortierung von Facebook-Nachrichtensammlungen.
Das Experiment legt dabei einen besonderen Schwerpunkt auf so genannten Fake News, d.h. lancierte Falschmeldungen im Spannungsfeld von Propaganda und Desinformation.
Anlass und wissenschaftlicher Hintergrund sind Studien, in denen 62,5% der Nutzerinnen und Nutzer nicht wussten, dass und wie ihre Facebook-Nachrichtensammlungen sortiert werden. Die Arbeit ist Teil der geplanten Dissertation von Hendrik Heuer zu Trust Configurations in Machine Learning.