Wenn Maschinen Moral berechnen: Wie KI unsere Ethik beeinflusst

Neue Datenquellen, alte Probleme: Forschende stehen vor methodischen Herausforderungen

Professor Jürgen Pfeffer von der Technischen Universität München warnte in einer LIfBi Lecture vor blindem Vertrauen in digitale Verhaltensdaten. Der Computational-Social-Science-Experte betonte, dass trotz riesiger Datensätze aus Social Media oder Tracking-Tools fundamentale Qualitätsfragen offenblieben.

Twitter-Analyse und Algorithmen-Manipulation

Anhand eines selbst erstellten Datensatzes mit 375 Millionen Tweets zeigte Pfeffer, wie 24-Stunden-Aktivitäten auf Twitter/X wissenschaftlich nutzbar gemacht werden können.

Gleichzeitig demonstrierte er erfolgreiche Manipulationen des Twitter-Algorithmus – ein Beleg für das Spannungsfeld zwischen Erkenntnischancen und Missbrauchsrisiken.

ChatGPT als ethisches Minenfeld

Am Beispiel generativer KI-Systeme verdeutlichte Pfeffer intransparente Entscheidungsprozesse. Verschiedene KI-Modelle lieferten demnach widersprüchliche Antworten auf moralische Dilemmata. Er kritisierte, dass undurchsichtige Programmierung das ethische Urteilsvermögen von Nutzenden untergrabe statt stärke.

»Black Box«-Effekt bei Big Data

Laut Pfeffer behindern drei Kernprobleme valide Aussagen:

1. Unbekannte Algorithmus-Änderungen
2. Technologiebedingte Verzerrungen
3. Verhaltensänderungen durch Monitoring

Sein Fazit: Trotz enormer Mengen bleibe die Datenqualität schwer einschätzbar. Klassische Methoden mit überprüfbaren Stichproben seien weiter unverzichtbar.

Wissenstransfer in der Praxis

Im Austausch mit LIfBi-Mitarbeitenden diskutierte Pfeffer konkrete Anwendungen – von Onlinebefragungs-Qualität bis zur Auswertung von Karrierenetzwerk-Daten. Sein Appell: Kritisches Hinterfragen technischer »Black Boxes« müsse fester Forschungsbestandteil werden.