Transparenz in Künstlicher Intelligenz: Berücksichtigtung von Erklärbarkeit, Benutzer- und Systemfaktoren

Ansprechpartner

Telefon

work
+49 241 80 49239

E-Mail

E-Mail

Ansprechpartner

Telefon

work
+49 241 80 49251

E-Mail

E-Mail

Ansprechpartner

Telefon

work
+49 241 80 49229

E-Mail

E-Mail

Ansprechpartnerin

Telefon

work
+49 241 80 49229

E-Mail

E-Mail
 

Projektinformationen

 

Der verstärkte Einsatz von Systemen der künstlichen Intelligenz, kurz KI, führt zu einer Vielzahl von interdisziplinären Herausforderungen im Bereich der Mensch-System-Interaktion. Eine der größten Herausforderungen ist der Einfluss von Transparenz auf Vertrauen, Akzeptanz und Nutzung von KI. Während sich Nutzer, Politiker und Entwickler Transparenz wünschen, ist eine nutzerzentrierte Definition stark abhängig von Kontext, System- und Nutzerfaktoren. Mangelnde Transparenz hingegen führt zu Nicht-Akzeptanz, Algorithmus-Aversion und schlecht funktionierenden Systemen.

Das Projekt TAIGERS adressiert die Forschungslücke einer nutzerzentrierten Definition von Transparenz, sowie einen Transfer in praktikable Empfehlungen für KI-Entwickler. In einer engen interdisziplinären Zusammenarbeit des Lehrstuhls für Informationsmanagement im Maschinenbau, kurz IMA, und des Lehrstuhls für Kommunikationswissenschaft wird eine Transparenzkarthografie auf Basis von Nutzer- und Systemfaktoren erstellt. Diese Typologie wird durch eine repräsentative Befragungsstudie und experimentelle Untersuchungen in einem KI-Transparenz-Framework konsolidiert. Dabei werden sowohl Fragen der Konstruktvalidität und Nutzervielfalt als auch Fragen der Informationsarchitektur in prospektiven und retrospektiven Transparenzsettings adressiert. Nach Diskussionen mit KI-Entwicklern, Ingenieuren und Informatikern wird das Framework auch die technische Perspektive einbeziehen.

Das Ergebnis von TAIGERS ist ein interdisziplinär evaluiertes Framework von Entwicklungsempfehlungen, das domänenübergreifend in der KI-Forschung eingesetzt und erweitert werden kann. Das Projekt TAIGERS legt damit den Grundstein für eine inter- und transdisziplinäre Zusammenarbeit zwischen Sozial- und Ingenieurwissenschaften sowie Computern in dem hochrelevanten Thema der transparenten KI.