Trends News

istock.com/swissmediavision

Forscher: Menschen vertrauen mehr dem Menschen als KI-Systemen  

Wichtige Entscheidungen in Kontexten wie bei der Kreditvergabe oder medizinischen Befunden werden häufig erst nach Einbeziehung externer Expertise getroffen. Diese Expertise kommt oft von anderen Kollegen, wird aber immer häufiger auch durch automatisierte Entscheidungsunterstützungssysteme bereitgestellt. Wissenschaftler der TU Berlin haben im Rahmen einer Serie von Online-Experimenten untersucht, inwiefern sich das Vertrauen in menschliche Kollegen vom Vertrauen in technische Unterstützungssysteme unterscheidet, teilte die TU mit. Die Ergebnisse dieser Experimentalreihe zeigen demnach überraschend klar auf, dass der Expertise menschlicher Kollegen mehr Vertrauen entgegengebracht werde als künstlich intelligenten oder klassischen Entscheidungsunterstützungssystemen. Dieses Ergebnis zeige sich über unterschiedlichste Kontexte hinweg, hieß es.

Automatisierte Systeme hielten immer mehr Einzug in das Arbeitsleben und den Alltag. Dabei reichten die Anwendungsbereiche von der Bewertung der privaten Kreditwürdigkeit bis hin zur Beurteilung medizinischer Fälle. Hierbei würden Tätigkeiten, die zuvor ausschließlich von Menschen durchgeführt worden seien, zunehmend durch technische Systeme unterstützt oder sogar vollkommen übernommen. Sowohl für Mensch-Mensch-Teams als auch Mensch-Technologie-Teams stelle Vertrauen die zentrale Herausforderung für eine erfolgreiche Kooperation dar. Erkenntnisse früherer Studien legen laut der Hochschule nahe, dass das Vertrauen gegenüber Technologien sogar höher sei als gegenüber Menschen. Dies fuße auf der Annahme, dass technische Systeme unfehlbar seien.

Experimente in unterschiedlichen Bereichen
Ausgehend von der Frage, ob diese Annahme auch für moderne künstlich intelligente Systeme gelte, hätten die Wissenschaftler Experimente in unterschiedlichen Bereichen mit über 900 Personen durchgeführt. Entgegen der vermuteten Überlegenheit technischer Systeme zeigten alle Studien den Angaben zufolge ein höheres Vertrauen gegenüber menschlichen Interaktionspartnern. Die zeigte sich demzufolge im Kontext der Kreditvergabe, der medizinischen Diagnostik und Bildverarbeitung in der Prozessindustrie. Insbesondere der letztgenannte Effekt sei umso überraschender, da die technische Bildverarbeitung inzwischen den menschlichen Fähigkeiten mindestens gleichwertig, wenn nicht überlegen sei.

Neben der häufigeren Zusammenarbeit von Menschen und Technologien würden Menschen auch häufiger von technischen Systemen bewertet. Hier ergäben sich neue Herausforderungen. So mache es etwa einen Unterschied, ob man bei einer Bank arbeite und hierbei Unterstützung erhalte oder ob man bei der Bank einen Kredit beantrage und selbst von einer Entscheidung betroffen sei. Beide Situationen ergäben unterschiedliche Perspektiven für die Einschätzung des unterstützenden beziehungsweise beurteilenden Agenten. Hier seien die Ergebnisse für die Forscher überraschend gewesen: „Wenn die Untersuchungsteilnehmer gefragt wurden, ob Entscheidungen, von denen sie selbst stark betroffen wären, lieber von einem technischen System oder einem Menschen getroffen werden sollten, präferierten sie durchgehend technische Systeme“, erklärte die TU.

Die Studien zeigen demnach insgesamt die Bedeutsamkeit, die Mensch-Technik-Interaktion nicht nur aus der Perspektive der beruflichen Kooperation zu denken, sondern auch zu berücksichtigen, dass Menschen zunehmend von Technologien beurteilt würden, hieß es. Vor dem Hintergrund technologischen Fortschritts und sich stetig verbessernder Systeme bleibe eine der größten offenen Fragen, wie viel Vertrauen angemessen sei, so das Fazit. (ud)
 

Wie kann man Kreditausfälle präziser prognostizieren oder Ihr Marketing gezielter steuern? Die Anwendungsmöglichkeiten von Data Science und der darauf basierenden KI-Anwendungen bergen ein enormes Potenzial, das es zu nutzen gilt. Melden Sie sich bei Interesse zu unserer Online-Fachtagung Data Science und Machine Learning in Kreditinstituten an.

Stichworte

Verwandte Artikel

Anzeige

Lexikoneinträge