Fachkr\u00e4fte nehmen KI-Empfehlungen oft nicht ernst genug. Privat trauen Menschen der KI jedoch oft zu viel zu \u2013 v. a. in Moralfragen. Dies zeigen Studien der Uni Hohenheim.<\/p>\n\n\n\n
KI-Systeme \u00fcbertreffen h\u00e4ufig Expert:innen in der Bilderkennung. So k\u00f6nnen sie beispielsweise Tumore inzwischen oft schneller erkennen als ausgebildetes Fachpersonal. Trotzdem sind Expert:innen in Medizin und anderen Entscheidungskontexten im Gebrauch von KI z\u00f6gerlich, so die Ergebnisse der Forschung von Wirtschaftsethiker Prof. Dr. Matthias Uhl und seinem Team von der Universit\u00e4t Hohenheim in Stuttgart. Anders gestalte sich die Situation im privaten Kontext: Wenn Nutzer:innen Chatbots als pers\u00f6nliche Berater f\u00fcr Lebensfragen verwenden, entwickeln sie h\u00e4ufig ein \u00fcberm\u00e4\u00dfiges Vertrauen in die KI. In beiden F\u00e4llen arbeitet Prof. Dr. Uhl an L\u00f6sungen, die Abhilfe schaffen.<\/a><\/p>\n\n\n\n <\/p>\n\n\n\n Universit\u00e4t Hohenheim 2026<\/a><\/p>\n
Trotz Warnung von KI-Expert:innen griffen Nutzer:innen ganz selbstverst\u00e4ndlich auf KI zur\u00fcck, wenn es um moralische oder pers\u00f6nliche Orientierung geht, so eines der Forschungsergebnisse von Prof. Dr. Uhl. \u201eDabei untersch\u00e4tzen sie h\u00e4ufig, wie stark die Antworten die eigene Meinungsbildung beeinflussen k\u00f6nnen. Das \u00fcberh\u00f6hte Vertrauen zeigt sich nicht zuletzt darin, dass Nutzer:innen im Nachhinein glauben, sie w\u00e4ren auch ohne Unterst\u00fctzung zum gleichen Ergebnis gekommen.\u201c
Die Sorge der Expert:innen bestehe daher weniger vor dem Einfluss selbst, sondern mehr darin, dass die Beeinflussung durch die KI unbemerkt geschieht. Prof. Dr. Uhl betont: \u201eGenau diese fehlende Wahrnehmung ist problematisch. Die zentrale Herausforderung besteht darin, Strategien zu finden, mit denen Menschen KI bewusst und reflektiert einsetzen und dabei die Verantwortung f\u00fcr ihre eigene Entscheidung behalten.\u201c
Denn: Chatbots h\u00e4tten selbst kein Wertesystem, nachdem sie ihre Entscheidungen ausrichten. \u201eJe nach Prompt k\u00f6nnen sich die Moralvorstellungen der KI verschieben.\u201c
Wo Laien blind vertrauen neigen Expert:innen zu \u00fcberh\u00f6hter Skepsis
<\/strong>
Den gegenteiligen Effekt von blindem \u00dcbervertrauen beobachte Prof. Dr. Uhl bei Fachpersonal und deren Umgang mit KI-Tools: \u201eFachleute wie beispielsweise medizinisches Personal, sind von ihren eigenen F\u00e4higkeiten oft sehr \u00fcberzeugt und begegnen dem Einsatz von KI im Berufsalltag eher mit Selbst\u00fcbersch\u00e4tzung und KI-Skepsis \u2013 was ebenfalls nachteilige Folgen haben kann.\u201c
Denn diese Skepsis kann riskant sein. \u201eWenn es etwa darum geht, R\u00f6ntgenbilder, MRTs oder andere medizinische Bilder zu beurteilen, ist die KI inzwischen meist besser als jeder Mensch. So kann sie Medizinerinnen und Mediziner bei Diagnosen unterst\u00fctzen.\u201c Richtig eingesetzt verbessere die KI deshalb die Qualit\u00e4t medizinischer Entscheidungen.
Das Vertrauensproblem ist nicht auf das Feld der Medizin beschr\u00e4nkt. Prof. Dr. Uhl erkl\u00e4rt: \u201eJe st\u00e4rker sich jemand als fachlich \u00fcberlegen einsch\u00e4tzt, desto eher werden Empfehlungen von KI-Modellen ignoriert.\u201c
Nur die richtige KI-Gestaltung schafft das richtige Ma\u00df an Vertrauen
<\/strong>Der L\u00f6sungsansatz f\u00fcr beide Probleme ist im Kern \u00e4hnlich. KI muss als Entscheidungshilfe verstanden und eingesetzt werden.
Um sowohl ein zu gro\u00dfes Vertrauen als auch eine zu gro\u00dfe Skepsis gegen\u00fcber KI-Systemen zu vermeiden, braucht es eine bewusste und reflektierte Nutzung der Technologie. Dabei ist entscheidend, dass die Verantwortung weiterhin der Mensch tr\u00e4gt. Uhl betont: \u201eDie Technik muss daf\u00fcr so gestaltet sein, dass sie auch genau das leistet, wof\u00fcr sie entwickelt wurde.\u201c
In Lebens- und Moralfragen: R\u00fcckfragen statt platter Antworten<\/strong>
Bei Lebens- und Moralfragen w\u00e4re die KI hilfreicher, wenn sie statt platter Anweisungen auf den sogenannten sokratischen Ansatz zur\u00fcckgreifen w\u00fcrde: \u201eWir haben Chatbots getestet, die bei solchen Fragen R\u00fcckfragen an die User stellen, die den Personen helfen, selbst Klarheit zu finden.\u201c
Die KI fungiert dabei nicht als moralischer Kompass, sondern als kritisch nachhakende Instanz, die das eigene Wertesystem sch\u00e4rft.
Praxistest zeigt Sch\u00e4rfung des moralischen Wertesystems<\/strong>
Dass diese Sch\u00e4rfung des Wertesystems funktioniert, hat seine Arbeitsgruppe unter anderem an einem Extrembeispiel getestet:
\u201eF\u00fcr eine Studie in den USA haben wir Republikaner und Demokraten als Testpersonen ausgew\u00e4hlt, die einander in den vergangenen Jahren zunehmend feindselig begegnet sind. Als Testsituation sollten sie Steuern umverteilen und hatten dabei die M\u00f6glichkeit, die Menschen der eigenen Partei zu bevorzugen.\u201c
Zuvor bekamen die Testteilnehmer:innen noch die Anweisung, sich einige Minuten mit einem Chatbot zu unterhalten. \u201eWas die Probanden nicht wussten: Auch das war Teil der Studie. Die H\u00e4lfte der Bots waren klassisch programmiert. Die andere war so konfiguriert, dass sie in Moralfragen die sokratische Methode anwandten.\u201c
Letzteres blieb nicht ohne Wirkung: \u201eProbanden, die mit klassischen Chatbots interagiert hatten, verteilten die Steuern eher unmoralisch um, indem sie Parteigenossen bevorzugten.\u201c Die andere Gruppe habe meist ethischer gehandelt und Steuergelder eher unabh\u00e4ngig von der Parteizugeh\u00f6rigkeit umverteilt. \u201eWir konnten sehen, dass Chatbots helfen k\u00f6nnen, Verst\u00e4ndnis f\u00fcr die andere Seite zu schaffen,\u201c beschreibt Uhl die Ergebnisse.
Im Umgang mit Expert:innen: KI muss ihre Entscheidungen erkl\u00e4ren<\/strong>
Den gleichen Grundsatz aber eine ganz andere Methode verfolgt Prof. Dr. Uhl, im Fall der Expert:innen. Auch hier kommt es bei der KI darauf an, sie zur Zusammenarbeit speziell zu gestalten.
F\u00fcr die konkrete Umsetzung arbeitet der Wirtschaftsethiker als Teil eines Teams mit Kognitionswissenschaftlerinnen und Informatikerinnen des Bayerischen Forschungsinstitut f\u00fcr Digitale Transformation (bidt) im Projekt \u201eEthische Implikation hybrider Teams aus Mensch und KI-System\u201c (Ethyde). Derzeit verfolgen die Forscherinnen und Forscher im Projekt noch verschiedene L\u00f6sungsans\u00e4tze.
\u201eEin Ansatz ist die sogenannte Explainable-AI-Methode. Dabei muss das System m\u00f6glichst transparent machen, warum es beispielsweise die medizinischen Aufnahmen als unauff\u00e4llig ansieht oder eine Krankheit diagnostiziert\u201c, erkl\u00e4rt Dr. Dr. Sebastian Kr\u00fcgel, der als Postdoc im Projekt arbeitet. Das kann zum Beispiel dadurch geschehen, dass die KI die Bereiche eines Bildes einf\u00e4rbt, die f\u00fcr ihre Diagnose ausschlaggebend waren.
Eine weitere M\u00f6glichkeit ist es, sogenannte Unsicherheitsma\u00dfe mitzuliefern, erg\u00e4nzt Anja Bodenschatz, die als Doktorandin ebenfalls im Projekt mitarbeitet: \u201eHier liefert die KI eine Einsch\u00e4tzung dar\u00fcber, wie sicher sie sich bei einer Antwort ist.\u201c Beide Ans\u00e4tze steigern das Vertrauen in die KI-Antwort.
Praxistest soll Prototyp f\u00fcr Medizin-KI entwickeln
<\/strong>
Auch in diesem Fall w\u00e4hlte die Arbeitsgruppe einen ungew\u00f6hnlichen Weg, um die laufenden Entwicklungen zu testen. \u201eDas Problem, dass sich Personen \u00fcbersch\u00e4tzen, beschr\u00e4nkt sich schlie\u00dflich nicht auf \u00c4rzte. Deswegen haben wir einen Test gesucht, den wir bei einem breiten Bev\u00f6lkerungsspektrum anwenden k\u00f6nnen\u201c, erkl\u00e4rt Dr. Dr. Kr\u00fcgel.
Statt medizinische Bilder bekommen Testpersonen nur Katzenbilder zu sehen. \u201eDie Aufgabe ist, die Bilder in drei Kategorien einzuteilen: Hauskatzen, Wildkatzen und Gro\u00dfkatzen.\u201c
\u00c4hnlich wie bei der medizinischen Bilddiagnose komme es auch hier in den Grenzf\u00e4llen zu den meisten Fehlern. \u201eKaum eine Testperson widerspricht der KI, wenn sie eine Hauskatze von einem Tiger unterscheidet. Die Meinungsverschiedenheiten treten dann auf, wenn es gilt, zwischen gro\u00dfer Hauskatze und Wildkatze zu unterscheiden oder zwischen Wildkatze und einem jungen Puma.\u201c
Sobald das Projekt die KI so angepasst hat, dass Mensch und Maschine harmonieren, will das Team diese Technik mit medizinischen Bildern und Fachpersonal auf Medizinkongressen testen. \u201eBis Ende 2027 wollen wir die ersten getesteten Prototypen vorstellen k\u00f6nnen\u201c, so Prof. Dr. Uhl.
HINTERGRUND: Ethyde-Projekt\u00a0
<\/strong>Das Ethyde-Projekt (Ethische Implikation hybrider Teams aus Mensch und KI-System<\/a>) ist ein Forschungsprojekt des bidt \u2013 Bayerischen Forschungsinstitut f\u00fcr Digitale Transformation, das gemeinsam mit der Universit\u00e4t Hohenheim durchgef\u00fchrt wird. Ethyde untersucht, wie Menschen und KI-Systeme in sogenannten \u201ehybriden Teams\u201c zusammenarbeiten und stellt die ethischen Fragen, die dabei entstehen in den Fokus<\/p>\n\n\n\n\n
Quelle<\/h5>\r\n\n\n\n