Künstliche Intelligenz als Seelentröster: Risiken mit vielen Fragezeichen

Immer mehr Menschen nutzen KI-Chatbots, um über persönliche und psychische Probleme zu sprechen. Welche Risiken damit verbunden sind, haben Forschende der Medizinischen Fakultät der Universität Duisburg-Essen untersucht.

Welche psychischen Risiken bergen Chatbots wie ChatGPT? Ein Scoping Review in npj Digital Medicine bündelt die bisherige Forschung.¹ Die Autor:innen sichteten mehr als 3000 Publikationen und schlossen 119 Arbeiten ein. Die Forschenden unterteilten die Risiken in fünf Kategorien:

1. direkte psychische und psychiatrische Gefahren wie Suizidalität,

2. Risiken für Verhalten und Beziehungen wie emotionale Bindungen,

3. Risiken für Denkvermögen und Bildung wie kognitive Abhängigkeit,

4. Sicherheitsrisiken durch das Fehlverhalten von Chatbots wie Fehlinformationen

5. und strukturelle bzw. systemische Risiken wie Datenschutz.

Besonders diskutiert werden dabei die Nutzung als Denk- und Lernhilfe, die die Fähigkeit zum kritischen Denken vermindert, die Gefahr einer emotionalen Abhängigkeit und KI-assoziierte Psychosen.

Risiko für kognitive Abhängigkeit

Am deutlichsten ist die Evidenz für kognitive Überabhängigkeit. Studien zeigen, dass Menschen bei starker Auslagerung geistiger Aufgaben an KI weniger eigene Denkleistung einsetzen und bei späteren Aufgaben schlechter abschneiden können. Ob daraus langfristig ein Verlust kritischen Denkens entsteht, ist offen.

Auch emotionale Bindung kann problematisch werden. Studien finden Zusammenhänge mit Einsamkeit, Angst, Depression, sozialem Rückzug und suchtähnlicher Nutzung. Die Richtung bleibt jedoch meist unklar. In einer Längsschnittstudie mit 3843 Jugendlichen sagten Angst und Depression eine spätere stärkere Chatbot-Abhängigkeit voraus – nicht umgekehrt. KI könnte also auch als problematische Bewältigungsstrategie genutzt werden.

Besonders sensibel ist der Einsatz bei Suizidalität, Psychosen oder Essstörungen. Simulationsstudien zeigen, dass Chatbots zwar oft Sicherheitshinweise geben, schwierige Situationen aber auch falsch einschätzen, inkonsistent reagieren oder problematische Aussagen bestätigen können. „Besonders kritisch ist der Einsatz bei Menschen mit schweren psychischen Erkrankungen oder in Krisensituationen. Hier können die Grenzen zwischen hilfreicher Unterstützung und einer Verstärkung bestehender Probleme verschwimmen“, erklärt Koautor Priv.-Doz. Dr. Alexander Bäuerle, LVR-Universitätsklinik Essen, Universität Duisburg-Essen. Für die „AI psychosis“, also eine mögliche Verstärkung wahnhafter Überzeugungen durch zustimmende KI-Antworten, ist die Evidenz schwach: Sechs von sieben Arbeiten sind rein konzeptionell.

Grenzen von KI-Chatbots näher untersuchen

„Gerade weil KI-Chatbots eine niedrigschwellige Unterstützung in vielen Lebenslagen bieten, müssen wir genau hinschauen, wo ihre Grenzen liegen und welche Risiken entstehen können“, so die Autor:innen der Studie. Weiterführende Forschung sei dringend notwendig, um KI-Anwendungen im Bereich der psychischen Gesundheit sicher weiterzuentwickeln.Gefordert sind realitätsnahe klinische Studien und bessere Schutzmechanismen. (red)