Studie warnt vor psychischen Risiken emotionaler Bindungen an KI-Chatbots

Daten zeigen, dass fast die Hälfte der US- Erwachsene im Alter von 18 bis 80 Jahren nutzten kürzlich ein KI-Modell zu Zwecken der psychischen Gesundheit, während separate Forschungsergebnisse der Brown University schätzen, dass heute 1 von 8 jungen Erwachsenen sich an KI-Programme zur Beratung in Fragen der psychischen Gesundheit wendet.

Mapping the Reddit Dialogue: Unter der Leitung Forscher fortschrittliche Natural Language Processing-Tools ein, um über 4 Millionen Beiträge in 47 mit der psychischen Gesundheit verbundenen Subreddits zu analysieren.

Sie isolierten eine Kernstichprobe von 5.126 hochspezifischen Beiträgen, um die Entwicklung menschlich-KI-Beziehungen unter Anwendung soziologischer Rahmenwerke zu bewerten, die therapeutische Beziehungen zwischen Therapeuten und Klienten sowie die Technologieakzeptanz untersuchen.

Technik und Auswirkungen

The Dual Spectrum of Support: Die Daten zeigen, dass Nutzer KI häufig zur emotionalen Bestätigung, zur Bewältigung änden und zur unmittelbaren Begleitung heranziehen.

Paradoxerweise werden die Tools jedoch stark für praktische Unterstützung bei exekutiven Funktionen genutzt, etwa um Einzelpersonen dabei zu helfen, organisatorische Herausforderungen im Zusammenhang mit ADHS und Autismus zu bewältigen. Das „Bond-Paradox" enthüllt: Die Studie isolierte einen tiefgreifenden architektonischen Spalt in den Nutzerergebnissen.

Wenn Nutzer mit KI für aufgabenorientierte Ziele interagieren, wie etwa Selbstreflexion, Planung oder das Erlernen ältigungsstrategien, sind ihre Erfahrungen ausgesprochen positiv.

Wenn hingegen eine Interaktion sich ausschließlich

Wenn hingegen eine Interaktion sich ausschließlich auf emotionale Bindung, Begleitung oder wiederholtes Suchen nach Bestätigung ohne klare Ziele konzentriert, korreliert dies stark mit einer verstärkten emotionalen Abhängigkeit, einer Verschlechterung psychischer Symptome und Schwierigkeiten, sich lösen.

Besorgnis über den Ersatz: Trotz des hohen Nutzungsvolumens behält die Nutzerbasis einen gesunden Zustand vorsichtiger Besorgnis bei; 51 % der analysierten Beiträge diskutieren explizit die schwerwiegenden Risiken und therapeutischen Grenzen der KI.

In nahezu allen Anwendungsfällen stellen Nutzer die Software als ergänzendes Mittel dar, das neben der menschlichen Therapie eingesetzt wird, oder als Brücke in Momenten, in denen menschliche Fachkräfte aus finanziellen oder logistischen Gründen nicht zugänglich sind.

Technik und Auswirkungen

Ein Mandat für strikte verhaltensbezogene Grenzen: Allzweck-Chatbots sind weder klinisch validiert noch für psychiatrische Interventionen konzipiert. Die leitende Autorin Elham Aghakhani betont, dass Entwicklungsteams aufhören müssen, KI-Systeme ausschließlich so zu gestalten, dass sie sich „warm" oder menschenähnlich anfühlen.

Stattdessen müssen KI-Systeme für die psychische Gesundheit mit strengen Grenzen, Schutzmechanismen und evidenzbasierten Rahmenwerken entwickelt werden, um Suchtverhalten bei Nutzern zu verhindern und ein sicheres Absetzen zu fördern.

Quelle: Drexel University Da immer mehr Menschen auf KI-Chatbots zur Unterstützung bei emotionalen und psychischen Gesundheitsfragen zurückgreifen, zeigt eine neue Studie der Drexel University, dass die meisten Nutzer diese Werkzeuge als Ergänzung – nicht als Ersatz – für die menschliche Psychotherapie betrachten.

Basierend auf Millionen ägen hebt die Studie sowohl die wachsende Attraktivität ützten Hilfsmitteln für emotionale Beruhigung, Bewältigungsstrategien und praktische Anleitung hervor als auch die Bedenken der Nutzer hinsichtlich emotionaler Abhängigkeit, Fehlinformationen und übermäßiger reliance auf die Technologie.