Studie warnt vor psychischen Risiken emotionaler Bindungen an KI-Chatbots

Wenn eine Interaktion sich ausschließlich auf

Wenn eine Interaktion sich ausschließlich auf emotionale Begleitung, das Suchen nach Bestätigung ohne klare Ziele oder die Wiederholung emotionaler Muster konzentriert, korreliert dies stark mit einer verstärkten emotionalen Abhängigkeit. In solchen Fällen berichten Nutzer Symptome sowie ühlen der Scham oder Schuld. Es fällt ihnen zudem schwerer, sich lösen.

Trotz dieser Risiken behält die Nutzerbasis einen gesunden Zustand vorsichtiger Besorgnis bei. In 51 Prozent der analysierten Beiträge werden explizit die schwerwiegenden Risiken und therapeutischen Grenzen der KI diskutiert.

In fast allen Anwendungsfällen stellen die Nutzer die Software als ergänzendes Mittel dar, das parallel zur menschlichen Therapie eingesetzt wird. Oft dient sie als Brücke in Momenten, in denen menschliche Fachkräfte aus finanziellen oder logistischen Gründen nicht zugänglich sind.

Technik und Auswirkungen

Elham Aghakhani betont, dass Allzweck-Chatbots weder klinisch validiert noch für psychiatrische Interventionen konzipiert sind. Sie fordert Entwicklungsteams auf, aufzuhören, KI-Systeme primär so zu gestalten, dass sie sich „warm" oder menschenähnlich anfühlen.

Stattdessen müsse der Fokus auf die Entwicklung für die psychische Gesundheit mit strengen Grenzen, Schutzmechanismen und evidenzbasierten Rahmenwerken gelegt werden. Ziel sei es, Suchtverhalten bei Nutzern zu verhindern und ein sicheres Absetzen der Systeme zu fördern.