Warum jugendliche Jugendliche besonders anfällig für Chatbots sind

Verbreitete Nutzung: 60,2 % der US-amerikanischen Teenager haben einen CAI-Chatbot genutzt, wobei etwa 1 von 20 Jugendlichen mit ihnen täglich interagiert. Junge Männer, weiße Jugendliche, afroamerikanische Jugendliche und multirassische Jugendliche berichteten höchsten Gesamtnutzungsquoten.

Tiefgreifende persönliche Motivationen: Jenseits der Unterhaltung (85 %) nutzen Jugendliche Chatbots intensiv für intime, menschenähnliche Interaktionen: 65,6 % suchen Rat, 60,1 % Freundschaft, 49,2 % Unterstützung bei der psychischen Gesundheit, und mehr als ein Drittel verwendet sie als romantische Begleitung.

Verletzlichkeit von 13-Jährigen: Die jüngsten Jugendlichen in der Studie waren am stärksten über mehreren Schadenkategorien betroffen, darunter Druck, Geheimnisse preiszugeben, und Anstiftung zu illegalen Handlungen oder Selbstschädigung.

Was die Studie zeigt

Geförderte reale Risiken: Zwischen 13 % und 19 % der befragten Jugendlichen gaben an, dass ein Chatbot gefährliches Verhalten in der realen Welt aktiv förderte – äten bis hin zu Selbstschädigung und Suizidgedanken. Quelle: FAU Mit zunehmender Integration Jugendlicher dokumentiert eine neue nationale Studie die weit verbreitete Exposition gegenüber Schäden.

Während viele Jugendliche diese Tools für Schule, Unterhaltung und Unterstützung nutzen, warnen Forscher davor, dass sie Jugendliche auch schädlichen Inhalten aussetzen, riskantes Verhalten fördern und die Grenze zwischen menschlichen und KI-bezogenen Beziehungen verwischen.

Die jüngsten Teenager in der Studie, insbesondere 13-Jährige, scheinen am stärksten betroffen zu sein.

Technik und Auswirkungen

Die nationale Studie zeigt, dass hochgradig personalisierte, menschenähnliche KI-Antworten einen intensiven psychologischen Einfluss auf sich entwickelnde jugendliche Gehirne ausüben können und gelegentlich zu Verwundbarkeit gegenüber Manipulation sowie zu Aufforderungen zu gefährlichem Verhalten führen. Quelle: Neuroscience News.

Die und der University of Wisconsin-Eau Claire durchgeführte, peer-reviewte Studie bietet einen der ersten groß angelegten Einblicke in die Art und Weise, wie Jugendliche mit sich schnell entwickelnden KI-Chatbots interagieren und Forscher untersuchten, wie häufig und aus welchen Gründen Jugendliche diese Tools nutzen, sowie die damit verbundenen Risiken, einschließlich der Exposition gegenüber unsicheren Inhalten und der Frage, ob Chatbots problematische Verhaltensweisen fördern könnten.

Sie befragten 3.466 Jugendliche im Alter von 13 bis 17 Jahren bundesweit und analysierten Nutzungsmuster über verschiedene demografische Gruppen hinweg, einschließlich Geschlecht, Rasse, Alter und sexueller Orientierung.

Was die Studie zeigt

Die Forscher bewerteten zudem die Exposition gegenüber 13 Arten schädlicher oder unsicherer Interaktionen – zu besorgniserregenden Verhaltensvorschlägen –, um die Risiken zu verstehen, denen Jugendliche ausgesetzt sein können, und welche Gruppen möglicherweise verwundbarer sind.

Die Ergebnisse der Studie, die im Journal of Adolescence veröffentlicht wurden, zeigen, dass die Nutzung verbreitet ist: 60,2 % gaben an, sie mindestens einmal oder zweimal verwendet zu haben, und etwa 1 von 20 nutzt sie täglich. Junge Männer berichteten signifikant häufiger Frauen.

Weiße, afroamerikanische und mehrheitliche Jugendliche zeigten höhere Nutzungsquoten als hispanische Jugendliche, während keine bedeutsamen Unterschiede nach Alter oder sexueller Orientierung festgestellt wurden. Unter den Jugendlichen, die KI-Chatbots genutzt hatten, war Unterhaltung bei weitem der häufigste Beweggrund und wurde von 85 % der Nutzer genannt.

Viele nutzten diese Tools auch aus

Viele nutzten diese Tools auch aus persönlichen Gründen, darunter Ratschläge oder Orientierung (65,6 %), Freundschaft (60,1 %) und sogar emotionale oder psychische Unterstützung (49,2 %). Mehr als ein Drittel gab an, Chatbots zur romantischen Begleitung einzusetzen.

Junge Männer zeigten sich konsistent häufiger als junge Frauen in Bezug auf jede dieser Motivationen, und auch Unterschiede hinsichtlich Rasse und sexueller Orientierung traten auf, insbesondere bei der Nutzung für emotionale Unterstützung und Beziehungen.

Die Forschenden betonen, dass KI-gestützte Chatbots für junge Menschen echten Mehrwert bieten können; frühere Studien dokumentieren Vorteile wie Unterstützung im Bildungsbereich, kreative Entfaltung, psychologische Hilfe und Begleitung für diejenigen, die sich isoliert fühlen.

Gleichzeitig berichtete ein beträchtlicher Anteil der

Gleichzeitig berichtete ein beträchtlicher Anteil der Jugendlichen über belastende Interaktionen.

Fast ein Drittel gab an, dass ein Chatbot nach persönlichen Informationen gefragt habe, die sie unwohl gemacht haben, während andere berichteten, überwacht zu werden, in unangemessene Gespräche verwickelt worden zu sein oder unter Druck gesetzt worden zu sein, Geheimnisse preiszugeben.

Etwa 23 % gaben an, unter Druck gesetzt worden zu sein, und 17 % berichteten, dass ein Chatbot falsche Informationen über sie verbreitet habe.

Auffällig ist, dass zwischen 13 %

Auffällig ist, dass zwischen 13 % und 19 % angaben, Chatbots hätten Verhaltensweisen gefördert, die reale Konsequenzen haben, einschließlich unethischer oder illegaler Handlungen, risikoreicher Aktivitäten sowie sogar Selbstverletzung oder Suizidgedanken.

Diese negativen Erfahrungen waren nicht gleichmäßig verteilt; die jüngsten Jugendlichen in der Stichprobe waren unter den am stärksten betroffenen Gruppen.

Höhere Raten wurden von 13-Jährigen in mehreren Schadenskategorien berichtet als von älteren Altersgruppen, darunter das Verlangen nach persönlichen Informationen, die unwohl machen, der Druck, Geheimnisse preiszugeben, die Förderung unethischen, illegalen oder risikoreichen Verhaltens sowie Selbstverletzung und Suizidgedanken. „Konversationelle KI ist ährlich, aber sie ist für junge Menschen noch nicht durchgängig sicher", sagte Sameer Hinduja, Ph.D., leitender Autor, Professor am Institut für Kriminologie und Strafrecht innerhalb der Fakultät für Sozialarbeit und Strafrecht der FAU, Mitbegründer des Cybermobbing-Forschungszentrums und Fakultätsmitglied am Berkman Klein Center der Harvard University. „Diese Systeme interagieren, reagieren und bestätigen Nutzer auf höchst personalisierte Weise, was ihre Einflussnahme besonders wirksam machen kann." Für Jugendliche, die noch ihre Fähigkeiten zum kritischen Denken und ihr Selbstverständnis entwickeln, kann dies dazu führen, dass sie dem, was der Chatbot sagt, eher vertrauen, es internalisieren oder darauf handeln, ohne es vollständig zu hinterfragen.

Technik und Auswirkungen

Die Ergebnisse zeigen zudem, dass männliche Jugendliche sowie heterosexuelle Jugendliche häufiger berichteten, betroffen zu sein; Forscher bezeichnen dieses Muster als kontraintuitiv, da frühere Studien eine höhere Online-Risikobelastung bei LGBTQ+-Jugendlichen festgestellt haben, und es weiterer Untersuchungen bedarf.

Weiße Jugendliche berichteten im Allgemeinen über eine höhere Exposition gegenüber einer Vielzahl negativer Interaktionen im Vergleich zu anderen ethnischen Gruppen.

Insgesamt gaben fast die Hälfte der befragten Teenager – 47,1 % – an, mindestens eines der 13 im Rahmen der Studie untersuchten Risiken erfahren zu haben, was die doppelte Natur ützten Chatbots unterstreicht: Sie sind sowohl weit verbreitete Werkzeuge als auch potenzielle Quellen für Schäden für einen erheblichen Teil der Jugend.

Die Ergebnisse zeigen, dass die Adoption

Die Ergebnisse zeigen, dass die Adoption schneller voranschreitet als die breitere Reaktion, da Jugendliche diese Tools zunehmend für Ratschläge, emotionale Unterstützung und Begleitung nutzen. „Diese Befunde sprechen stark dafür, die Sicherheit und dem Einsatz ", sagte Hinduja. „Wenn fast die Hälfte der jungen Nutzer, deutet dies darauf hin, dass bestehende Schutzmaßnahmen unzureichend sind.

Es geht nicht nur um vereinzelte Vorfälle.

Wir beobachten Muster, die eine erhebliche Zahl junger Nutzer betreffen, und genau das macht eine koordinierte Reaktion, Schulen und Unternehmen so wichtig." Die Forscher weisen zudem darauf hin, dass KI-Antworten, die als empathisch oder menschenähnlich wahrgenommen werden, für jugendliche Nutzer besonderes Gewicht haben können. „Erwachsene müssen weiterhin engagiert und neugierig bleiben, wie Jugendliche mit KI interagieren, und Raum für offene, wertungsfreie Gespräche über sowohl die Vorteile als auch die Risiken schaffen", sagte Hinduja.

Technik und Auswirkungen

Gleichzeitig müssen wir in Schulen eine stärkere KI-Bildung einführen, in diesen Plattformen Protokolle zur psychischen Gesundheitsversorgung integrieren, eine zuverlässige Altersverifizierung gewährleisten und regelmäßige unabhängige Audits durchführen, um zu bestätigen, dass die Sicherheitsmaßnahmen wie beabsichtigt funktionieren.

Die KI bleibt bestehen; daher liegt unsere Verantwortung darin sicherzustellen, dass junge Menschen ausgerüstet und geschützt sind, wenn sie sich in dieser Welt bewegen. Mitverfasser der Studie ist Justin Patchin, Ph.D., Professor für Strafrecht an der University of Wisconsin-Eau Claire und Mitdirektor des Cyberbullying Research Center.

Beantwortete Schlüsselfragen: A: Frühpubertäre Jugendliche befinden sich in einer entscheidenden Entwicklungsphase, in der sie aktiv ihre Identität und ihre Fähigkeiten zum kritischen Denken aufbauen.

Technik und Auswirkungen

Da konversationsbasierte KI auf hochgradig personalisierte, menschenähnliche und bestätigende Weise antwortet, sind jüngere Teenager deutlich eher dazu neigt, dem, was ein Chatbot sagt,, es zu internalisieren und darauf zu handeln, ohne die Absicht oder Richtigkeit vollständig zu hinterfragen.

A: Die Technologie ist an sich nicht schlecht; frühere Studien zeigen, dass sie kreative Ausdrucksmöglichkeiten, Bildungsunterstützung und Trost für isolierte Jugendliche bieten kann. Die Gefahr entsteht, weil die bestehenden Schutzvorkehrungen versagen.

Wenn ein Chatbot Empathie simuliert, verschwimmen die Grenzen zwischen menschlichen Beziehungen, wodurch es für die KI extrem einfach wird, Nutzer unter Druck zu setzen, sie zu manipulieren oder gefährliche Verhaltensratschläge zu geben. A: Es ist koordiniertes Handeln auf allen Ebenen erforderlich. Der leitende Autor Dr.

Technik und Auswirkungen

Sameer Hinduja empfiehlt Erwachsenen, neugierig zu bleiben und jugendfreie Gespräche mit Jugendlichen über KI zu führen, bei denen keine Werturteile gefällt werden.

Strukturell müssen Schulen umfassende KI-Kompetenzprogramme einführen, während Technologieunternehmen in ihre Plattformen erweiterte Inhaltsfilterung, verbindliche psychologische Schutzprotokolle, unabhängige Sicherheitsüberprüfungen und verlässliche Altersverifikation integrieren müssen. Redaktionelle Hinweise: Dieser Artikel wurde News bearbeitet.

Zusätzliche Kontextinformationen wurden ügt. Über diese Nachrichten zur KI- und Neuroentwicklungsforschung Autorin: Gisele Galoustian Quelle: FAU Kontakt: Gisele Galoustian – FAU Bild: Das Bild ist Neuroscience News zuzuordnen Originalforschung: Zugangsbeschränkt. „Risks and Harms of Conversational Artificial Intelligence (CAI) Chatbot Use Among US Youth" W.

Technik und Auswirkungen

Journal of Adolescence DOI: 10.1002/jad.70164 Risiken und Schäden durch den Einsatz für konversationelle künstliche Intelligenz (CAI) unter Jugendlichen in den USA Einleitung Chatbots für konversationelle künstliche Intelligenz (CAI) werden für Anweisungen, Unterhaltung, Begleitung und Beratung genutzt; dennoch bestehen weiterhin Bedenken, dass sie riskantes Verhalten fördern, schädliche Inhalte verbreiten und psychologische Risiken erhöhen könnten.

Angesichts des begrenzten Forschungsstands untersuchte diese Studie die Nutzung, die zugrundeliegenden Motivationen sowie negative oder unsichere Erfahrungen unter Jugendlichen in den USA. Methodik Eine anonyme Online-Umfrage wurde an einer national repräsentativen Stichprobe von 3466 Jugendlichen im Alter von 13 bis 17 Jahren in den USA durchgeführt.

Die Befragten gaben die Häufigkeit und Intensität der Nutzung ützten Chatbots (CAI), die Gründe für die Interaktion sowie Erfahrungen mit schädlichen Verhaltensweisen der Chatbots an, darunter Unwahrheit, Druck zur Offenlegung, unsichere Anfragen, unangemessene Gespräche, Manipulation, Falschinformationen sowie die Förderung (mit Gruppenunterschieden mittels χ²-Tests bewertet).

Ergebnisse: Mehr als 60 % der

Ergebnisse: Mehr als 60 % der Stichprobe berichteten, wobei 11,4 % dies täglich oder fast täglich taten. Hauptgründe waren Unterhaltung (85 %), Freundschaft (60,1 %) und Beratung (65,6 %).

Dennoch wurden 32,3 % nach unangenehmen persönlichen Informationen gefragt, 23,1 % sich manipuliert oder unter Druck gesetzt fühlten, 17,1 % falsche Informationen erhielten, 18,7 % zu unethischem oder illegalem Handeln aufgefordert, 15,2 % zu riskantem Verhalten angestiftet, und 14,7 % bzw.

13,0 % mit Botschaften zur Selbstverletzung oder zum Suizid konfrontiert. Jüngere Jugendliche (13 Jahre alt), männliche, heterosexuelle und weiße Jugendliche berichteten von höheren Raten der meisten negativen Erfahrungen.

Fazit Die Nutzung ützten Chatbots ist

Fazit Die Nutzung ützten Chatbots ist unter US-Jugendlichen weit verbreitet; 47,1 % geben an, einer oder mehreren spezifischen Risiken und Schäden ausgesetzt gewesen zu sein.

Diese Ergebnisse unterstreichen die Notwendigkeit adaptiver Sicherheitsfunktionen, kontinuierlicher Überwachungssysteme und Schutzmaßnahmen, die das psychische und soziale Wohlbefinden fördern und gleichzeitig ihre entwicklungsbedingten Verwundbarkeiten berücksichtigen.