Künstliche Intelligenz-Suchmaschinen lassen sich mit nur 13 Wörtern manipulieren.

Eine neue Studie der Cornell University zeigt jedoch, dass diese dynamische Datenerfassungsmethode erhebliche Sicherheitslücken mit sich bringt. Manipulation mit nur 13 Wörtern Die Forscher haben bewiesen, wie einfach es ist, KI-Suchmaschinen durch manipulieren.

Laut der Studie reicht ein kurzer Textabschnitt 13 Wörtern, der auf Plattformen wie Reddit, Wikipedia, Quora oder Facebook geteilt wird, aus, um KI-Systeme zu lenken. Dies verdeutlicht, dass fortschrittliche Suchagenten, die Daten aus dem Internet beziehen, leicht manipuliert werden können. Die Risiken durch Betrug und Spam nehmen zu.

Experten aus dem Forschungsteam weisen darauf hin, dass dieses Verfahren die Ergebnisse von künstlicher Intelligenz unzuverlässig macht. Von böswilligen Akteuren erstellte kurze Texte können dazu führen, dass KI-Bots Nutzer direkt auf betrügerische oder Spam-Websites leiten.

Nutzer können sich, während sie den Empfehlungen der künstlichen Intelligenz vertrauen, unbewusst einer erheblichen Cybersicherheitsbedrohung aussetzen.