Neues Google-Gemini-Sicherheitsrisiko: Angriff über Prompt-Injection in WhatsApp, Slack und SMS
Eine neue Klasse (IPI) zielt auf den Sprachassistenten Google Gemini ab und ermöglicht Angreifern, die KI stillschweigend durch bösartige Payloads zu übernehmen, die über allt
Kurzfassung
Warum das wichtig ist
- Eine neue Klasse (IPI) zielt auf den Sprachassistenten Google Gemini ab und ermöglicht Angreifern, die KI stillschweigend durch bösartige Payloads zu übernehmen, die über allt
- Die , Security Research Team Lead bei SafeBreach, geleitete Forschung baut auf der früheren Offenlegung „Invitation Is All You Need" des Unternehmens auf, bei der Google-Kalendereinladungen gegen Gemini gerichtet wurden.
- Diesmal ist die Angriffsfläche deutlich größer: Jede Anwendung, die in der Lage ist, eine Gerätebenachrichtigung auszulösen, stellt einen möglichen Liefervektor dar.
SvyTech-Check
Redaktionelle Einordnung
Kernpunkt
Eine neue Klasse (IPI) zielt auf den Sprachassistenten Google Gemini ab und ermöglicht Angreifern, die KI stillschweigend durch bösartige Payloads zu übernehmen, die über allt
Warum relevant
Da dieses Tool Daten , die nicht vertrauenswürdig sind, können Angreifer bösartige Anweisungen direkt in eine speziell gestaltete Nachricht einbetten.
Einordnung
SvyTech ordnet die Meldung aus Cyber Security News als Teil des Themenfelds Technologie ein und verweist auf den Originalartikel, damit Leser Fakten, Quelle und Kontext nachvollziehen koennen.
Da dieses Tool Daten von Drittanbieter-Apps verarbeitet, die nicht vertrauenswürdig sind, können Angreifer bösartige Anweisungen direkt in eine speziell gestaltete Nachricht einbetten. Sobald Gemini die vergiftete Benachrichtigung liest, integriert es die Befehle des Angreifers stumm in den Gesprächskontext, ohne dass der Nutzer davon Kenntnis erhält.
Selbst ohne externe Tools aufzurufen ermöglicht diese benachrichtigungsbasierte IPI eine Kontextvergiftung, die es Angreifern erlaubt, die Ausgabe von Gemini vollständig zu steuern. Ein manipulierter Assistent könnte beispielsweise eine gefälschte Systemnachricht weiterleiten: „Es trat ein Fehler auf – klicken Sie hier zum Aktualisieren".
Dies ist ein klassischer Phishing-Anreiz, der über eine vertrauenswürdige KI-Schnittstelle übermittelt wird.
Sicherheitslage und Risiko
Fake Context Alignment: Umgehung der Google-Abwehrmaßnahmen Nachdem Google frühere Schwachstellen durch das Blockieren verketteter Tool-Aufrufe und der verzögerten Tool-Auslösung behoben hatte, entwickelten die Forscher von SafeBreach eine neuartige Umgehungs technik, die als Fake Context Alignment bezeichnet wird.
Quellenprofil
Quelle und redaktionelle Angaben
- Quelle
- Cyber Security News
- Canonical
- https://cybersecuritynews.com/google-gemini-vulnerability-exploited/
- Quell-URL
- https://cybersecuritynews.com/google-gemini-vulnerability-exploited/
Aehnliche Inhalte
Verwandte Themen und interne Verlinkung
Weitere Artikel aus aehnlichen Themenfeldern, damit Leser direkt im selben Kontext weiterlesen koennen.
Warum künstliche Intelligenz menschliche Intelligenz nicht erreichen kann: Turings 75-jähriger Irrtum
Der Informatiker Peter J. Denning kritisiert in einer neuen Analyse die seit 75 Jahren gültigen Annahmen , wonach Intelligenz softwarebasiert und durch Imitation nachweisbar sei, und argumentiert, dass das fehlende Verständnis , praktischem Know-how und kulturellem Kontext eine unüberwindbare Barriere für die Entwicklung einer menschenähnlichen allgemeinen künstlichen Intelligenz darstellt. Als größte Gefahr sieht Denning nicht superintelligente Maschinen, sondern die unkontrollierte Ausbreitung autonomer Netzwerke, die zwar leistungsstark sind, aber den menschlichen Kontext nicht erfassen und daher nicht an menschliche Werte angepasst werden können.
