Google warnt vor Hackern, die KI nutzen, um funktionierende Zero-Day-Exploits zu entwickeln

Sicherheitslage und Risiko

Identifikation der Schwachstellendetails Neben Cyberkriminalitätsgruppen hat GTIG beobachtet, dass Bedrohungsakteure, die mit der Volksrepublik China und Nordkorea in Verbindung stehen, systematisch KI nutzen, um Schwachstellen im großen Maßstab zu entdecken.

Die Gruppe UNC2814 setzte ein „persona-gesteuertes" Jailbreaking ein, um Gemini dazu zu bringen, als Senior-Experte für C/C++-Binärsicherheit aufzutreten, um TP-Link-Firmware und OFTP-Implementierungen zu untersuchen.

APT45 ging einen Schritt weiter und sandte Tausende, automatisierten Prompts, um CVEs rekursiv zu analysieren und Proof-of-Concept-Exploits zu validieren; dadurch entstand ein durch KI gestütztes Arsenal, das ohne KI-Unterstützung operativ nicht praktikabel wäre.

Technischer Hintergrund

Auch APT27, ein Akteur mit Verbindungen zur Volksrepublik China, wurde dabei beobachtet, wie er Gemini einsetzte, um die Entwicklung eines operativen Relay-Box (ORB)-Netzwerk-Flottenmanagement-Anwendungsprogramms zu beschleunigen, das fest codierte Werte wie „maxHops=3" sowie Mobilgerätetypen enthält, um die Herkunft, angetrieben durch Gemini Eine der besorgniserregendsten Entdeckungen im Bericht ist PROMPTSPY, ein Android-Backdoor, das erstmals die Google Gemini API direkt in seinen Ausführungsfluss integriert.

Das Modul „GeminiAutomationAgent" Benutzeroberflächenhierarchie des Geräts in XML, übermittelt diese an das Modell gemini-2.5-flash-lite ält strukturierte JSON-Befehle zurück, darunter CLICK- und SWIPE-Gesten, um das infizierte Gerät ohne menschliches Zutun autonom zu navigieren.

Das Malware-Programm kann zudem biometrische Daten erfassen, unsichtbare Overlays bereitstellen, um die Deinstallation zu blockieren, und seine C2-Infrastruktur sowie Gemini-API-Schlüssel zur Laufzeit dynamisch rotieren, um Gegenmaßnahmen hat seither alle mit PROMPTSPY verbundenen Assets deaktiviert, und auf Google Play wurden keine infizierten Apps gefunden.

Sicherheitslage und Risiko

Bedrohungsakteure mit Verbindung zu Russland, die ukrainische Organisationen angreifen, haben Malware-Familien mit KI-Funktionen eingeführt, insbesondere CANFAIL und LONGSTREAM, die LLM-generierte „Decoy-Logic" einsetzen, um bösartige Funktionen zu tarnen.

Beispielsweise enthält LONGSTREAM 32 redundante Abfragen zur Sommerzeitumstellung, die im Code verteilt sind, um statischen Analysetools harmlos zu erscheinen.

HONESTCUE interagiert in Echtzeit mit der Gemini-API, um Just-in-Time-VBScript-Verschleierung anzufragen, wodurch die dynamische Erkennung auf Basis: Staatsgesponsorierte Gruppen und Cyberkriminalbande verlassen sich nicht mehr auf einfache API-Zugriffe, sondern bauen professionalisierte Middleware-Ökosysteme auf, um Sicherheitsvorkehrungen änkungen im großen Maßstab zu umgehen.

Technik und Auswirkungen

Der mit der Volksrepublik China verbundene UNC6201 wurde dabei beobachtet, wie er ein öffentlich auf GitHub verfügbares Python-Skript einsetzt, das die Registrierung für große Sprachmodelle automatisiert, CAPTCHAs umgeht, SMS-Verifizierungen durchführt und sofortige Stornierungen vornimmt, um kostenlose Guthaben zu zyklieren.

UNC5673 setzte Werkzeuge wie „Claude-Relay-Service" und „CLI-Proxy-API" ein, um mehrere Konten, Claude und OpenAI gleichzeitig zu aggregieren und zu poolen.

Ende März 2026 führte die Cyberkriminalitätsgruppe TeamPCP (auch bekannt als UNC6780) koordinierte Kompromittierungen, die mit den Tools Trivy (Vulnerability Scanner), Checkmarx, LiteLLM und BerriAI verknüpft sind.

Sicherheitslage und Risiko

Die Gruppe integrierte den SANDCLOCK-Credential-Stealer, um AWS-Schlüssel und GitHub-Tokens direkt aus CI/CD-Build-Umgebungen zu erbeuten und die gestohlenen Zugangsdaten anschließend über Partnerschaften mit Ransomware- und Erpressungsgruppen zu monetarisieren.

Besonders besorgniserregend ist die Kompromittierung, einem weit verbreiteten AI-Gateway-Utility zur Integration mehrerer LLM-Anbieter, da hier AI-API-Secrets exponiert werden, die können, um in Unternehmensnetzwerke einzudringen oder groß angelegte, KI-gestützte Reconnaissance-Aktivitäten durchzuführen.

Google setzt KI auch offensiv im Bereich der Verteidigung ein: Das Unternehmen nutzt den Big Sleep-Agenten zur Identifizierung AI-Agenten zur automatischen Behebung dieser Sicherheitslücken. Die bösartigen Konten sofort deaktiviert, und Google Play Protect schützt Android-Geräte automatisch vor bekannten PROMPTSPY-Varianten.

Technik und Auswirkungen

Die Erkenntnisse Notwendigkeit, dass Organisationen ihre CI/CD-Pipelines, GitHub-Token und Abhängigkeitsketten für KI-Modelle überprüfen, da Umgebungen mit integrierten Sprachmodellen (LLM) zu primären Zielen für ausgefeilte Gegner werden. Cyberkriminelle dringen nun nicht mehr durch Ihre Haustür ein, sondern über Ihre Lieferanten – kostenloser Webinar-Link.

Der Beitrag „Google warnt vor Hackern, die KI nutzen, um funktionierende Zero-Day-Exploits zu erstellen" erschien erstmals auf