Am 11. Mai 2026 meldete Google die Entdeckung eines bislang unbekannten Angreifers, der eine Zero-Day-Schwachstelle ausnutzte. Erstmals konnte eine künstliche Intelligenz zur Entwicklung und Umsetzung eines Exploits im realen Umfeld nachgewiesen werden.

Die Schwachstelle befand sich in einem beliebten Open-Source-Systemverwaltungstool. Ein Python-Skript ermöglichte es Angreifern, die 2-Faktor-Authentifizierung zu umgehen, wenn gültige Zugangsdaten vorlagen. Analysen des Skripts zeigten Merkmale von LLM-generiertem Code: strukturierte Funktionen, detaillierte Hilfetexte und sogar ein fiktiver CVSS-Score.

Rolle der künstlichen Intelligenz

Google schloss andere KI-Quellen aus, kam aber zu dem Schluss, dass ein KI-Modell zur Schwachstellensuche und Exploit-Generierung eingesetzt wurde. KI eignet sich besonders, um hochkomplexe semantische Logikfehler und Schwachstellen zu identifizieren.

PromptSpy: Malware mit erweiterten Fähigkeiten

Neben dem Exploit entdeckten Googles Analysten die Android-Malware PromptSpy. Sie konnte:

• Benutzerbiometrie erfassen, um Sperrmuster oder PINs zu reproduzieren.
• Die Deinstallation der App verhindern.
• Nutzeraktivitäten in Echtzeit analysieren und autonom weitere Schritte ausführen.

Die Malware konnte dynamisch auf Befehle reagieren und Infrastrukturkomponenten während des laufenden Betriebs austauschen, ohne dass die Angreifer die Software neu bereitstellen mussten.

Globale Nutzung von KI durch Angreifer

Weitere Beobachtungen zeigten, dass zahlreiche Staaten und kriminelle Gruppen KI für Cyberoperationen nutzen:

• China-nexus Gruppen wie UNC2814 setzten KI ein, um Sicherheitslücken in Netzwerkgeräten zu analysieren.
• Nordkoreanische Akteure wie APT45 verwendeten KI für wiederholte CVE-Analysen und Exploit-Validierungen.
• Russisch-nexus Gruppen entwickelten KI-Malware wie CANFAIL und LONGSTREAM, die LLM-generierten Code zur Verschleierung nutzen.

Auch spezialisierte Plattformen und Schatten-APIs erlaubten Angreifern den Zugriff auf KI-Modelle unter Umgehung regionaler Nutzungslimits, was den Missbrauch von KI-Systemen in großem Maßstab erleichterte.

Sicherheitsmaßnahmen und Ausblick

Google arbeitete eng mit betroffenen Anbietern zusammen, um die Schwachstellen zu schließen und die Infrastruktur von PromptSpy zu deaktivieren. Die Analysen zeigen jedoch, dass KI-basierte Angriffe die Bedrohungslandschaft beschleunigen: Schwachstellen können schneller entdeckt und ausgenutzt werden, Malware agiert autonom, und Angreifer können ihre Methoden kontinuierlich anpassen.

Die aktuellen Entwicklungen verdeutlichen, dass KI nicht nur ein Werkzeug für Effizienzsteigerung ist, sondern zunehmend für Angriffsszenarien genutzt wird. Unternehmen und Sicherheitsorganisationen müssen ihre Strategien anpassen, um sowohl KI-gesteuerte Schwachstellenerkennung als auch autonome Malware-Angriffe frühzeitig zu erkennen und abzuwehren.