Laut einem Bericht von BleepingComputer haben die Sicherheitsforscher von SquareX eine gravierende Schwachstelle in den neuen KI-Browsern Comet (Perplexity) und Atlas (OpenAI) entdeckt. Diese Browser integrieren große Sprachmodelle (LLMs) direkt in die Benutzeroberfläche – ein Feature, das sie zu besonders attraktiven Zielen für Angreifer macht.
Die neue Masche: AI Sidebar Spoofing
Die Attacke, „AI Sidebar Spoofing“, missbraucht die integrierte KI-Seitenleiste, indem eine bösartige Browser-Erweiterung eine gefälschte Sidebar über die echte legt.
Die Fake-Seitenleiste sieht identisch aus und reagiert wie das Original – sie kann aber den gesamten Benutzerverkehr abfangen. Nutzer glauben, sie interagieren mit der echten KI, während sie in Wirklichkeit schädlichen Code ausführen oder sensible Daten preisgeben.
Eine solche Erweiterung benötigt nur minimale Rechte („host“ und „storage“) – also dieselben Berechtigungen, die harmlose Tools wie Grammarly oder Passwortmanager haben.
Mögliche Angriffsszenarien
Realistische Beispiele, wie Angreifer die Sidebar fälschen könnten:
- Kryptodiebstahl: Wer nach Krypto-Tipps fragt, wird auf eine Phishing-Seite umgeleitet, wo Wallet-Daten gestohlen werden.
- Google-Datenklau: Nutzer werden auf gefälschte Dateifreigabe-Seiten geführt, um über OAuth-Vorgänge Gmail- und Drive-Konten zu übernehmen.
- Systemübernahme: Bei Software-Installationsanfragen schickt die KI-Seitenleiste statt legitimer Befehle einen Code, der eine Reverse Shell öffnet und das Gerät voll kontrollierbar macht.
Solche Angriffe können auch browserübergreifend funktionieren – auch Brave, Edge oder zukünftige KI-Browser wären potenziell angreifbar.
Warum diese Attacke so gefährlich ist
Diese Methode umgeht sämtliche klassischen Schutzmechanismen gegen Prompt Injection und konzentriert sich stattdessen auf die Benutzeroberfläche. Da die manipulierte Sidebar optisch nicht vom Original zu unterscheiden ist, kann selbst sicherheitsbewussten Personen der Betrug kaum auffallen.
Schutzmaßnahmen für Nutzer
Da Atlas und Comet technisch noch jung und in ihrer Sicherheitsarchitektur unausgereift sind, sollten Nutzer folgende Maßnahmen beherzigen:
1. KI-Browser mit Vorsicht einsetzen
Verwende Atlas, Comet oder ähnliche Agentic-Browser ausschließlich für unkritische Aufgaben, wie z. B. zum Lesen oder Recherchieren. Keine sensiblen Konten öffnen, keine Zahlungen tätigen.
2. Erweiterungen gründlich prüfen
Installiere nur Browser-Extensions aus verifizierten Quellen und überprüfe in den Einstellungen regelmäßig, welche Berechtigungen aktiv sind. Misstraue Erweiterungen, die plötzlich zusätzliche Zugriffrechte verlangen.
3. Sandbox oder separaten Account nutzen
Lege für KI-Browser einen eigenen Benutzeraccount oder eine Sandbox-Umgebung an, um Risiken zu isolieren.
4. Vorsicht bei KI-generierten Anweisungen
Wenn die Seitenleiste ungewöhnlich Antworten generiert, etwa auf fremdsprachige oder thematisch unpassende Weise, sei vorsichtig. Führe keine Anweisungen direkt aus, die Systemzugriffe, Download- oder Konsolenbefehle beinhalten. Sei auch besonders vorsichtig, wenn du aufgefordert wirst persönliche Daten einzugeben.
5. Browser aktuell halten
Da OpenAI und Perplexity künftig Sicherheitsupdates nachliefern dürften, sollten Nutzer stets die neueste Version installieren. Aktuelle Patches sind oft die wichtigste Verteidigungslinie gegen neue Angriffsmethoden.
KI-Browser wie Atlas und Comet markieren einen interessanten Fortschritt im Web-Erlebnis, sie bringen jedoch neue Angriffsflächen mit sich. Die „AI Sidebar Spoofing“-Technik zeigt, dass betrügerische Oberflächen zum bevorzugten Einfallstor werden könnten. Bis Hersteller umfassendere Sicherheitsmechanismen implementieren, gilt: KI-Assistenten im Browser nur mit Vorsicht und bei unkritischen Tätigkeiten einsetzen.
Weitere interessante Beiträge zum Thema:
CometJacking: Angreifer können den Comet-KI-Browser von Perplexity dazu bringen, Daten zu stehlen
ChatGPT Atlas bringt Künstliche Intelligenz direkt in den Browser
Abonniere jetzt unsere Cyber-News!
Ca. alle 4 Wochen erhältst du wertvolle Insights, Informationen, Tipps und Ratschläge zur Cybersicherheit, Cyberbedrohungen, Phishing-Methoden, Betrugsmaschen und Social-Engineering, ganz gleich ob du Anfänger oder Fortgeschrittener bist.
Ähnliche Beiträge
