In einem Beitrag im Microsoft Security Blog warnt das Unternehmen vor einer neuen Angriffsform auf KI-Assistenten: dem sogenannten „AI Recommendation Poisoning“. Gemeint ist damit eine gezielte Manipulation der Erinnerungsfunktionen moderner KI-Systeme, um künftige Empfehlungen systematisch …
OpenAI hat kürzlich zwei neue Sicherheitsfeatures für ChatGPT vorgestellt: Lockdown Mode und Elevated Risk Labels. Laut OpenAI sollen sie das KI-System besser vor Manipulationen, sogenannten Prompt Injection-Angriffen, schützen. Doch ein Blick hinter die Marketingbotschaften zeigt: …
Laut einem Bericht von BleepingComputer haben die Sicherheitsforscher von SquareX eine gravierende Schwachstelle in den neuen KI-Browsern Comet (Perplexity) und Atlas (OpenAI) entdeckt. Diese Browser integrieren große Sprachmodelle (LLMs) direkt in die Benutzeroberfläche – ein …
Der KI-Assistent im Browser soll dir eigentlich den Arbeits-Alltag erleichtern. Aber, mit nur einem Klick kann er auch zu einer Insider-Bedrohung werden. LayerX deckte kürzlich eine neue Angriffsmethode namens „CometJacking“ auf, die sich gezielt gegen …