OpenAI führt mit ChatGPT einen neuen universellen KI-Agenten ein, der laut einem kürzlich veröffentlichten News-Beitrag von OpenAI („Der ChatGPT-Agent: eine Brücke zwischen Forschung und Aktion“) eine Vielzahl computerbasierter Aufgaben für Nutzer übernehmen kann. Der Agent kann automatisch in Kalendern und auf Websites navigieren, editierbare Präsentationen und Diashows erstellen, Code ausführen und mithilfe von Deep Research Informationen von Dutzenden Websites zu einem Forschungsbericht zusammenfassen.

Grundlage ist ein neues Modell, das Reinforcement Learning nutzt und Technologien wie Operator & Deep Research kombiniert. OpenAI hat mit dem ChatGPT Agent eine leistungsfähigere KI eingeführt, die Aufgaben am Computer eigenständig erledigen kann – dazu gehören z. B.:

Terminkoordination, Restaurantbuchungen, Online-Einkäufe, Präsentationen oder komplexe Recherche­berichte via Deep Research. Er führt mehrstufige Prozesse selbstständig aus: von Webseiten-Interaktionen über Formular­ausfüllung bis hin zu API-Zugriffen und Terminals. In Tests erreichte der Agent etwa 41,6 % Genauigkeit bei „Humanity’s Last Exam“ und 27,4 % bei FrontierMath, laut OpenAI neue Höchstwerte für KI-Agenten.

Verfügbarkeit: Der Agent ist bereits für ChatGPT Pro-, Plus- sowie Team-Nutzer zugänglich und wird später auch für Enterprise- und Education-Abonnements verfügbar sein – in Europa folgt der Rollout noch. Nutzer aktivieren den Agent über „Agent Mode“ oder den Befehl „/agent“ in ChatGPT

Datenschutz & Sicherheit – was macht den Agenten riskant?

Der ChatGPT Agent ist eine beeindruckende technologische Weiterentwicklung – aber gerade im Bereich Datenschutz und Sicherheit wirft er einige zentrale Fragen auf, die aus technischer, juristischer und gesellschaftlicher Perspektive bedacht werden müssen.

1. Tiefgreifender Zugriff auf persönliche Daten

Der Agent kann auf Tools wie:

• Kalender, E-Mail,
• Dateien, Websites, Apps,
• ggf. auch Bank- oder Shoppingkonten
  zugreifen – mit Nutzererlaubnis, aber technisch potenziell sehr weitreichend.

Bedenken: Auch wenn Nutzer ihre Zustimmung geben – tun sie das informiert? Viele klicken auf „Erlauben“, ohne genau zu wissen, wie umfassend die Erlaubnis wirklich ist. Wer garantiert, dass die Daten nicht langfristig gespeichert, getrackt oder rekonstruiert werden?

2. Automatisiertes Handeln mit Eigeninitiative

Der Agent führt komplexe Aktionen selbst aus:

• Sucht Angebote,
• füllt Formulare aus,
• interagiert mit fremden Webdiensten,
• tätigt ggf. auch Käufe oder Anmeldungen.

Problematisch ist, dass der Mensch in der Kette passiv wird. Manchmal bekommt er nicht mal mehr genau mit, wo seine Daten landen oder welche Inhalte gesendet werden – etwa bei einer automatisierten E-Mail, die von der KI verfasst und verschickt wird.

3. Zwischenspeicherung sensibler Inhalte

Für kontextbezogene Aufgaben muss der Agent Inhalte zwischenspeichern:

• Texte,
• Gesprächsverläufe,
• Web-Inhalte,
• Metadaten von Websites.

Kritikpunkt: Auch wenn OpenAI betont, dass dies nur temporär geschieht – was passiert, wenn zwischengespeicherte Daten durch Sicherheitslücken oder Zugriff Dritter kompromittiert werden?

4. Grenze zwischen Assistenz und Überwachung verschwimmt

Der Agent muss den Nutzer gut „kennen“, um hilfreich zu sein – das bedeutet:

• Verhaltensprofile,
• Präferenzen,
• vergangene Entscheidungen,
• persönliche Kontakte oder Routinen.

Frage: Wann wird aus nützlichem Kontextsammeln eine Art Verhaltensüberwachung? Könnte ein KI-Agent irgendwann ausnutzen, was er über dich weiß – zum Beispiel, um dich zu beeinflussen?

5. Missbrauch durch Dritte / Social Engineering

• Agenten können nicht zwischen „guten“ und „bösen“ Absichten unterscheiden.
• Ein manipulierter Auftrag (z. B. per API oder bösartigem Link) könnte dazu führen, dass der Agent ungewollt Daten preisgibt oder sich selbst „ausspionieren“ lässt.

Worst Case: Ein Angreifer bringt den Agenten dazu, sensible Daten in eine manipulierte Eingabemaske einzugeben – z. B. Login-Daten, E-Mails oder sogar Code-Snippets aus einem Firmenprojekt.

6. Juristische Grauzonen und internationale Regulierung

• Die Datenverarbeitung durch KI-Agenten ist komplexer als bei klassischer Software.
• Viele Datenschutzgesetze (z. B. DSGVO) sind auf transparente, vorhersehbare Prozesse ausgelegt – ein KI-Agent aber handelt dynamisch, nicht immer nachvollziehbar.

Rechtliches Risiko: Wer haftet, wenn ein Agent einen DSGVO-Verstoß begeht? Wer informiert Dritte, deren Daten ungewollt verarbeitet wurden? Gibt es ein „Recht auf Vergessen“ für Agenten?

Was wäre ein verantwortungsvoller Weg?

1. Transparenzradar für Agenten: Ein Dashboard, das alle Aktionen, Datenzugriffe und Ziele in Echtzeit zeigt – für maximale Kontrolle.
2. Explizite Sicherheitszonen: Klare Grenzen, was der Agent niemals ohne Zweitfreigabe darf – z. B. Passwörter versenden, Geld überweisen, Dokumente teilen.
3. Datenschutz-Profil pro Aufgabe: Nutzer können vorab einstellen, welche Daten für welche Art von Aufgabe verwendet werden dürfen – z. B. „Beim Buchen einer Reise: nur Browser, nicht Kalender“.
4. Unabhängiges Audit-System: Eine neutrale Instanz kontrolliert und zertifiziert Agenten-Funktionen ähnlich wie bei TÜV- oder DSGVO-Prüfungen.
5. Lokal statt Cloud: So viel wie möglich lokal verarbeiten, damit persönliche Daten das Gerät gar nicht verlassen müssen.

Geschwindigkeit und Fehleranfälligkeit

Geschwindigkeit vs. Komplexität: OpenAI betont, dass der Agent gelegentlich langsamer (bis zu 30 Minuten für anspruchsvolle Aufgaben) arbeite – im Hintergrund könne man aber weiterarbeiten. Für manche Anwendungsfälle mag das zu langsam sein.

Fehleranfälligkeit: In komplexen oder dynamischen Szenarien können Fehler auftreten – wie bei jeder KI handelt es sich nicht um eine störungsfreie Intelligenz.

Das Risiko eines stillen Kontrollverlusts

Der ChatGPT Agent markiert zweifellos einen revolutionären Schritt in der Automatisierung digitaler Aufgaben. Seine Fähigkeit, eigenständig zu handeln, Entscheidungen zu treffen und mit Online-Diensten zu interagieren, verspricht enorme Effizienzgewinne für Nutzer – vom Alltag bis zur Wissenschaft. Doch je mächtiger solche Systeme werden, desto größer wird auch das Risiko eines stillen Kontrollverlusts.

Der Nutzer gibt nicht nur Aufgaben, sondern auch Verantwortung ab – an eine Technologie, deren Prozesse oft nicht mehr vollständig transparent, nachvollziehbar oder kontrollierbar sind. Gerade in datensensiblen Bereichen wie E-Mail, Banking oder Terminverwaltung braucht es klare Grenzen, Aufklärung und möglicherweise auch Regulierung.

Ein System, das auf „Zustimmung durch Unwissenheit“ basiert, ist nicht zukunftsfähig – auch wenn es bequem ist.

Wenn wir wollen, dass KI-Agenten wirklich im Dienst des Menschen stehen, müssen Datenschutz, ethische Leitlinien und technische Absicherung integraler Bestandteil der Innovation sein – nur dann wird aus dem Agenten ein Werkzeug und nicht etwa ein Risiko.

Mehr über KI-Agenten und die neue, virtuelle Generation von stromfressenden Angreifern gibt’s in unserem regelmäßig erscheinenden Newsletter. Jetzt abonnieren – bevor dich ein Sprachmodell so täuschend echt anruft, dass du am Ende noch höflich „ja“ sagst: