OpenAI hat kürzlich zwei neue Sicherheitsfeatures für ChatGPT vorgestellt: Lockdown Mode und Elevated Risk Labels. Laut OpenAI sollen sie das KI-System besser vor Manipulationen, sogenannten Prompt Injection-Angriffen, schützen. Doch ein Blick hinter die Marketingbotschaften zeigt: Die neuen Features werfen mindestens genauso viele Fragen auf, wie sie beantworten.

Lockdown Mode: Schutz auf Kosten der Nutzerfreundlichkeit

Lockdown Mode soll ChatGPT in einen besonders sicheren Modus versetzen. Dabei werden Funktionen wie Live-Webzugriff oder bestimmte Tools stark eingeschränkt, um Datenlecks zu verhindern. Auf den ersten Blick klingt das nach einem logischen Sicherheitsmechanismus. Doch wie sinnvoll ist ein Modus, der das Produkt in seiner Nutzung so stark einschränkt?

Viele Kernfunktionen, die ChatGPT nützlich machen – etwa Recherche in Echtzeit oder komplexe Interaktionen über Agenten-Modi – werden im Lockdown Mode abgeschaltet. Die Sicherheitsmaßnahme wirkt also weniger wie ein Schutzschild und mehr wie ein Not-Aus-Schalter.

Hinzu kommt: Lockdown Mode ist derzeit nur für ausgewählte Unternehmenskunden verfügbar. Ein breiter Rollout für alle Nutzer ist noch nicht möglich. Das deutet darauf hin, dass die Risiken tiefer liegen, als OpenAI öffentlich einräumt.

Elevated Risk Labels: Information oder Symbolpolitik?

Zusätzlich führt OpenAI die sogenannten Elevated Risk Labels ein. Bestimmte Funktionen, die potenziell risikobehaftet sind, sollen künftig mit Warnhinweisen versehen werden. Das klingt zunächst nach mehr Transparenz, doch ein genauer Blick offenbart Probleme.

Ein Label informiert lediglich: „Diese Funktion könnte riskant sein.“ Es liefert aber keine konkrete Einschätzung, wie groß das Risiko tatsächlich ist. Für den Nutzer bleibt unklar, wann und wie er handeln sollte. Das Label kann deshalb leicht als kosmetische Maßnahme wirken oder wie ein Hinweis, der eher die Verantwortung auf den Nutzer abwälzt, als das er echte Sicherheit bietet.

Was OpenAI verschweigt

Lockdown Mode und Elevated Risk Labels adressieren primär das Problem der Prompt Injection. Doch Prompt Injection ist nur eine von vielen Sicherheitsherausforderungen, denen KI-Systeme ausgesetzt sind. Manipulierbare Antworten, fehlerhafte Empfehlungen oder subtile Fehlinformationen werden dadurch nicht verhindert.

Zudem bleiben die genauen Mechanismen hinter den neuen Features weitgehend undurchsichtig. Transparenz ist ein Schlüssel für Vertrauen – ohne nachvollziehbare Kriterien, wann ein Label ausgelöst wird oder wie der Lockdown Mode funktioniert, entsteht genau das Gegenteil: Unsicherheit beim Nutzer.

Ein halbherziger Schritt in die richtige Richtung

OpenAI zeigt mit diesen Funktionen, dass Sicherheit ernst genommen wird. Doch die Maßnahmen sind aktuell:

• Zu restriktiv, da viele praktische Funktionen deaktiviert werden,
• Zu intransparent, weil die Risikobewertung unklar bleibt,
• Zu symbolisch, weil Labels eher auf Warnungen als auf echte Schutzmechanismen setzen.

Für echte Vertrauenswürdigkeit braucht es mehr als Abschottung und Warnhinweise. OpenAI muss systematische, transparente Sicherheitsmethoden entwickeln, die sowohl Schutz bieten als auch die volle Funktionalität von ChatGPT erhalten. Nur so kann KI langfristig verantwortungsvoll eingesetzt werden.