OpenAI hat ein neues Feature angekündigt, das zusätzlichen Schutz vor Eingabeangriffen bieten soll, bei denen bösartige Chatbot-Anweisungen in Webseiten und anderen Inhaltsquellen versteckt sind.
Der Lockdown-Modus deaktiviert unter anderem das Browsen im Internet (so dass nur auf zwischengespeicherte Inhalte zugegriffen werden kann), die Abrufung und Anzeige von Bildern aus dem Web (Bilder können jedoch weiterhin generiert werden), tiefgehende Recherchen und den Agentenmodus.
Das Unternehmen erklärt, dass ChatGPT selbst im Lockdown-Modus weiterhin anfällig für Eingabeangriffe sein könnte, die beispielsweise in zwischengespeicherten Webinhalten oder in hochgeladenen Dateien auftreten und das Verhalten oder die Genauigkeit einer Antwort beeinflussen könnten.
Das Ziel ist es jedoch, die Wahrscheinlichkeit zu verringern, dass sensible Daten im Prozess geteilt werden.
„Der Lockdown-Modus ist nicht für jedermann gedacht“, sagt OpenAI. „Er ist für Personen und Organisationen konzipiert, die mit sensiblen Daten umgehen und einen strengeren Schutz vor Risiken der Datenexfiltration im Zusammenhang mit Eingabeangriffen wünschen.“
Das Unternehmen rollt den Lockdown-Modus derzeit für selbstverwaltete ChatGPT Business-Konten sowie für berechtigte persönliche Konten aus.
