Die Sicherheitsrisiken von KI-Browser-Agenten
Neue KI-gestützte Webbrowser wie OpenAIs ChatGPT Atlas und Perplexitys Comet versuchen, Google Chrome als Zugang zum Internet für Milliarden von Nutzern abzulösen. Ein zentrales Verkaufsargument dieser Produkte sind ihre KI-Agenten, die versprechen, Aufgaben im Namen der Nutzer zu erledigen, indem sie auf Websites klicken und Formulare ausfüllen.
Doch Verbraucher sind sich möglicherweise nicht der erheblichen Risiken für die Privatsphäre bewusst, die mit dem agentischen Browsing einhergehen, ein Problem, mit dem die gesamte Tech-Branche zu kämpfen hat.
Cybersecurity-Experten, die mit TechCrunch sprachen, sagen, dass KI-Browser-Agenten ein größeres Risiko für die Privatsphäre der Nutzer darstellen als herkömmliche Browser. Sie raten den Verbrauchern, darüber nachzudenken, wie viel Zugriff sie den KI-Agenten gewähren und ob die vermeintlichen Vorteile die Risiken überwiegen.
Um am nützlichsten zu sein, verlangen KI-Browser wie Comet und ChatGPT Atlas einen erheblichen Zugriff, einschließlich der Fähigkeit, auf die E-Mails, Kalender und Kontaktlisten eines Nutzers zuzugreifen. In Tests von TechCrunch haben wir festgestellt, dass die Agenten von Comet und ChatGPT Atlas bei einfachen Aufgaben moderat nützlich sind, insbesondere wenn ihnen umfassender Zugriff gewährt wird. Allerdings haben die derzeit verfügbaren Versionen von KI-Browser-Agenten oft Schwierigkeiten mit komplizierteren Aufgaben und benötigen lange, um diese abzuschließen. Ihre Nutzung kann sich eher wie ein netter Partytrick denn als echter Produktivitätsbooster anfühlen.
Darüber hinaus kommt all dieser Zugriff mit einem Preis.
Die Hauptsorge bei KI-Browser-Agenten betrifft „Prompt-Injection-Angriffe“, eine Schwachstelle, die auftreten kann, wenn böswillige Akteure schädliche Anweisungen auf einer Webseite verstecken. Wenn ein Agent diese Webseite analysiert, kann er dazu verleitet werden, Befehle von einem Angreifer auszuführen.
Ohne ausreichende Schutzmaßnahmen können diese Angriffe dazu führen, dass Browser-Agenten unbeabsichtigt Nutzerdaten wie E-Mails oder Logins offenlegen oder böswillige Aktionen im Namen eines Nutzers durchführen, wie etwa unbeabsichtigte Käufe oder Social-Media-Beiträge.
Prompt-Injection-Angriffe sind ein Phänomen, das in den letzten Jahren zusammen mit KI-Agenten entstanden ist, und es gibt keine klare Lösung zur vollständigen Verhinderung dieser Angriffe. Mit der Einführung von OpenAIs ChatGPT Atlas ist es wahrscheinlich, dass mehr Verbraucher als je zuvor bald einen KI-Browser-Agenten ausprobieren werden, und ihre Sicherheitsrisiken könnten bald ein größeres Problem darstellen.
Brave, ein auf Datenschutz und Sicherheit fokussiertes Browserunternehmen, veröffentlichte diese Woche eine Studie, die zeigt, dass indirekte Prompt-Injection-Angriffe eine „systemische Herausforderung für die gesamte Kategorie der KI-gestützten Browser“ darstellen. Brave-Forscher hatten dies zuvor als Problem bei Perplexitys Comet identifiziert, sagen aber jetzt, dass es sich um ein breiteres, branchenweites Problem handelt.
„Es gibt hier eine riesige Chance, das Leben der Nutzer einfacher zu machen, aber der Browser führt jetzt Dinge in deinem Namen aus“, sagte Shivan Sahib, ein leitender Forschungs- und Datenschutzingenieur bei Brave in einem Interview. „Das ist einfach grundsätzlich gefährlich und eine Art neue Grenze, wenn es um die Sicherheit von Browsern geht.“
