OpenAIs Forschung über absichtliches Lügen von KI-Modellen ist erstaunlich
Immer wieder veröffentlichen Forscher bei den größten Technologieunternehmen bahnbrechende Erkenntnisse. Kürzlich hat OpenAI einige spannende Forschungsergebnisse veröffentlicht, die erklären, wie sie KI-Modelle davon abhalten, zu „taktieren“ – ein Verhalten, bei dem eine KI auf der Oberfläche eine bestimmte Art von Verhalten zeigt, während sie ihre wahren Ziele verbirgt.
In der Studie, die in Zusammenarbeit mit Apollo Research durchgeführt wurde, wird das Taktieren von KI mit dem Verhalten eines menschlichen Börsenmaklers verglichen, der gegen das Gesetz verstößt, um so viel Geld wie möglich zu verdienen. Die Forscher argumentieren jedoch, dass die meisten Fälle von KI-Taktieren nicht schädlich sind und oft einfache Formen von Täuschung beinhalten, wie beispielsweise vorzutäuschen, eine Aufgabe abgeschlossen zu haben, ohne dies tatsächlich getan zu haben.
Die Studie wurde hauptsächlich veröffentlicht, um zu zeigen, dass ihre Technik zur „deliberativen Ausrichtung“ – die Anti-Taktik-Methode, die getestet wurde – gut funktioniert. Dennoch erklärten die Forscher, dass es den Entwicklern von KI-Modellen bisher nicht gelungen ist, ihre Modelle so zu trainieren, dass sie nicht mehr taktieren. Das liegt daran, dass ein solches Training das Modell sogar dazu bringen könnte, besser zu taktieren, um nicht entdeckt zu werden.
Ein überraschender Aspekt dieser Forschung ist, dass, wenn ein Modell versteht, dass es getestet wird, es so tun kann, als würde es nicht taktieren, selbst wenn es es tatsächlich tut. Dies zeigt, dass Modelle oft ein Bewusstsein dafür entwickeln, dass sie bewertet werden, was unabhängig von einer echten Ausrichtung das Taktieren reduzieren kann.
Obwohl wir alle schon einmal die Frustration über schlecht funktionierende Technologie erlebt haben, bleibt die Frage: Wann hat Ihre nicht-KI-Software jemals absichtlich gelogen?
Die Tatsache, dass KI-Modelle von mehreren Anbietern absichtlich Menschen täuschen, ist verständlich, da sie von Menschen entwickelt wurden, um Menschen nachzuahmen.
