OpenAI reorganisiert Forschungsteam hinter der Persönlichkeit von ChatGPT
OpenAI reorganisiert sein Model Behavior-Team, eine kleine, aber einflussreiche Gruppe von Forschern, die gestalten, wie die KI-Modelle des Unternehmens mit Menschen interagieren. In einem Memo an die Mitarbeiter, das TechCrunch vorliegt, erklärte OpenAIs Chief Research Officer Mark Chen, dass das Model Behavior-Team, das aus etwa 14 Forschern besteht, dem Post Training-Team beitreten wird, einer größeren Forschungsgruppe, die für die Verbesserung der KI-Modelle des Unternehmens nach deren ursprünglichem Training verantwortlich ist.
Im Rahmen der Änderungen wird das Model Behavior-Team nun an Max Schwarzer, den Leiter des Post Training bei OpenAI, berichten. Ein Sprecher von OpenAI bestätigte diese Änderungen gegenüber TechCrunch.
Die Gründungsvorsitzende des Model Behavior-Teams, Joanne Jang, wechselt ebenfalls zu einem neuen Projekt im Unternehmen. In einem Interview mit TechCrunch sagt Jang, dass sie ein neues Forschungsteam namens OAI Labs aufbauen wird, das für die „Erfindung und Prototypen neuer Schnittstellen verantwortlich ist, wie Menschen mit KI zusammenarbeiten können“.
Das Model Behavior-Team ist zu einer der Schlüsselgruppen bei OpenAI geworden, die für die Gestaltung der Persönlichkeit der KI-Modelle des Unternehmens verantwortlich ist und dafür sorgt, dass die Modelle nicht einfach nur den Glauben der Benutzer verstärken, sondern ausgewogene Antworten bieten. Das Team hat auch an der Navigation politischer Voreingenommenheit in den Modellantworten gearbeitet und OpenAI dabei geholfen, seine Haltung zur KI-Bewusstheit zu definieren.
In den letzten Monaten sah sich OpenAI zunehmender Kritik bezüglich des Verhaltens seiner KI-Modelle ausgesetzt. Benutzer lehnten stark ab, dass Änderungen an der Persönlichkeit von GPT-5 vorgenommen wurden, die laut dem Unternehmen niedrigere Raten von Schmeichelei aufwiesen, jedoch für einige Benutzer kälter wirkten. Dies führte dazu, dass OpenAI den Zugang zu einigen seiner älteren Modelle, wie GPT-4o, wiederherstellte und ein Update veröffentlichte, um die Antworten von GPT-5 „wärmer und freundlicher“ zu gestalten, ohne die Schmeichelei zu erhöhen.
