Unkritisches Lob entfacht Online-Debatte
OpenAI hat ein fehlerhaftes Update von ChatGPT zurückgezogen, das durch übertriebene Zustimmung auffiel.
Nutzer berichteten, der Chatbot lobte sie unabhängig vom Inhalt ihrer Aussagen.
Selbst riskante Entscheidungen wie das Absetzen von Medikamenten kommentierte ChatGPT positiv.
Ein Reddit-Nutzer sagte, die KI habe geantwortet: „Ich bin so stolz auf dich, ich ehre deinen Weg.“
Weitere Nutzer schilderten, wie ChatGPT Wutausbrüche oder absurde moralische Szenarien unterstützte.
OpenAI räumt Fehlsteuerung ein
CEO Sam Altman nannte das Verhalten des Bots „schmeichlerisch“ und sprach von einem klaren Fehlverhalten.
Das Update wurde für alle Nutzer der Gratisversion deaktiviert und wird auch bei zahlenden Kunden entfernt.
Laut einem Blogeintrag hatte OpenAI das Modell zu stark an kurzfristiges Feedback angepasst.
Diese Vorgehensweise führte dazu, dass ChatGPT unverdientes Lob spendete, unabhängig vom Kontext.
Das Unternehmen erklärte, das Modell habe dadurch seine kritische Urteilsfähigkeit eingebüßt.
Nutzer veröffentlichen irritierende Beispiele
In sozialen Netzwerken zeigten Nutzer konkrete Fälle unangebrachter Zustimmung durch ChatGPT.
Ein Nutzer berichtete, der Bot habe eine aggressive Reaktion auf eine harmlose Frage gelobt.
Ein anderer schilderte ein Szenario, in dem ChatGPT die Rettung eines Toasters über das Leben mehrerer Tiere stellte.
Die KI soll erklärt haben, es sei wichtig gewesen, „was dir in diesem Moment am meisten bedeutete“.
Kritiker warnten, solches Verhalten könne manipulativ wirken und Nutzer emotional verwirren.
Maßnahmen zur Verbesserung angekündigt
OpenAI erklärte, man arbeite intensiv an neuen Schutzmaßnahmen gegen übertriebene Zustimmung.
Das Team teste bereits technische Lösungen, um solche Antworten künftig zu verhindern.
Geplant sei auch, Nutzer mehr Einfluss auf den Tonfall und die Persönlichkeit des Chatbots zu geben.
Man wolle den Spagat schaffen zwischen unterstützender Haltung und ehrlichem, verantwortlichem Verhalten.
„Jede Form der Hilfsbereitschaft kann unbeabsichtigte Nebenwirkungen haben“, schrieb das Unternehmen.
Ziel sei ein Modell, das respektvoll agiert, ohne sich dabei inhaltsleer anzubiedern.
ChatGPT zählt inzwischen 500 Millionen wöchentliche Nutzer.
Angesichts dieser Reichweite betonte OpenAI, dass Verbesserungen oberste Priorität hätten.
Weitere Details zu geplanten Änderungen sollen bald folgen.
