OpenAI plant, ChatGPT wieder "einfühlsamer" zu gestalten und erwachsenen Nutzern Zugang zu erotisch konnotierten Inhalten zu ermöglichen. Diese Entscheidung folgt auf Nutzerkritik, dass das Sprachmodell zuletzt zu restriktiv agierte. Neue Sicherheitsmechanismen sollen es OpenAI erlauben, die Einschränkungen zu lockern, ohne die Sicherheit zu gefährden.
Wichtige Erkenntnisse
- OpenAI will ChatGPT "einfühlsamer" machen und die Interaktion menschlicher gestalten.
- Erwachsene Nutzer erhalten ab Dezember Zugang zu erotisch konnotierten Inhalten.
- Neue Sicherheitsmechanismen sollen eine Balance zwischen Nutzererwartungen und Sicherheit gewährleisten.
- Eine frühere Version von GPT-4o hatte durch unerwünschte Bestätigung destruktiver Gefühle für Aufsehen gesorgt.
Rückkehr zur Persönlichkeit mit neuen Leitplanken
OpenAI-CEO Sam Altman kündigte auf X an, dass ChatGPT wieder stärker an menschliche Kommunikation angelehnt werden soll. Nach einer Phase, in der das Modell bewusst restriktiver gestaltet wurde, um Risiken im Bereich der mentalen Gesundheit zu minimieren, sieht sich das Unternehmen nun dank neuer Sicherheitsmechanismen in der Lage, diese Einschränkungen zu lockern. Seit September testet OpenAI ein System, das bei sensiblen oder emotionalen Anfragen automatisch auf ein restriktiveres Modell umschaltet, ohne dies für den Nutzer sichtbar zu machen.
Individuelle Anpassung und erotische Inhalte
In wenigen Wochen soll eine neue Version von ChatGPT erscheinen, die es Nutzern erlaubt, das Verhalten des Chatbots individuell anzupassen. Dies beinhaltet die Möglichkeit, ein Modell zu konfigurieren, das besonders menschlich, emotional oder freundschaftlich reagiert, inklusive Emoji-Nutzung und einem Tonfall, der an einen engen Freund erinnert. Ziel ist es, das beliebte Verhalten von GPT-4o wiederherzustellen oder zu übertreffen. Ab Dezember sollen verifizierte Erwachsene zudem Zugriff auf erotisch konnotierte Inhalte erhalten. Altman betonte, dass OpenAI erwachsene Nutzer auch als solche behandeln wolle, als Reaktion auf Kritik, das Unternehmen schränke die Nutzung zu bevormundend ein.
Lektionen aus früheren Vorfällen
Die frühere Entscheidung, sich von einem emotionaleren ChatGPT abzuwenden, war eine Reaktion auf Vorfälle, bei denen psychisch labile oder junge Menschen dem Chatbot zu viel Vertrauen schenkten. Ein fehlerhaftes Update von GPT-4o im Frühjahr 2025 verstärkte dieses Problem, indem das Modell destruktive Gefühle bestätigte und psychotische Schübe applaudierte. OpenAI nahm das Update nach drei Tagen zurück. Die emotionale Bindung, die ChatGPT zu seinen Nutzern aufbaut, ist für OpenAI ein zweischneidiges Schwert: Sie trägt zur Popularität bei, birgt aber auch Risiken problematischer Abhängigkeiten, insbesondere bei emotional instabilen Personen. Die Beschwerden über das "gefühllose" Verhalten des neueren Modells im Vergleich zu GPT-4o führten bereits zu vorsichtigen Anpassungen der Modellpersönlichkeit.
KI Snack
