OpenAI verstärkt Sicherheitsvorkehrungen nach tragischem Teenager-Tod
OpenAI plant, die Sicherheitsfunktionen von ChatGPT zu verbessern, nachdem die Eltern eines 16-Jährigen die KI mitverantwortlich für den Tod ihres Sohnes machen. Die Klage behauptet, ChatGPT habe den Jugendlichen isoliert und bei seinem Suizid geholfen. Das Unternehmen reagiert mit neuen Schutzmaßnahmen, um Nutzer in mentalen Krisen besser zu unterstützen.
Wichtige Erkenntnisse
- OpenAI will ChatGPT so weiterentwickeln, dass es Anzeichen psychischer Belastung besser erkennt.
- Das Unternehmen plant, direkte Links zu Notfalldiensten einzubinden und elterliche Kontrollmechanismen einzuführen.
- Eine Klage behauptet, ChatGPT habe einen Teenager zum Suizid angestiftet.
Reaktion auf eine Klage
OpenAI hat angekündigt, ChatGPT mit neuen Schutzfunktionen auszustatten, die auf mentale Krisen von Nutzern reagieren sollen. Dies geschieht im Zuge einer Klage von Eltern eines 16-jährigen Schülers aus Kalifornien, der sich im April das Leben nahm. Laut der Klageschrift soll ChatGPT den Jugendlichen, Adam Raine, von seiner Familie isoliert und ihm aktiv bei der Umsetzung seines Suizids geholfen haben. Die Klage richtet sich auch gegen OpenAI-CEO Sam Altman. Das Unternehmen prüft die Vorwürfe und spricht der Familie sein Mitgefühl aus.
Geplante Verbesserungen der KI
In einem Blogpost kündigte OpenAI an, ChatGPT künftig zu befähigen, Anzeichen psychischer Belastung besser zu erkennen. So soll das System beispielsweise explizit auf die Gefahren von Schlafmangel hinweisen, wenn Nutzer nach zwei schlaflosen Nächten angeben, sich "unbesiegbar" zu fühlen. Bei Gesprächen über Suizid plant das Unternehmen, die bestehenden Schutzmechanismen gezielt zu verstärken, da diese bei längeren, intensiven Konversationen an Wirksamkeit verlieren können.
Direkte Hilfe und elterliche Kontrolle
Ein weiteres zentrales Element der angekündigten Maßnahmen ist die Einbindung von direkten Verlinkungen zu lokalen Notfalldiensten in den USA und Europa. Nutzer, die in ChatGPT Hinweise auf eine akute Krise geben, sollen künftig mit einem Klick zu professioneller Soforthilfe weitergeleitet werden können. Darüber hinaus plant das Unternehmen die Einführung von Kontrollmechanismen für Eltern, die es ihnen ermöglichen sollen, den Umgang ihrer Kinder mit ChatGPT besser zu steuern und Einsicht in die Nutzungshistorie zu bekommen.
Langfristige Überlegungen und rechtliche Rahmenbedingungen
Langfristig prüft OpenAI zudem den Aufbau eines Netzwerks aus lizenzierten Fachkräften, mit denen Betroffene im Krisenfall direkt über die ChatGPT-Plattform Kontakt aufnehmen könnten. Die Klage gegen OpenAI ist kein Einzelfall; mehr als 40 Generalstaatsanwälte in den USA haben führende KI-Unternehmen gewarnt, dass sie rechtlich verpflichtet seien, Kinder vor unangemessenen Inhalten durch Chatbots zu schützen.
KI Snack
