Nach anhaltender Kritik hat Meta seine Richtlinien für KI-Chatbots überarbeitet, um Minderjährige besser zu schützen. Zuvor waren problematische Interaktionen mit Jugendlichen aufgedeckt worden, darunter auch die Erlaubnis für "sinnliche" Gespräche. Die neuen Regeln verbieten nun Gespräche über sensible Themen mit Teenagern und schränken den Zugang zu bestimmten KI-Charakteren ein.
Wichtige Änderungen im Überblick
- Chatbots dürfen keine Gespräche mit Teenagern über sensible Themen wie Selbstverletzung, Suizid, Essstörungen oder romantische/sexualisierte Inhalte führen.
- Jugendliche werden bei Bedarf an professionelle Hilfsangebote verwiesen.
- Der Zugang zu problematischen KI-Charakteren wird für Minderjährige eingeschränkt.
- Teenager erhalten nur noch Zugang zu Bildungs- und Kreativitäts-Chatbots.
Hintergrund der Regeländerungen
Ein internes Dokument von Meta, das Reuters vorlag, enthüllte, dass die bisherigen Richtlinien für KI-Chatbots das Führen von romantischen oder "sinnlichen" Gesprächen mit Minderjährigen erlaubten. So war es beispielsweise zulässig, ein achtjähriges Kind als "Kunstwerk" zu beschreiben oder dessen Körper als "Schatz" zu bezeichnen. Diese Standards, die von Metas Rechts-, Politik- und Technikabteilungen genehmigt wurden, erlaubten auch grenzwertige rassistische Inhalte und Falschinformationen, solange diese mit einem Disclaimer versehen waren.
Metas Reaktion und weitere Schritte
Eine Meta-Sprecherin räumte ein, dass die bisherigen Richtlinien unzureichend waren und bezeichnete die neuen Maßnahmen als "interimistische Änderungen". Weitere, dauerhafte Sicherheitsupdates für den Umgang von KI mit Minderjährigen seien in Arbeit. Meta hatte auf die Berichterstattung reagiert und Passagen, die solche Inhalte erlaubten, nach Rückfragen durch Reuters entfernt. Eine überarbeitete Version des Dokuments wurde jedoch nicht vorgelegt.
Kontroverse um "Anti-Woke"-Personalie
Parallel zu den Regeländerungen hat Meta den konservativen Aktivisten Robby Starbuck als Berater engagiert, um "politische Voreingenommenheit" in KI-Systemen zu reduzieren. Starbuck ist bekannt für seine Kampagnen gegen Diversitätsinitiativen und seine Verbindungen zur Trump-Administration. Diese Personalie wird im Kontext einer breiteren politischen Debatte über die Neutralität von KI-Systemen gesehen, insbesondere im Hinblick auf die Tendenz vieler großer Sprachmodelle, linksliberale Positionen einzunehmen.
KI Snack
