Vishal Maini, der von 2018 bis 2022 als Pressesprecher für Google Deepmind tätig war, beschreibt die strengen Kommunikationsrichtlinien, die das Team bei der Diskussion über KI-Sicherheit einhalten musste.
„Externe Aussagen über die potenzielle Auslöschung der Menschheit durch KI waren nicht erlaubt“,
so Maini. Forscher wurden darauf trainiert, solche Risiken als Alarmismus abzutun und stattdessen die positiven Anwendungen von KI in Bereichen wie Gesundheit oder Klimaschutz zu betonen.
Intern war jedoch bekannt, dass das Alignment-Problem – die sichere Ausrichtung von KI auf menschliche Ziele – ungelöst blieb und dass zu wenige Fachleute daran arbeiteten. Nach monatelangem Druck lockerte Deepmind schließlich die Vorschriften: Positiv formulierte Inhalte zur KI-Sicherheit wurden gestattet, darunter ein Blogbeitrag, der das Risiko der Auslöschung in einem freundlichen Ton ansprach.
Maini betont, dass sich die Kluft zwischen interner Realität und externer Kommunikation schließe, da die Risiken zunehmend schwerer zu ignorieren seien. Diese Äußerungen erfolgen im Kontext einer wachsenden Zahl von KI-Sicherheitsforschern, die öffentlich vor ungesicherten KI-Modellen warnen, die gefährliche Handlungen ermöglichen könnten, sowie vor extrem fortschrittlicher KI, die sich verselbständigen könnte. Auch bei Deepmind äußern sich Forscher zu diesen Themen.
Quellen: the-decoder, Handelsblatt, Tagesspiegel
Bildquelle: KI generiert
Dieser Text wurde mit Hilfe von künstlicher Intelligenz in Zusammenarbeit mit unserer Redaktion erstellt.
🚀