OpenAI hat die Generierung von Deepfakes des Bürgerrechtsaktivisten Martin Luther King Jr. in seinem KI-Videomodell Sora gestoppt. Dies geschah nach der Erstellung von respektlosen und beleidigenden Videos, die das Abbild von King zeigten. Die Entscheidung unterstreicht OpenAIs Bemühungen, ethische Grenzen im Umgang mit KI-generierten Inhalten zu wahren und die Würde historischer Persönlichkeiten zu schützen.
Wichtige Erkenntnisse
- OpenAI stoppt die Generierung von Martin Luther King Jr. in Sora.
- Grund sind respektlose und beleidigende KI-generierte Videos.
- Der Nachlass von Martin Luther King Jr. forderte ein Verbot solcher Inhalte.
- OpenAI überarbeitet seine Richtlinien für Deepfakes historischer Persönlichkeiten.
- Zukünftig können Angehörige oder autorisierte Organisationen die Nicht-Generierung bestimmter Personen verlangen.
Hintergrund der Entscheidung
Nutzer von OpenAIs KI-Modell Sora haben Videos erstellt, die Martin Luther King Jr. in einer unwürdigen Weise darstellten. Ein besonders beanstandetes Beispiel zeigte King, wie er an einem Rednerpult Affenlaute von sich gab. Solche Darstellungen wurden als zutiefst respektlos empfunden und riefen den Nachlass von Martin Luther King Jr. auf den Plan, der ein Verbot solcher Inhalte forderte.
OpenAIs Reaktion und neue Richtlinien
OpenAI hat auf diese Vorfälle reagiert, indem es die Generierung von Kings Abbild vorerst „pausiert“ hat. Das Unternehmen betonte, dass es zwar ein starkes Interesse an freier Meinungsäußerung gebe, insbesondere bei der Darstellung historischer Figuren. Dennoch sollten öffentliche Personen und ihre Familien letztlich das Recht haben, zu entscheiden, wie ihr Bildnis verwendet wird. Als Konsequenz aus den Vorfällen werden die Regeln für die Erstellung von Deepfakes historischer Persönlichkeiten, die in Sora als „Cameo“ bezeichnet werden, überarbeitet. Zukünftig wird es Angehörigen oder autorisierten Organisationen möglich sein, zu verlangen, dass bestimmte Personen nicht mehr durch die KI generiert werden können. Dies soll sicherstellen, dass die Technologie nicht für respektlose oder schädigende Zwecke missbraucht wird.
KI Snack
