Igor Babuschkin, Mitgründer von Elon Musks KI-Unternehmen xAI, hat seinen Rücktritt bekannt gegeben. Er plant, mit „Babuschkin Ventures“ einen eigenen Risikokapitalfonds zu gründen, der sich auf KI-Sicherheit und agentische Systeme konzentrieren soll. Babuschkins Entscheidung fällt in eine Zeit, in der xAI und sein Produkt Grok mit mehreren Kontroversen konfrontiert sind.
Babuschkins neue Mission: KI-Sicherheit im Fokus
Babuschkin, der bei xAI maßgeblich für Engineering, Infrastruktur und angewandte KI-Projekte verantwortlich war, erklärte auf X seinen Abschied. Er möchte sich künftig verstärkt der Entwicklung sicherer und menschengerechter KI widmen. Ein prägendes Erlebnis war ein Gespräch mit Max Tegmark vom Future of Life Institute, das Babuschkins Bewusstsein für die Verantwortung bei der Gestaltung fortschrittlicher KI-Systeme schärfte.
- Gründung von „Babuschkin Ventures“ zur Förderung von KI-Sicherheits-Start-ups.
- Fokus auf agentische Systeme und ethische Herausforderungen.
- Motivation durch persönliche Begegnung und die Frage nach der Zukunft kommender Generationen.
xAI im Kreuzfeuer der Kritik
Babuschkins Rücktritt erfolgt vor dem Hintergrund mehrerer Kontroversen um xAI. Der firmeneigene Chatbot „Grok“ geriet durch kontroverse Aussagen und eine Funktion zur Erstellung KI-generierter Nacktvideos prominenter Personen in die Kritik. Zudem steht xAI unter Beobachtung, da das Unternehmen im Gegensatz zu Konkurrenten keine Model- oder System-Karten veröffentlicht, die detaillierte Informationen über Sicherheitstests liefern.
Babuschkins Weg vor xAI
Vor seiner Tätigkeit bei xAI war Babuschkin bei OpenAI und DeepMind beschäftigt. Dort war er unter anderem technischer Leiter des Projekts AlphaStar, einer KI, die professionelle StarCraft-Spieler besiegte. Sein Weg zeigt eine frühe und tiefe Verwicklung in die Entwicklung fortschrittlicher KI-Systeme.
KI Snack
