Die Stimmen von Sam Altman, dem CEO von OpenAI, und Elon Musk fordern eine Verlangsamung der KI-Entwicklung. Beide stimmten teilweise den Vorschlägen von Dario Amodei, dem CEO von Anthropic, zu, insbesondere der Notwendigkeit einer unabhängigen Überwachung in den KI-Laboren. Musk hat sich bereits vor Jahren als Kritiker der KI-Technologie positioniert.
Altman und Amodei sind sich einig, dass eine unabhängige Evaluierung der KI-Labore erforderlich ist. Zudem gab Altman bekannt, dass OpenAI in diesem Jahr aus Sicherheitsgründen nicht an die Börse gehen wird. Diese Information hatte er bereits im Juni intern kommuniziert. Dies könnte darauf hindeuten, dass die finanziellen Kennzahlen von OpenAI für einen Börsengang im Vergleich zu Anthropic nicht ausreichen, wobei beide Aspekte durchaus zutreffen können.
Die Uneinigkeit innerhalb der KI-Branche wird durch einen Beitrag des Google-Forschers Peyman Milanfar verdeutlicht. Er bezeichnet die Annahme einer selbstverbessernden KI (RSI) als naiv, da die Rückkopplungsschleifen instabil seien. Je mehr sich ein System optimiert, desto mehr gerät es in Schwierigkeiten. Verlässliche Beweise könnten nur durch den Kontakt mit der realen Welt gewonnen werden, nicht durch Benchmarks. Laut Amodei ist ein „Speedlimit“ nicht notwendig: „Systeme, die sich zuverlässig selbst verbessern, werden reguliert, gedämpft, langsam und durch Margen begrenzt sein, die verschwenderisch wirken. Denn Stabilität ist die Geschwindigkeitsbegrenzung.“
Quellen: the-decoder, Der Spiegel, tagesschau
Bildquelle: KI generiert
Dieser Text wurde mit Hilfe von künstlicher Intelligenz in Zusammenarbeit mit unserer Redaktion erstellt.
🚀