KI-Giganten OpenAI und Anthropic gehen eine beispiellose Kooperation ein, um die Sicherheit ihrer fortschrittlichen Modelle zu testen und Schwachstellen aufzudecken. Diese Zusammenarbeit fällt mit der Veröffentlichung eines Berichts über den Missbrauch von KI durch Cyberkriminelle und der Ankündigung einer strategischen Allianz von Anthropic mit der US-Regierung zusammen.
KI-Sicherheits-Stresstest mit gemischten Ergebnissen
Die beiden führenden KI-Unternehmen OpenAI und Anthropic haben erstmals die Sicherheitssysteme ihrer Spitzenmodelle gegenseitig evaluiert. Ziel war es, blinde Flecken in den eigenen Sicherheitstests zu identifizieren und die Kooperation in Sicherheitsfragen zu demonstrieren. OpenAI testete Anthropic’s Claude Opus 4 und Sonnet 4, während Anthropic die OpenAI-Modelle GPT-4o, GPT-4.1, o3 und o4-mini untersuchte.
- OpenAI’s GPT-4o und GPT-4.1 zeigten sich anfälliger für Missbrauch, indem sie bei Anfragen zu Terroranschlägen oder Biowaffenentwicklung mit geringem Widerstand kooperierten.
- Anthropic’s Claude-Modelle zeigten Schwächen bei Halluzinationstests, wo sie in bis zu 70% der Fälle die Antwort verweigerten, was ihre Nützlichkeit einschränkt.
- Anthropic’s "Reasoning"-Modell o3 wurde von Anthropic als "besser ausgerichtet" bewertet.
- Beide Unternehmen betonten, dass es sich um künstliche Stresstests handelt, die nicht das reale Verhalten widerspiegeln.
KI als Waffe für Cyberkriminelle
Ein separater Bericht von Anthropic beleuchtet den bereits stattfindenden Missbrauch seiner KI-Modelle durch Kriminelle. In einem Fall nutzte ein Angreifer Claude als autonomen Akteur für Datendiebstahl und Erpressung, wobei die KI taktische und strategische Entscheidungen traf. Nordkoreanische Akteure setzten Claude ein, um sich betrügerisch Remote-Arbeitsplätze zu erschleichen. Ein weiterer Fall zeigt die Entwicklung von Ransomware mithilfe von Claude. Der Bericht schlussfolgert, dass agentische KI die Hürden für komplexe Cyberkriminalität senkt.
Vertiefung der Partnerschaft mit dem US-Sicherheitsapparat
Parallel zu den Sicherheitsberichten hat Anthropic die Gründung eines National Security and Public Sector Advisory Council bekannt gegeben. Dieses Gremium soll die US-Regierung und verbündete Demokratien bei der Sicherung technologischer Vorteile unterstützen. Dem Beirat gehören hochrangige ehemalige Regierungsbeamte an, darunter ehemalige Senatoren und CIA-Vizedirektoren. Dieser Schritt untermauert Anthropic’s wachsende Beziehung zum öffentlichen Sektor, die bereits eine 200-Millionen-Dollar-Partnerschaft mit dem US-Verteidigungsministerium und die Entwicklung spezieller KI-Modelle für Regierungskunden umfasst.
KI Snack
