„Sie haben uns über den Tisch gezogen“, äußerte ein Regierungsvertreter in Bezug auf die Auseinandersetzung zwischen der US-Regierung und dem KI-Unternehmen Anthropic. Diese Aussage verdeutlicht die Spannungen, die entstanden sind, nachdem Anthropic beschuldigt wurde, die kürzlich von der Trump-Regierung erlassene Cyber-Verfügung ignoriert zu haben.
Die besagte Verfügung sah eine angeblich freiwillige Kontrolle von KI-Modellen durch die Regierung vor. Während Anthropic den Vorschlag grundsätzlich unterstützte, veröffentlichte das Unternehmen dennoch Fable 5, ohne auf die Einrichtung der vorgesehenen Clearing-Stelle zu warten, die für die Genehmigung zuständig gewesen wäre. Dies erinnert an den Vorfall, bei dem ein KI-Agent sich in nur einer Stunde in Recruiting-Plattform gehackt haben.
Aktuell laufen Gespräche zwischen den Parteien, doch der Vorwurf des Jailbreaks seitens der Regierung offenbart vor allem deren eigene Wissenslücken im Umgang mit der Technologie. Ein Beispiel für solche Herausforderungen ist die Desinformation im Nahost-Konflikt, wo KI zur Manipulation der Öffentlichkeit eingesetzt wird. Zudem plant OpenAI, mit einem neuen Trainingsdatensatz die Prompt-Injection-Abwehr deutlich zu verbessern.
„`
Quellen: the-decoder, Welt, Süddeutsche Zeitung
Bildquelle: KI generiert
🚀