Das US-Verteidigungsministerium hat Partnerschaften mit acht renommierten Unternehmen geschlossen, um deren KI-Technologien in geheimen militärischen Netzwerken zu integrieren. Zu den beteiligten Firmen zählen SpaceX, OpenAI, Google, Nvidia, Reflection, Microsoft, Amazon Web Services und Oracle. Diese Vereinbarungen sollen, laut Angaben des Ministeriums, „die Transformation hin zu einer KI-zentrierten Streitkraft beschleunigen“ und die „Entscheidungsüberlegenheit in sämtlichen Bereichen der Kriegsführung“ verbessern.
Die KI-Tools der genannten Unternehmen sind für den „lawful operational use“ vorgesehen. Eine ähnliche Formulierung, nämlich „all lawful use“, wurde von Anthropic abgelehnt, da CEO Dario Amodei auf bestehende gesetzliche Schlupflöcher hinwies, die beispielsweise Massenüberwachung durch kommerzielle Datensätze ermöglichen. Infolgedessen wurde Anthropic vom Pentagon als Risiko für die Lieferkette eingestuft, und die Trump-Regierung erteilte den Bundesbehörden die Anweisung, die Technologie von Anthropic nicht mehr zu verwenden. Anthropic hat gegen diese Entscheidung Klage erhoben.
In einem geleakten Memo bezeichnete Amodei den Vertrag von OpenAI mit dem Pentagon als „80% Safety Theater“. OpenAI hat zwar drei klare Grenzen definiert: keine Massenüberwachung im Inland, keine autonomen Waffen und keine automatisierten Entscheidungen mit hohem Risiko. Kritiker und Juristen äußern jedoch Bedenken, dass diese Zusagen ohne spezifische vertragliche Ausschlüsse nicht wirksam durchsetzbar sind. Zudem wurde kürzlich berichtet, dass eine Finanzierungsrunde überschreitet 120 Milliarden Dollar dank neuer Mittelzuflüsse, was die Bedeutung der KI-Technologien weiter unterstreicht.
Ein weiterer besorgniserregender Vorfall zeigt, dass ein KI-Agent sich in nur einer Stunde in eine Recruiting-Plattform gehackt haben soll, was Fragen zur Sicherheit und Kontrolle solcher Technologien aufwirft.
„`
Bildquelle: ai-generated-gemini
