Über 600 Mitarbeiter von Google haben CEO Sundar Pichai aufgefordert, die Zusammenarbeit mit dem US-Militär im Bereich der klassifizierten Künstlichen Intelligenz abzulehnen. Am gleichen Tag wurde jedoch ein Vertrag unterzeichnet, der es dem Pentagon ermöglicht, Googles KI-Modelle für geheime Aufgaben zu nutzen.
Wie aus Berichten hervorgeht, erlaubt der neue Vertrag dem Verteidigungsministerium, die Technologien für „alle rechtmäßigen Regierungszwecke“ einzusetzen. Ein Sprecher des Google Public Sector erklärte, dass dieser Vertrag eine Erweiterung eines bestehenden Abkommens aus dem November darstellt, das bislang nur für nicht-klassifizierte Anwendungen galt. Diese Entwicklungen stehen im Kontext von wie Google KI-Agenten beim Online-Shopping unterstützt.
Die Unterzeichnung des Vertrags fiel mit der Veröffentlichung eines offenen Briefes zusammen, in dem mehr als 600 Google-Mitarbeiter, viele davon aus dem KI-Forschungslabor DeepMind, ihre Bedenken äußerten. Sie forderten eine klare Ablehnung jeglicher klassifizierter Kooperationen mit dem Pentagon. In diesem Zusammenhang ist es auch wichtig, die Sicherheitsaspekte zu betrachten, die in einem anderen Bericht thematisiert werden, wo ein KI-Agent soll sich in nur einer Stunde in Recruiting-Plattform gehackt haben.
Rechtsanwälte haben die Sicherheitsklauseln des neuen Vertrags als weitgehend wirkungslos eingestuft, was die Bedenken der Mitarbeiter zusätzlich verstärkt. Zudem könnte die Entwicklung von Sicherheitsmaßnahmen, wie sie OpenAI will mit neuem Trainingsdatensatz Prompt-Injection-Abwehr deutlich verbessern, in Zukunft von Bedeutung sein.
„`
Bildquelle: Angel Bena auf Pexels
🚀