In einer ersten Reaktion äußerte Googles General Counsel Halimah DeLaine Prado, dass die Klage gegen das chinesische Netzwerk „Outsider Enterprise“ eine bedeutende Maßnahme darstellt. Google hat am 12. Juni beim U.S. District Court for the Southern District of New York Klage eingereicht, um gegen mutmaßliche Betrugsoperationen vorzugehen, die generative KI für illegale Aktivitäten nutzen.
Die Klage wirft der Gruppe vor, Googles KI-System Gemini eingesetzt zu haben, um Hunderttausende von Amerikanern mit Finanzbetrug zu schädigen. Laut den Vorwürfen produzierte das Netzwerk 131 Software-Kits, die es ermöglichten, tausende gefälschte Websites zu erstellen, die unter anderem Google, YouTube, den Postal Service und das New Yorker Mautsystem E-ZPass imitierten. In diesem Zusammenhang ist es interessant zu erwähnen, dass ein KI-Agent sich in nur einer Stunde in eine Recruiting-Plattform hacken konnte.
In einem Zeitraum von nur zwei Wochen im Mai versandte das Netzwerk 2,5 Millionen Nachrichten an Android-Nutzer, die Links zu 9.000 gefälschten Websites und über eine Million betrügerischen Internetadressen enthielten. Die Koordination der Aktivitäten erfolgte über Telegram. Diese Klage ist laut Prado die erste, bei der Google in Zusammenarbeit mit dem FBI sowie Mobilfunkanbietern wie AT&T, T-Mobile und Verizon agiert. Google beantragt einen gerichtlichen Unterlassungsbeschluss, der es den Behörden ermöglichen soll, das Netzwerk zu schließen, indem beispielsweise Domains beschlagnahmt oder Konten gesperrt werden. Die genaue Schadenshöhe kann Google nicht beziffern, sie liegt jedoch im Millionenbereich. Zudem zeigt die aktuelle Situation, wie Google KI-Agenten beim Online-Shopping unterstützt, um Betrug zu verhindern.
Ein weiterer Aspekt, der in diesem Kontext betrachtet werden sollte, ist die wirtschaftliche Relevanz von KI-Technologien. Laut einer Prognose könnte Apples Umsatz durch KI-Apps bis 2026 über eine Milliarde Dollar erreichen.
„`
Quellen: the-decoder, Der Spiegel
Bildquelle: KI generiert
