Francis de Souza, COO von Google Cloud, appelliert an Unternehmen, die Sicherheit von Beginn an in ihre KI-Strategie zu integrieren. „Es gibt keine KI-Strategie ohne Datenstrategie und Sicherheitsstrategie“, erklärte er während einer Veranstaltung in Los Angeles. Er warnte auch vor dem Phänomen der Shadow AI, bei dem Mitarbeiter KI-Tools ohne die Aufsicht des Unternehmens nutzen, sowie vor KI-Agenten, die vergessene Datenquellen, wie alte SharePoint-Server, aufspüren.
Die Angriffsfläche hat sich erheblich über den traditionellen Netzwerkrand hinaus erweitert: Modelle, Daten-Pipelines, Agenten und Prompts müssen alle geschützt werden. Laut de Souza hat sich die Zeitspanne zwischen einem ersten Einbruch und der nächsten Angriffsstufe durch den Einsatz von KI von acht Stunden auf 22 Sekunden verkürzt. Daher plädiert er für eine KI-native, vollständig agentenbasierte Verteidigung, bei der die menschliche Aufsicht im Vordergrund steht.
„KI-Sicherheit ist ein Thema für Vorstände, nicht nur für IT-Abteilungen“,
betonte er.
De Souza stellte klar, dass Sicherheit nicht nachträglich implementiert werden kann und nicht den einzelnen Mitarbeitern überlassen werden sollte. Unternehmen benötigen eine einheitliche Sicherheitsstrategie, die alle Clouds und Modelle umfasst, selbst wenn sie glauben, nur einen Anbieter zu nutzen. Denn über SaaS-Anwendungen und Geschäftspartner sind in der Regel mehrere Clouds beteiligt. OpenAI plant strategische Neuausrichtung: Fokus auf Programmierung und Geschäftskunden, um die Sicherheit zu verbessern, ist ein weiterer wichtiger Aspekt, den Unternehmen berücksichtigen sollten. Zudem könnte OpenAI mit neuem Trainingsdatensatz die Prompt-Injection-Abwehr deutlich verbessern.
„`
Quellen: the-decoder
Bildquelle: KI generiert
