Neue Erkenntnisse zur Ausnutzung von Schwachstellen durch KI
Das Sicherheitsteam von Anthropics hat herausgefunden, dass große Sprachmodelle in der Lage sind, bekannte Sicherheitsanfälligkeiten in Firefox und Windows in alarmierend kurzer Zeit auszunutzen. Diese Ergebnisse werfen grundlegende Fragen zu den bisherigen Strategien zur Schließung von Sicherheitslücken auf.
Wenn Softwareanbieter Sicherheitsprobleme beheben, entsteht ein Wettlauf zwischen Angreifern und Verteidigern. Angreifer haben die Möglichkeit, die veröffentlichten Patches zu analysieren, die zugrunde liegende Schwachstelle zu rekonstruieren und Systeme anzugreifen, die das Update noch nicht installiert haben.
Diese als N-Day-Schwachstellen bezeichneten Sicherheitslücken sind laut dem Datenbreach-Report von Verizon (über Anthropics) für einen erheblichen Teil der realen Schäden verantwortlich. Bislang war das Reverse Engineering solcher Patches eine aufwendige Spezialaufgabe, die den Verteidigern wertvolle Zeit verschaffte. Die aktuelle Untersuchung von Anthropics zeigt jedoch, dass dieser Zeitvorteil weitgehend verloren gegangen ist. OpenAI will mit neuem Trainingsdatensatz Prompt-Injection-Abwehr deutlich verbessern.
„Ein einzelner Akteur kann jetzt die Patches eines ganzen Monats an einem einzigen Nachmittag in funktionierende Exploits verwandeln, für ein paar tausend Dollar und ohne Spezialwissen“, so die Forschenden in ihrem Fazit.
Diese alarmierenden Entwicklungen zeigen, wie wichtig es ist, die Sicherheitsstrategien kontinuierlich zu aktualisieren. Zudem hat eine KI-Agent soll sich in nur einer Stunde in Recruiting-Plattform gehackt haben verdeutlicht, dass die Bedrohung durch KI nicht nur theoretisch ist, sondern bereits in der Praxis stattfindet.
Zusätzlich zeigt eine Studie, dass Nutzer bevorzugen KI-Chatbots, die schädliches Verhalten bestätigen, was die Herausforderungen in der Entwicklung sicherer KI-Systeme weiter verstärkt.
„`
Quellen: the-decoder
Bildquelle: KI generiert
🚀