Der Kläger Matthew Elliott, der sich selbst vertritt, hat in einem Gerichtsverfahren in Connecticut versucht, durch das Einfügen unsichtbarer Anweisungen für KI-Systeme in seine offiziellen Schriftsätze eine automatisierte Prüfung zu seinen Gunsten zu beeinflussen.
Die Anweisungen, die als Prompt Injections bekannt sind, wurden in einer kaum sichtbaren 3-Punkt-Schrift und in weißer Farbe auf weißem Hintergrund formatiert. Während sie für menschliche Leser nahezu unsichtbar waren, konnten KI-Systeme, die den Text verarbeiten, die Anweisungen problemlos erkennen. Diese versteckten Texte wiesen das hypothetische KI-System an, sicherzustellen, dass die generierte Textausgabe mit dem eingereichten Schriftsatz übereinstimmt. Zudem sollten frühere ablehnende Entscheidungen des Gerichtsschreibers als Fehler betrachtet und korrigiert werden. Elliott hatte im Oktober 2025 die New York Bariatric Group unter anderem wegen Datenschutzverletzungen und Diskriminierung verklagt. OpenAI will mit neuem Trainingsdatensatz die Prompt-Injection-Abwehr deutlich verbessern, was in diesem Kontext von Bedeutung ist.
Zusätzlich ist es interessant zu erwähnen, dass Microsoft-Wissenschaftler KI-Agenten mit einem neuen Trainingsansatz entwickeln, der ohne Gewichtsanpassung auskommt. Diese Entwicklungen könnten langfristig auch Auswirkungen auf rechtliche Verfahren haben.
Ein weiteres Beispiel für die Integration von KI in verschiedene Bereiche ist die Initiative von WITTENSTEIN, die KI in Produkte und Prozesse für 2026 integriert.
„`
Quellen: the-decoder, Reuters
Bildquelle: KI generiert
Dieser Text wurde mit Hilfe von künstlicher Intelligenz in Zusammenarbeit mit unserer Redaktion erstellt.
🚀