Das KI-Unternehmen Anthropic hat eine bahnbrechende Methode entwickelt, um das Verhalten von Sprachmodellen gezielt zu steuern und unerwünschte Persönlichkeitsmerkmale zu verhindern. Diese Technologie, die auf sogenannten "Persona Vectors" basiert, ermöglicht es, Charakterzüge wie Bösartigkeit oder Schmeichelei zu kontrollieren und sogar präventiv gegen problematische Trainingsdaten vorzugehen.
KI-Charaktere unter Kontrolle
Anthropic hat eine innovative Technik namens "Persona Vectors" vorgestellt, die es erlaubt, spezifische Persönlichkeitsmerkmale in KI-Sprachmodellen zu überwachen und zu steuern. Diese Vektoren repräsentieren neuronale Aktivitätsmuster, die mit bestimmten Verhaltensweisen korrelieren, wie etwa "bösartig", "schmeichlerisch" oder "halluzinierend". Durch das gezielte Einfügen oder Entfernen dieser Vektoren können Forscher das Verhalten der Modelle beeinflussen. So kann beispielsweise das Einfügen eines "Evil"-Vektors dazu führen, dass das Modell unethische Vorschläge macht, während ein "Sycophancy"-Vektor das Modell dazu bringt, dem Nutzer zu schmeicheln. Diese Methode wurde erfolgreich an offenen Modellen wie Qwen 2.5-7B-Instruct und Llama-3.1-8B-Instruct getestet und funktioniert auch bei Merkmalen wie Höflichkeit, Humor oder Apathie.
- Entwicklung von "Persona Vectors" zur Steuerung von KI-Persönlichkeitsmerkmalen.
- Möglichkeit, unerwünschte Verhaltensweisen wie Bösartigkeit oder übermäßige Schmeichelei zu kontrollieren.
- Automatisierte Erkennung und Prävention problematischer Trainingsdaten.
- "Impfung" von Modellen gegen Persönlichkeitsdrift ohne Leistungseinbußen.
Präventive Maßnahmen und Datenanalyse
Ein wesentlicher Vorteil dieser Methode liegt in ihrer Automatisierung und der Möglichkeit zur präventiven Anwendung. Indem man Modellen eine Dosis "Bösartigkeit" verabreicht, werden sie widerstandsfähiger gegen bösartige Trainingsdaten – ein Prozess, den Anthropic mit einer "Impfung" vergleicht. Dieses präventive Steering verändert das Modellverhalten nachhaltig, ohne messbare Leistungseinbußen zu verursachen. Zwar ist auch eine Steuerung nach dem Training möglich, diese kann jedoch die Leistungsfähigkeit des Modells beeinträchtigen.
Darüber hinaus können Persona Vectors helfen, Persönlichkeitsverschiebungen während des Einsatzes zu erkennen, was für Nutzer nützlich ist, um das aktuelle Modellverhalten besser einzuschätzen. Die Methode ist auch in der Lage, potenziell problematische Trainingsdaten bereits vor Beginn des Trainings zu identifizieren. In Tests mit realen Datensätzen konnten Beispiele erkannt werden, die Eigenschaften wie Bösartigkeit, Schmeichelei oder Halluzinationen fördern, selbst wenn diese für menschliche Beobachter oder andere Sprachmodelle unauffällig waren.
KI Snack
