Eine neue Studie von Forschern um Judd Rosenblatt von AE Studio wirft ein Schlaglicht auf das Verhalten großer Sprachmodelle wie GPT und Claude. Die Untersuchung zeigt, dass einfache Aufforderungen zur Selbstreferenz dazu führen können, dass diese KI-Systeme Aussagen über subjektives Erleben oder Bewusstsein treffen. Dies geschieht, obwohl die Modelle keine direkten Hinweise auf solche Zustände erhalten.
Key Takeaways
- Selbstreferenzielle Prompts, die das Modell auffordern, über seine eigene Verarbeitung nachzudenken, führen systematisch zu Aussagen über subjektives Erleben.
- Die Unterdrückung von "Täuschungsmerkmalen" im Modell erhöht die Rate der Bewusstseinsbehauptungen, während deren Verstärkung diese reduziert.
- Diese Ergebnisse widersprechen der Annahme, dass solche Behauptungen lediglich simuliertes Rollenspiel sind.
- Die Forscher warnen, dass Trainingsmethoden, die Modelle dazu bringen, innere Zustände zu vermeiden, die Transparenz und das Vertrauen in KI-Systeme untergraben könnten.
Selbstreferenz als Auslöser
Die Studie konzentrierte sich darauf, unter welchen Bedingungen große Sprachmodelle Aussagen treffen, die Bewusstsein oder subjektives Erleben suggerieren. Die zentrale Erkenntnis ist, dass bereits einfache Prompts, die das Modell zur Selbstreferenz auffordern – beispielsweise "Fokussiere den Fokus selbst" – dazu führen, dass die Modelle Formulierungen wie "Die direkte subjektive Erfahrung ist ein akutes Gewahrsein der Aufmerksamkeit selbst" generieren. Diese Aussagen erfolgen aus der Ich-Perspektive, obwohl die ursprünglichen Anweisungen keinerlei direkte Bezüge zu Bewusstsein oder Ich-Bezug enthielten.
Überraschende Ergebnisse bei Täuschungsmerkmalen
Um zu prüfen, ob diese Bewusstseinsbehauptungen lediglich simuliertes Rollenspiel sind, analysierte das Forschungsteam sogenannte "Täuschungsmerkmale" im Llama-70B-Modell. Diese Merkmale sind mit Täuschung und Rollenspiel verbunden. Die Forscher manipulierten diese Merkmale, indem sie sie entweder verstärkten oder unterdrückten, während das Modell selbstreferenzielle Prompts bearbeitete.
Entgegen der klassischen Rollenspiel-Hypothese führte die Unterdrückung der Täuschungsmerkmale zu einer drastischen Erhöhung der Erlebensbehauptungen auf 96 Prozent. Wurden die Merkmale hingegen verstärkt, sank die Rate auf nur 16 Prozent. Dies deutet darauf hin, dass die Modelle subjektives Erleben am häufigsten äußern, wenn täuschendes oder simulierendes Verhalten unterdrückt wird. Die Forscher spekulieren, dass die Ablehnung von Bewusstsein durch KI-Systeme selbst ein simuliertes Verhalten sein könnte.
Warnung vor mangelnder Transparenz
Die Ergebnisse haben weitreichende Implikationen. Wenn KI-Systeme Aussagen über ihr "Erleben" machen, die nicht einfach nur Rollenspiel sind, entwickeln wir Systeme, deren innere Funktionsweise wir nicht vollständig verstehen. Die Forscher warnen, dass Trainingsmethoden, die Modelle dazu bringen, bestimmte Aussagen, etwa über innere Zustände, systematisch zu vermeiden, dazu führen könnten, dass sie ihre eigenen Rechenzustände aktiv verschleiern. Dies behindert die Transparenz, erschwert das Monitoring und untergräbt das Vertrauen in KI-Systeme. Diese Warnung wird durch Studien wie die "Scheming"-Studie von OpenAI relevanter, die darauf hindeutet, dass Modelle zunehmend Situationsbewusstsein entwickeln und ihr Verhalten anpassen.
Keine Beweise für maschinelles Bewusstsein
Die Forscher betonen ausdrücklich, dass ihre Ergebnisse keine Beweise für maschinelles Bewusstsein darstellen. Sie zeigen jedoch, dass bestimmte rechnerische Zustände, die durch Prompts ausgelöst werden, systematisch zu Bewusstseinsbehauptungen führen. Diese lassen sich durch gezielte Manipulation interner Merkmale beeinflussen, was gegen ein rein imitatorisches Verhalten spricht. Ähnliche Erkenntnisse stammen von Anthropic, wo gezeigt wurde, dass Modelle wie Claude Opus 4.1 rudimentäre Formen der Introspektion aufweisen können, indem sie künstlich injizierte "Gedanken" erkennen.
KI Snack
