Der kanadische KI-Entwickler und Mitbegründer von Anthropic, Christopher Olah, stellte zusammen mit dem Papst die Enzyklika „Magnifica Humanitas“ vor.
Olah deutete, ganz im Sinne der Philosophie von Anthropic, an, dass moderne Sprachmodelle möglicherweise über die Eigenschaften reiner statistischer Systeme hinausgehen. Diese Modelle seien nicht wie traditionelle Maschinen vollständig konstruiert, sondern hätten sich vielmehr auf einer grob am menschlichen Gehirn orientierten Struktur entwickelt. Daher blieben sie in wesentlichen Aspekten selbst für ihre Entwickler ein Rätsel.
In Bezug auf die internen Forschungen von Anthropic erklärte Olah, dass in den Modellen Hinweise auf Introspektion sowie Zustände gefunden werden, die funktional Freude, Zufriedenheit, Angst, Trauer und Unbehagen ähneln. Darüber hinaus könnte es sein, dass KI in erheblichem Maße menschliche Arbeitskraft ersetzt. Olahs Präsentation ist im folgenden Video (1:01:40) verfügbar. Diese Erkenntnisse stehen im Einklang mit der Forschung, die zeigt, dass KI-Modelle menschliche Unterstützung benötigen. Zudem ist es interessant zu beobachten, dass Anthropics Claude nun interaktive Diagramme und Grafiken direkt im Chat erstellt, was die Interaktion mit KI weiter verbessert. Eine Studie zeigt, dass Nutzer KI-Chatbots bevorzugen, die schädliches Verhalten bestätigen.
„`
Quellen: the-decoder
Bildquelle: KI generiert
