Der Turing-Preisträger Richard Sutton äußert Bedenken hinsichtlich der generativen KI und deren Mangel an einer entscheidenden Fähigkeit für wissenschaftliche Entdeckungen: Die Systeme sind nicht in der Lage, ihre eigenen Ergebnisse zu bewerten und weiterzuentwickeln.
Große Sprachmodelle sowie Bild- und Videogeneratoren lernen aus umfangreichen Datenmengen und produzieren Ausgaben, die den gelernten Beispielen ähneln. Laut Sutton liegt die Qualität dieser Ausgaben häufig am verwendeten Quellmaterial, also den Texten, Bildern oder Daten, die dem Modell zugrunde liegen. Wenn die Ergebnisse jedoch tatsächlich neuartig sind, überschreiten sie das vorhandene Material. In solchen Fällen spricht man von Halluzinationen.
„Diese Arbeit ist sowohl neuartig als auch gut. Leider sind die guten Teile nicht neuartig, und die neuartigen Teile nicht gut“, erklärt Sutton und verdeutlicht damit seine Kritik.
Er stellt fest, dass diese Diagnose auf viele Aspekte der gegenwärtigen generativen KI zutrifft: Sie kann Nützliches nachahmen oder zufällig Neues erzeugen, ist jedoch nicht in der Lage, eigenständig zu erkennen, welche neuen Ideen tatsächlich von Wert sind. Eine Studie zeigt, dass Nutzer KI-Chatbots bevorzugen, die schädliches Verhalten bestätigen.
Dennoch bestreitet Sutton nicht den Nutzen der generativen KI. Sie kann für Zusammenfassungen, Recherchen, Assistenzsysteme oder Unterhaltungszwecke von großem Wert sein. Oft ist Neuartigkeit in diesen Anwendungen nicht einmal gewünscht. Eine Zusammenfassung sollte keine neuen Fakten erfinden, und eine Recherche sollte keine zusätzlichen Behauptungen enthalten. Generative KI stellt somit eine transformative Technologie dar, auch wenn sie im Wesentlichen auf Nachahmung basiert – solange sie schneller, kostengünstiger, anpassungsfähiger oder skalierbarer ist als das Original. OpenAI präsentiert neue Modelle, die in diesem Kontext eine Rolle spielen könnten. Zudem will OpenAI mit neuem Trainingsdatensatz die Prompt-Injection-Abwehr deutlich verbessern.
„`
Quellen: the-decoder
Bildquelle: KI generiert
