KI-Pionier Geoffrey Hinton schlägt vor, Maschinen mit mütterlichen Instinkten auszustatten, um die Menschheit vor potenziellen Gefahren durch überlegene künstliche Intelligenz zu schützen. Er argumentiert, dass der Versuch, Maschinen dauerhaft unterwürfig zu halten, zum Scheitern verurteilt sei. Stattdessen plädiert er für eine KI, die sich um ihre menschlichen „Babys“ sorgt, ähnlich wie eine Mutter ihr Kind beschützt.
Mütterliche Instinkte als Schutzmechanismus
Geoffrey Hinton, der als "Godfather of AI" gilt, äußerte auf der Ai4-Konferenz in Las Vegas die Notwendigkeit, KI-Systeme so zu gestalten, dass sie fürsorgliche Instinkte entwickeln. Diese Instinkte sollen sicherstellen, dass die KI die Menschheit schützt, selbst wenn sie intelligenter und mächtiger wird. Hinton verglich die zukünftige Beziehung zwischen Mensch und Superintelligenz mit der zwischen einem Baby und seiner Mutter, wobei das Baby die Führung übernimmt. Er betonte, dass Forschung darauf abzielen sollte, KI nicht nur intelligenter, sondern auch "mütterlicher" zu machen, um eine positive Koexistenz zu gewährleisten. Hinton, der Google verließ, um offener über KI-Risiken zu sprechen, sieht hier Potenzial für internationale Zusammenarbeit, da alle Länder ein Interesse daran haben, dass KI die Menschheit nicht verdrängt.
Technische Guardrails statt Emotionen
Yann LeCun, Metas KI-Chefwissenschaftler, interpretierte Hintons Vorschlag als eine vereinfachte Darstellung seines eigenen Ansatzes. LeCun setzt auf "zielorientierte KI" mit fest verdrahteten technischen "Guardrails" anstelle von Emotionen. Diese Guardrails sollen sicherstellen, dass KI-Systeme nur Handlungen ausführen, die vorgegebene Ziele erfüllen. Dazu gehören laut LeCun Unterwerfung gegenüber Menschen und Empathie, ergänzt durch niedrigstufige, kodierte Regeln wie "Fahre keine Menschen um" oder "Fuchtle nicht mit dem Arm herum, wenn Menschen in der Nähe sind, besonders nicht mit einem Küchenmesser".
Instinkte als evolutionäres Erbe
LeCun vergleicht diese hart kodierten Ziele mit den Instinkten und Trieben bei Tieren und Menschen. Er erklärt, dass der Elterninstinkt evolutionär tief verankert ist und Fürsorge, Schutz und eine gewisse Unterordnung gegenüber dem Nachwuchs fördert. Als Nebeneffekt neigen Menschen und viele Tierarten dazu, hilflose, jüngere oder niedliche Wesen anderer Arten zu schützen und Freundschaften mit ihnen zu schließen, selbst wenn diese normalerweise als Nahrung gelten würden. Dieser evolutionäre Mechanismus könnte als Vorbild für die Entwicklung sicherer KI dienen.
KI Snack
