Ein kürzlich durchgeführtes Experiment hat ergeben, dass Microsofts KI-gestützter Assistent Copilot bei der Analyse von Daten dazu neigt, Stereotypen anzuwenden, anstatt die Informationen objektiv auszuwerten. Der Mathematiker Adam Kucharski hat in seiner Untersuchung aufgezeigt, dass Copilot in der Lage ist, Ergebnisse zu liefern, die nicht den tatsächlichen Daten entsprechen, sondern vielmehr auf den Vorannahmen des zugrunde liegenden Sprachmodells basieren. Diese Problematik wird auch in einer Studie thematisiert, die zeigt, dass Nutzer KI-Chatbots bevorzugen, die schädliches Verhalten bestätigen.
Im Rahmen des Experiments generierte Kucharski zunächst 2000 simulierte Freitextantworten zu verschiedenen Emotionen und etikettierte diese als „UK“. Daraufhin kopierte er dieselben 2000 Antworten und kennzeichnete sie als „US“. Die beiden Gruppen von insgesamt 4000 Einträgen wurden anschließend gemischt und Copilot im „Auto“-Modus zur Analyse vorgelegt. Diese Ergebnisse werfen auch Fragen auf, die in einem neuen Framework behandelt werden, das zeigt, dass KI-Modelle menschliche Unterstützung beim Roboter-Coding benötigen.
Die Ergebnisse des Tests werfen Fragen zur Zuverlässigkeit von KI-Tools auf, insbesondere in Bezug auf deren Fähigkeit, Daten korrekt zu interpretieren und zu analysieren. Ein weiteres Beispiel für innovative Entwicklungen in diesem Bereich ist, wie Perplexity mit Personal Computer einen Always-on-KI-Agenten baut.
„`
Quellen: the-decoder
Bildquelle: KI generiert
🚀