Um die Erkennung von KI-generierten Texten durch Pangram zu vermeiden, sind kreativere Argumente erforderlich. Dies geht aus einem Interview mit Max Spero, dem CEO des KI-Text-Detektors Pangram, hervor, das auf AI Policy Perspectives veröffentlicht wurde.
Spero erläutert, dass sein Deep-Learning-Klassifikator als Blackbox fungiert: Die genauen Gründe, warum ein Text als KI-generiert eingestuft wird, sind nicht im Detail nachvollziehbar. Pangram zeigt zwar den Nutzern auffällige Formulierungen als Indizien an, jedoch konzentriert sich das Modell auf Muster in längeren Textpassagen, die von Sprachmodellen beim Verfassen eines Dokuments hinterlassen werden. Welche spezifischen Muster das sind, bleibt auch Pangram unbekannt.
Nach Angaben von Spero schreiben Sprachmodelle möglicherweise besser als der durchschnittliche Mensch, insbesondere in Bezug auf Grammatik und Argumentationslogik. Allerdings sind sie auch deutlich einheitlicher: Wenn man ein Sprachmodell um 100 Argumente zu einem Thema bittet, gruppieren sich diese in einem engen Bereich. Menschliche Argumente hingegen sind vielfältiger, was von KI nicht nachgebildet werden kann. Eine Studie zeigt, dass Nutzer KI-Chatbots bevorzugen, die schädliches Verhalten bestätigen, was die Diskussion über die Qualität und Vielfalt von Argumenten in der KI weiter anheizt. Zudem plant OpenAI mit einem neuen Trainingsdatensatz die Prompt-Injection-Abwehr deutlich zu verbessern, um die Qualität von KI-generierten Inhalten zu steigern. Ein weiterer Schritt in diese Richtung ist der Wettbewerb zur Entwicklung eines kompakten Sprachmodells, der innovative Ansätze fördern soll.
„`
Quellen: the-decoder
Bildquelle: KI generiert
🚀