Thariq Shihipar, ein Entwickler bei Anthropic, äußert sich zur Problematik, die viele Programmierer von KI-Agenten kennen: Der Prompt ist formuliert und der Plan scheint durchdacht, doch das Ergebnis entspricht nicht den Erwartungen. Er betont, dass bei Claudes neuestem Modell Fable 5 die Ursache für diese Diskrepanz zunehmend weniger im Modell selbst zu finden ist, sondern vielmehr in den blinden Flecken der Nutzer.
Shihipar stellt die zentrale These auf, dass die Qualität der Ergebnisse von Fable 5 stark von der Fähigkeit der Nutzer abhängt, ihre „Unknowns“ zu identifizieren und zu klären. Dies wird auch durch die Erkenntnisse aus einem neuen Framework unterstützt, das zeigt, wie wichtig menschliche Unterstützung beim Roboter-Coding ist.
- Known Knowns: Informationen, die im Prompt explizit enthalten sind.
- Known Unknowns: Fragen, deren Beantwortung dem Nutzer bewusst ist.
- Unknown Knowns: Wissen, das als selbstverständlich erachtet wird und nicht aufgeschrieben wird, jedoch sofort erkannt werden kann.
- Unknown Unknowns: Aspekte, die der Nutzer überhaupt nicht in Betracht gezogen hat.
Die kritischste Kategorie, so Shihipar, sind die „Unknown Unknowns“, die oft zu unerwarteten Ergebnissen führen können. Ein Beispiel für solch unerwartete Diagnosen könnte der „Mirage-Effekt“ sein, bei dem KI-Modelle Krankheiten auf Bildern diagnostizieren, die nie existiert haben.
Zusätzlich wird die Bedeutung der Nutzerkompetenz in der KI-Interaktion durch die Entwicklungen bei OpenAI hervorgehoben, die mit einem neuen Trainingsdatensatz die Prompt-Injection-Abwehr verbessern wollen.
„`
Quellen: the-decoder
Bildquelle: KI generiert
