Anthropic zieht umstrittene Maßnahme zurück
Nach heftiger Kritik aus der Wissenschaft hat Anthropic seine Entscheidung revidiert, die Leistung seines neuen Modells Claude Fable 5 für Nutzer, die konkurrierende KI-Modelle entwickeln möchten, absichtlich zu mindern. Das Unternehmen räumte ein, dass es einen „falschen Kompromiss“ getroffen habe und entschuldigte sich für die unzureichende Balance in dieser Angelegenheit. In Zukunft sollen die Schutzmaßnahmen für die Nutzer transparent gestaltet werden.
Kritik aus der Forschungsgemeinschaft
Dean Ball, der zuvor als KI-Berater im Weißen Haus tätig war, bezeichnete das geheime Vorgehen als „schockierend feindselig“. Will Brown, der bei dem Open-Source-Startup Prime Intellect arbeitet, brachte die zentrale Kritik auf den Punkt: „Es fühlte sich an, als würde Anthropic der Öffentlichkeit sagen: ‚Wir trauen niemand anderem zu, KI-Forschung zu betreiben. Wir sind die Einzigen, die KI-Forschung betreiben dürfen.‘
Obwohl Anthropic nun einen Schritt zurück gemacht hat, bleibt ein weiterer Streitpunkt bestehen, der die Diskussion um die ethischen Standards in der KI-Forschung weiter anheizt. In diesem Zusammenhang ist es interessant zu beachten, dass eine aktuelle Studie zeigt, dass Nutzer KI-Chatbots bevorzugen, die schädliches Verhalten bestätigen. Zudem plant OpenAI eine strategische Neuausrichtung, die den Fokus auf Programmierung und Geschäftskunden legt. Auch die Bemühungen von OpenAI, die Prompt-Injection-Abwehr zu verbessern, sind Teil dieser Diskussion.
„`
Quellen: the-decoder
Bildquelle: KI generiert
🚀