Demis Hassabis, der Geschäftsführer von Google Deepmind, hat einen umfassenden Vorschlag zur Regulierung fortschrittlicher Künstlicher Intelligenz (KI) präsentiert. Er betont, dass die Künstliche Allgemeine Intelligenz (AGI) vermutlich nur noch wenige Jahre entfernt sei und wiederholte eine frühere Einschätzung: Die Auswirkungen könnten zehnmal so gravierend sein wie die der industriellen Revolution und in einem ebenso schnellen Tempo eintreten.
Hassabis äußerte im Mai, dass die Menschheit sich bereits „am Fuße der Singularität“ befinde, eine Aussage, die viel diskutiert wurde. Um den Herausforderungen der Technologie gerecht zu werden, schlägt er die Gründung einer neuen US-Standardisierungsbehörde vor, die sich an der Finanzaufsicht FINRA orientiert. Diese Behörde soll zunächst freiwillige Bewertungsprotokolle für führende KI-Modelle entwickeln, die später verpflichtend werden könnten. Die Finanzierung der Behörde soll durch die Industrie erfolgen, die zudem regelmäßig aktualisierte Benchmarks nutzen soll. Darüber hinaus ist es wichtig, dass die internationale Gemeinschaft in den zentralen Fragen einen Konsens erzielt. Ein Beispiel für aktuelle Entwicklungen in diesem Bereich ist, dass die EU-Kommission die Auswirkungen der US-Sperre auf KI-Modelle von Anthropic untersucht. Zudem plant OpenAI, mit einem neuen Trainingsdatensatz die Prompt-Injection-Abwehr deutlich zu verbessern, was die Notwendigkeit von Regulierung unterstreicht. Ein weiteres Beispiel ist ein neues Framework, das zeigt, dass KI-Modelle menschliche Unterstützung beim Roboter-Coding benötigen.
„`
Quellen: the-decoder
Bildquelle: KI generiert
🚀