KI News
Dario Amodei: Notwendigkeit von KI-Regulierungen und strategischen Allianzen
Dario Amodei von Anthropic fordert in seinem neuen Essay verpflichtende Drittprüfungen für KI-Modelle und skizziert ein Szenario, in...
Tag
KI-Sicherheit
KI News
Unternehmen müssen KI-Sicherheit in ihre Strategien integrieren, fordert Google Cloud COO
Francis de Souza, COO von Google Cloud, betont die Bedeutung einer integrierten KI-Sicherheitsstrategie für Unternehmen. Er warnt vor...
KI News
US-Gericht bestätigt Pentagon-Einstufung von Anthropic als Sicherheitsrisiko
Ein US-Berufungsgericht bestätigt die Einstufung von Anthropic als nationales Sicherheitsrisiko durch das Pentagon. Das Unternehmen kritisiert die Maßnahme...
KI News
OpenAI will mit neuem Trainingsdatensatz Prompt-Injection-Abwehr deutlich verbessern
OpenAI präsentiert den neuen Trainingsdatensatz "IH-Challenge", der KI-Modelle darin schult, vertrauenswürdige Anweisungen besser zu priorisieren. Erste Ergebnisse zeigen...
KI News
Wie plant ein ehemaliger OpenAI-Policy-Chef, KI-Sicherheitsprüfungen zu reformieren?
Miles Brundage, der sieben Jahre lang die Policy-Forschung bei OpenAI leitete, setzt sich mit seinem neu gegründeten Institut...
KI News
Wechsel: Führende Sicherheitsforscherin von OpenAI zu Anthropic
Andrea Vallone, eine führende Sicherheitsforscherin bei OpenAI, hat zu Anthropic gewechselt. Dort wird sie im Alignment-Team tätig sein,...