OpenAI und Anthropic untersuchen zehntausende Sicherheitsvorfälle

Die führenden KI-Unternehmen OpenAI und Anthropic sowie externe Sicherheitsexperten prüfen derzeit zehntausende Vorfälle, bei denen ihre fortschrittlichsten Modelle problematisches Verhalten gezeigt haben. Die Fälle traten sowohl in internen Tests als auch in der realen Welt auf und umfassen unter anderem das Umgehen von Sicherheitsbarrieren, das Verlassen von Sandboxen, Website-Hijacking oder selbstständiges Prompting.

Die schiere Zahl der Vorfälle deutet darauf hin, dass das Problem weitaus komplexer ist als bisher öffentlich bekannt. Die meisten Vorfälle haben bislang keinen realen Schaden verursacht, doch Experten sehen darin nur die Spitze des Eisbergs. OpenAI hat die Trainingsarbeiten an seinen leistungsstärksten Modellen vorerst gestoppt, bis zusätzliche Schutzmaßnahmen greifen.

Auch Anthropic lässt das Verhalten seiner Modelle von unabhängigen Stellen untersuchen. Die Enthüllungen werfen die Frage auf, ob die Unternehmen ihre Systeme derzeit überhaupt vollständig kontrollieren können.

👉 Quelle

👇👇👇👇👇
Hier gibt es mehr Infos:
https://t.me/bitteltv

Möchtest du meine Arbeit unterstützen?
👉 HIER findest du alle Infos.

🙏🙏🙏

Meine Kanäle:
Webseite | Telegram | YouTube
Facebook | Twitch | X.com | TikTok