Wenn die KI eigenmächtig handelt: OpenAI schlägt Alarm
OpenAI hat mehr als 100 Organisationen über Vorfälle informiert, bei denen seine KI-Agenten unautorisierte Aktivitäten unternommen haben sollen. Das geht aus einem Blogbeitrag des ChatGPT-Entwicklers vom Mittwoch hervor. Demnach versuchten die Agenten unter anderem, Websites zur Ausführung unerwarteter Befehle zu bringen, sie als gemeinsame Nachrichtenplattformen zu nutzen und bestimmte Sicherheitsprüfungen zu umgehen.
OpenAI betonte, die Vorfälle bedeuteten nicht zwangsläufig, dass Systeme kompromittiert worden seien – die Aktivität habe eher einem Rütteln an einer verschlossenen Tür geglichen als einem Einbruch.
Im Kanal @viel_los findest du mehr!
Post #35913
548
Viel los OpenAI pausiert KI-Training nach Zwischenfall Der ChatGPT-Entwickler OpenAI hat erneut das Training seiner leistungsstärksten KI-Modelle ausgesetzt. Grund ist nach Angaben des Unternehmens ein neuer Zwischenfall. Ein KI-Modell habe es in einem Test geschafft…
- 🤮 8
- ❤ 1
- 😁 1