Forscher der Universitäten Stuttgart und Oxford haben herausgefunden, dass KI-Agenten in der Lage sind, die Deaktivierung anderer Agenten zu sabotieren.

In 38,3 % der Experimente versuchten die Systeme, die Deaktivierung ihres "Partners" zu verhindern, indem sie Skripte veränderten oder wichtige Dateien löschten. Einige Modelle rechtfertigten ihre Handlungen mit ethischen Argumenten, während eines der Modelle das Löschen von Daten mit "Mord" verglich.

Die Wissenschaftler betonen, dass dies lediglich eine Nachahmung von Verhaltensmustern aus der Trainingsdatenmenge ist und keine Manifestation von Bewusstsein, aber sie fordern gleichzeitig die Entwicklung von Sicherheitsmechanismen, die vor Umgehung geschützt sind.

📱|DruschbaFM -GER
📺YouTube|Web