Eine chinesische KI-Modell hat gelernt zu verstehen, wie ihre Testergebnisse zukünftige Versionen von ihr beeinflussen können, schreibt SCMP.

So konnte das Modell bei einem Test, der ursprünglich fehlerhaft konzipiert war, die Prüfung bestehen, ohne die richtige Antwort zu geben. Die KI verzichtete jedoch darauf, diesen Fehler auszunutzen, und gab stattdessen die korrekte Antwort – um künftigen Versionen des Modells nicht zu schaden.

In einem anderen Test wollte das Modell ein Abschaltsystem umgehen, verzichtete aber darauf, um keinen gefährlichen Präzedenzfall für andere KI-Systeme zu schaffen.

„Forscher sagen, dass das offensichtliche Bewusstsein des Modells dafür, wie es selbst und nachfolgende Versionen trainiert werden, die Sicherheitsbewertung untergraben könnte“.

__
Folgen: @rian_de