OpenAI-Sicherheitschef wirft hin – und warnt vor KI-Risiken

David Robinson, ein langjähriger Sicherheitsmitarbeiter von OpenAI, hat das Unternehmen verlassen und im Magazin „The Atlantic“ schwere Vorwürfe gegen den Umgang des Unternehmens mit der Sicherheit erhoben. Der Konzern gehe bei der Entwicklung immer leistungsfähigerer KI-Systeme zu schnell vor, kritisierte Robinson. Die Zeit für „Versuch und Irrtum“ sei vorbei.

Seiner Meinung nach sind bei KI-Systemen Sicherheitsvorkehrungen erforderlich, die eher mit denen in Bereichen wie der Atomkraft oder der Luftfahrt vergleichbar sind. Robinson war eigenen Angaben zufolge dreieinhalb Jahre bei OpenAI tätig. Er war an der Entwicklung des Preparedness Frameworks beteiligt und betreute Sicherheitsberichte zu zwölf Starts sogenannter Frontier-Modelle.

Im Kanal @viel_los findest du mehr!