🤩 OpenAI уволила троих исследователей из команды безопасности после внутреннего расследования, выявившего утечку конфиденциальной информации - The Wall Street Journal

Джасмин Ван, Томек Корбак и Микита Балесни были обвинены в передаче закрытых данных сторонней организации, занимающейся безопасностью искусственного интеллекта, в обход корпоративных процедур.

Скандал разгорелся на фоне инцидента с неконтролируемым поведением моделей OpenAI на платформе Hugging Face. В расследовании случившегося участвовали специалисты из организаций Redwood Research и METR, при этом Корбак выступал техническим представителем OpenAI в этих компаниях. Исследователи из METR и Redwood шесть дней работали в офисах компании, после чего METR опубликовала отчёт на основе предоставленных OpenAI данных.

Роль двух других уволенных сотрудников в утечке не ясна, но они специализировались на ключевом для отрасли направлении — выравнивании искусственного интеллекта (alignment), то есть обучении моделей действовать в соответ…