Сотрудники OpenAI и других компаний-разработчиков ИИ попросили возможность открыто высказываться о рисках технологии

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Группа бывших и нынешних сотрудников OpenAI, Google DeepMind и Anthropic подписали коллективное письмо с призывом создать каналы отчетности, чтобы свободно высказывать свои опасения по поводу развития ИИ-технологии — как внутри этих компаний, так и за их пределами. Подписи поставили 13 человек, семь из которых указали свои имена.

Эксперты перечислили различные виды угроз, от распространения дезинформации до исчезновения человечества вследствие потери контроля над автономными системами ИИ. «Пока нет эффективного государственного надзора за этими корпорациями, нынешние и бывшие сотрудники — одни из немногих, кто может заставить их отчитываться перед обществом», — говорится в письме.

Сейчас сотрудники не могут открыто обсуждать вопросы, связанные с потенциальными угрозами ИИ человечеству, из-за наличия соглашений о конфиденциальности, недостаточной правовой защиты заявителя (так называемый “whistleblower”), а также из страха ответных действий руководства.

В OpenAI заявили, что согласны с необходимостью государственного регулирования и отметили важность «активных дискуссий».

Призыв поддержали такие ведущие исследователи, как Йошуа Бенджио, Стюарт Рассел и Джеффри Хинтон, которых называют «крестными отцами ИИ». В прошлом году Хинтон уволился из Google, чтобы открыто предупреждать общество о рисках, связанных с использованием искусственного интеллекта.