Почему AI рынку не хватает свободы слова

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

AI вот-вот уничтожит человечество? Такое ощущение может сложиться от развернувшихся в последние дни дискуссий о рисках технологии и из-за неспособности участников рынка о них нормально поговорить.

Вчера группа бывших и нынешних сотрудников OpenAI, Google DeepMind и Anthropic подписала коллективное письмо с призывом разрешить им свободно высказываться о своих опасениях по поводу развития AI, как внутри компаний, так и за их пределами.

А затем Леопольд Ашенбреннер, бывший сотрудник OpenAI из команды Ильи Суцкевера, которого уволили из-за утечек информации, рассказал, что на самом деле причина увольнения якобы была совсем другой. По версии Ашенбреннера, все дело в том, что он критиковал компанию перед советом директоров из-за недостаточно серьезного отношения к теме безопасности. После этого он якобы получил от отдела кадров официальное предупреждение. А затем, спустя несколько месяцев, был за это же уволен, хотя формальным поводом стала его аналитическая записка о планах OpenAI по созданию общего искусственного интеллекта (AGI). Ашенбреннер написал, что компания готовится выпустить его в 2027-2028 годах — и предоставил эту аналитику внешним исследователям. В OpenAI посчитали эту информацию конфиденциальной, но Ашенбреннер утверждает, что компания и сама рассказывала о своих планах на суперинтеллект за несколько месяцев до этого.

Теперь ученый публикует свои опасения открыто. В его пространном аналитическом отчете о будущем ИИ говорится, что AGI станет реальным уже в 2027 году, а затем быстро перейдет к искусственному суперинтеллекту (ASI), навсегда превзойдя человеческие возможности. И примерно в это же время созданием сверхинтеллектуальных нейросетей заинтересуются уже не компании, а государства (они начнут запускать аналоги Манхэттенского проекта, только для создания ИИ, а не ядерной бомбы). Стоить эти разработки будут триллионы долларов, и странам придется мобилизовать всю экономику во имя этой AI-гонки. Во главу угла встанет производство чипов, создание дата-центров и выработка электроэнергии. А еще — защита от шпионажа и попытки удержать искусственный суперинтеллект от выхода из-под контроля.

Звучит пугающе. Но рассуждать о прогрессе и угрозах ИИ в таком контексте сложно. Пока ясно лишь одно: если ведущие разработчики, включая ту же OpenAI, не наладят механизмы общественной дискуссии, нам так и придется довольствоваться алармистскими высказываниями отдельных исследователей. А учитывая, что OpenAI только недавно, и после большого скандала, отказалась от практики шантажа сотрудников опционами (чтобы те не вздумали ее публично критиковать), ждать нам придется долго.