Как технологии влияют на нашу жизнь и бизнес. Автор канала и рассылки @lerapozychanyuk
Редакционный канал The Bell: @thebell_io
Реклама: ads@thebell.io
Связь: info@thebell.io
Подписка на рассылку The Bell.Tech: https://subscription.thebell.site/tech
Post #4397
22.5K
Почему AI рынку не хватает свободы слова
НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+
AI вот-вот уничтожит человечество? Такое ощущение может сложиться от развернувшихся в последние дни дискуссий о рисках технологии и из-за неспособности участников рынка о них нормально поговорить.
Вчера группа бывших и нынешних сотрудников OpenAI, Google DeepMind и Anthropic подписала коллективное письмо с призывом разрешить им свободно высказываться о своих опасениях по поводу развития AI, как внутри компаний, так и за их пределами.
А затем Леопольд Ашенбреннер, бывший сотрудник OpenAI из команды Ильи Суцкевера, которого уволили из-за утечек информации, рассказал, что на самом деле причина увольнения якобы была совсем другой. По версии Ашенбреннера, все дело в том, что он критиковал компанию перед советом директоров из-за недостаточно серьезного отношения к теме безопасности. После этого он якобы получил от отдела кадров официальное предупреждение. А затем, спустя несколько месяцев, был за это же уволен, хотя формальным поводом стала его аналитическая записка о планах OpenAI по созданию общего искусственного интеллекта (AGI). Ашенбреннер написал, что компания готовится выпустить его в 2027-2028 годах — и предоставил эту аналитику внешним исследователям. В OpenAI посчитали эту информацию конфиденциальной, но Ашенбреннер утверждает, что компания и сама рассказывала о своих планах на суперинтеллект за несколько месяцев до этого.
Теперь ученый публикует свои опасения открыто. В его пространном аналитическом отчете о будущем ИИ говорится, что AGI станет реальным уже в 2027 году, а затем быстро перейдет к искусственному суперинтеллекту (ASI), навсегда превзойдя человеческие возможности. И примерно в это же время созданием сверхинтеллектуальных нейросетей заинтересуются уже не компании, а государства (они начнут запускать аналоги Манхэттенского проекта, только для создания ИИ, а не ядерной бомбы). Стоить эти разработки будут триллионы долларов, и странам придется мобилизовать всю экономику во имя этой AI-гонки. Во главу угла встанет производство чипов, создание дата-центров и выработка электроэнергии. А еще — защита от шпионажа и попытки удержать искусственный суперинтеллект от выхода из-под контроля.
Звучит пугающе. Но рассуждать о прогрессе и угрозах ИИ в таком контексте сложно. Пока ясно лишь одно: если ведущие разработчики, включая ту же OpenAI, не наладят механизмы общественной дискуссии, нам так и придется довольствоваться алармистскими высказываниями отдельных исследователей. А учитывая, что OpenAI только недавно, и после большого скандала, отказалась от практики шантажа сотрудников опционами (чтобы те не вздумали ее публично критиковать), ждать нам придется долго.
Telegram 🤖 The Bell Tech Сотрудники OpenAI и других компаний-разработчиков ИИ попросили возможность открыто высказываться о рисках технологии
НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE… НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+
AI вот-вот уничтожит человечество? Такое ощущение может сложиться от развернувшихся в последние дни дискуссий о рисках технологии и из-за неспособности участников рынка о них нормально поговорить.
Вчера группа бывших и нынешних сотрудников OpenAI, Google DeepMind и Anthropic подписала коллективное письмо с призывом разрешить им свободно высказываться о своих опасениях по поводу развития AI, как внутри компаний, так и за их пределами.
А затем Леопольд Ашенбреннер, бывший сотрудник OpenAI из команды Ильи Суцкевера, которого уволили из-за утечек информации, рассказал, что на самом деле причина увольнения якобы была совсем другой. По версии Ашенбреннера, все дело в том, что он критиковал компанию перед советом директоров из-за недостаточно серьезного отношения к теме безопасности. После этого он якобы получил от отдела кадров официальное предупреждение. А затем, спустя несколько месяцев, был за это же уволен, хотя формальным поводом стала его аналитическая записка о планах OpenAI по созданию общего искусственного интеллекта (AGI). Ашенбреннер написал, что компания готовится выпустить его в 2027-2028 годах — и предоставил эту аналитику внешним исследователям. В OpenAI посчитали эту информацию конфиденциальной, но Ашенбреннер утверждает, что компания и сама рассказывала о своих планах на суперинтеллект за несколько месяцев до этого.
Теперь ученый публикует свои опасения открыто. В его пространном аналитическом отчете о будущем ИИ говорится, что AGI станет реальным уже в 2027 году, а затем быстро перейдет к искусственному суперинтеллекту (ASI), навсегда превзойдя человеческие возможности. И примерно в это же время созданием сверхинтеллектуальных нейросетей заинтересуются уже не компании, а государства (они начнут запускать аналоги Манхэттенского проекта, только для создания ИИ, а не ядерной бомбы). Стоить эти разработки будут триллионы долларов, и странам придется мобилизовать всю экономику во имя этой AI-гонки. Во главу угла встанет производство чипов, создание дата-центров и выработка электроэнергии. А еще — защита от шпионажа и попытки удержать искусственный суперинтеллект от выхода из-под контроля.
Звучит пугающе. Но рассуждать о прогрессе и угрозах ИИ в таком контексте сложно. Пока ясно лишь одно: если ведущие разработчики, включая ту же OpenAI, не наладят механизмы общественной дискуссии, нам так и придется довольствоваться алармистскими высказываниями отдельных исследователей. А учитывая, что OpenAI только недавно, и после большого скандала, отказалась от практики шантажа сотрудников опционами (чтобы те не вздумали ее публично критиковать), ждать нам придется долго.
- 🤔 9
- 👍 2
- 😱 2
- ❤ 1