Сотрудники ИИ-компаний все чаще сталкиваются со стрессом и выгоранием из-за опасений по поводу рисков развития ИИ — FT

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Работники крупнейших ИИ-компаний стали испытывать больше проблем с ментальным здоровьем из-за разработки мощных систем ИИ, которые, по их опасениям, могут причинить человечеству серьезный вред. Как пишет Financial Times, страх перед последствиями этой работы приводит к выгоранию, стрессу и психологическому напряжению среди сотрудников.

◾️ За последние два года более десятка ведущих исследователей ушли из Anthropic, OpenAI и DeepMind из-за обеспокоенности тем, как их руководство расставляет приоритеты в вопросах безопасности, и тревоги, вызванной темпами развития ИИ. Последний случай произошел несколько недель назад, когда исследователь Anthropic Джейкоб Коксон уволился, обвинив разработчиков передовых моделей в том, что они «ставят будущее человечества на кон».

◾️ В Британском институте безопасности ИИ (AISI), лидере в сфере независимого тестирования передовых ИИ-моделей, несколько сотрудников взяли больничный из-за стресса, сообщили FT источники, знакомые с ситуацией. На этом сказались сжатые сроки тестирования новых моделей ИИ и тревога из-за их стремительного развития и быстрого внедрения.

◾️ Работник DeepMind рассказал FT о случаях увольнений и больничных среди сотрудников из-за проблем с ментальным здоровьем, связанных с чувством потери контроля и работой над технологиями, которые могут нанести обществу реальный вред. В качестве примера он привел заключенную в апреле этого года сделку Google с Пентагоном, которая разрешает использовать ИИ-системы компании в секретных военных операциях.

Чего боятся разработчики ИИ

Скорость развития ИИ тревожит не только сотрудников ИИ-компаний, но и их руководство: последние две недели лидеры индустрии активно обсуждают, нужно ли притормозить развитие ИИ, который с лета этого года стал эволюционировать значительно быстрее, чем раньше. Возможно ли замедлить развитие искусственного интеллекта — вопрос последней рассылки The Bell.Tech.

Что теперь умеет делать ИИ и чем он так напугал своих разработчиков? Одна из причин всеобщего беспокойства — рекурсивное самоулучшение, то есть участие самих моделей в разработке следующего поколения ИИ. В технорассылке мы подробно разбираем, как оно работает, и рассказываем, какие способы взять развитие ИИ под контроль видят в индустрии и что может ждать нас в будущем.

👍 Подписаться на еженедельную рассылку The Bell.Tech можно по ссылке.