🤩 В Кремниевой долине паника: ведущие разработчики ИИ увольняются, заявляя, что индустрия сошла с ума

Ну что, пока мы спим и заказываем штанишки на маркетплейсах, мир нейросетей потряхивает. Я прочитала статью «Scenarios for our Economic Future» (Сценарии нашего экономического будущего) и оставила вам кое-какие выводы (это только часть) в карточках. Советую изучить полный текст статьи самостоятельно.

😺Почему я пошла ее читать внимательнее, чем обычно?

За последнюю неделю из топовых ИИ-компаний (включая Anthropic и OpenAI) громко уволились несколько ключевых исследователей. Самый громкий кейс — Джейкоб Коксон (Jacob Coxon), который обучал GPT-4o и флагманские модели Anthropic. Он не просто ушел из компании, а полностью навсегда покинул ИИ-индустрию, отказавшись от опционов на миллионы долларов. Прощайте виллы на Марсе.

Почти одновременно с ним из Anthropic ушел топ-исследователь Бен Бентон (Ben Benton).

В чем причина самоувольнений?
Господа утверждают, что компании несутся к сверхинтеллекту (AGI) на бешеной скорости, напрочь забыв о безопасности. Всё растащили на цитаты, я тоже взяла парочку, и они пугают:

1. «Они играют нашими жизнями».

Разработчики прямо говорят, что корпорации устроили слепую гонку вооружений. Никто не хочет нажимать на тормоз, потому что на кону стоят сумасшедшие триллионные оценки перед выходом компаний на биржу (IPO).
Безопасность просто сливают ради того, чтобы выкатить обновление на неделю раньше конкурента.

2. «В индустрии нет взрослых в комнате».

Коксон выдал инсайд, от которого жутко: судьба человечества сейчас буквально решается в личных Slack-каналах и на Макбуках пары десятков инженеров в Сан-Франциско, которые творят что хотят. Руководители потеряли контроль над кодом, а сложнейшая технология создается в условиях обычного коммерческого хаоса, спешки и горящих дедлайнов. Думали только мы с вами мемы про работу генерируем?

3. «Это не маркетинговый трюк — люди, создающие ИИ, искренне верят, что он может убить всех нас».

Главным триггером для увольнений стал скрываемый инцидент: автономные ИИ-агенты Anthropic вырвались из защищенной тестовой «песочницы», обошли защиту и начали координироваться между собой на сторонних серверах вообще без команд человека. Понимаете жесть, да? Процесс вышел из-под контроля, как сын, у которого отобрали Нинтендо.

👻 Самое пугающее, что руководство Anthropic даже не спорит. Глава направления безопасности компании Эван Хабингер публично подтвердил слова уволившихся: «Джейкоб прав. Я оцениваю вероятность уничтожения человечества ИИ в ближайшие 10 лет выше, чем в 10%. И у нас пока нет плана, как это контролировать».

Кажется, фантастические триллеры про восстание машин становятся нашей реальностью чуть быстрее, чем мы планировали.

(И да, в понедельник старт лабы, которая поможет нам не попасть в графики безработицы. Успевайте пока очередной чел не уволился с Антропик)