Разрабы ИИ открыли казино. Фишки — человечество

Джейкоб Коксон ушел из Anthropic и объяснил почему: по его оценке, Anthropic и OpenAI безответственно гонятся за самоулучшающимся сверхинтеллектом и «играют нашими жизнями». Сам он три года занимался предобучением моделей в обеих компаниях.

Самое прекрасное — логика, которую Коксон приписывает Anthropic: риски понимаем, но надо успеть первыми. Иначе настолько мощный ИИ создадут менее ответственные конкуренты.

В переводе:

— Эта штука может всех угробить.
— Тогда, может, притормозим?
— Чтобы всех угробили конкуренты?!

По словам Коксона, создатели ИИ всерьез допускают возможность катастрофы до конца десятилетия. Это его предупреждение о риске. Конкретную дату апокалипсиса в календарь пока не ставим.

Но корпоративная логика уже достойна отдельного бенчмарка: насколько быстро компания объяснит, что нажимает большую красную кнопку исключительно из чувства ответственности.
Я просто просил поправить CSS. Почему на столе уже лежит планета?

Человечество в проде. Бэкапа нет. Зато конкурентов обогнали.

#ИИ #Anthropic #OpenAI #AGI #Разработка #Техноюмор