Глава безопасности Anthropic лично оценил риск гибели всех людей выше 10%

Дарио Амодеи в субботнем эссе пообещал впустить независимых оценщиков внутрь Anthropic на правах сотрудников: тот же доступ, что у своих команд по рискам, и право публиковать выводы без редактуры.

Доступ выдаёт сама компания и на своих условиях. Оценщик сидит внутри, читает всё, пишет что хочет, но приглашает его хозяин дома, а закон и регулятор ни при чём. Аудит совести, где совесть сама решает, кого пускать на кухню.

И фон специфический. Собственный глава безопасности Эван Хубингер публично написал, что лично оценивает риск гибели всех людей от ИИ за ближайшее десятилетие выше 10%. Именно тот, кто в Anthropic за безопасность и отвечает.

Так что оценщиков зовут в комнату, где сотрудник со значком «безопасность» вслух называет цифру, при которой в самолёт бы не сели ни за что. А билеты уже в продаже, и очередь на регистрацию только растёт.

ИИ что дальше? Подпишись, да пребудут с тобой токены!