Через 6–12 месяцев рой ИИ-агентов может захватить интернет и нанести ущерб на сотни миллиардов долларов — CEO Anthropic Дарио Амодеи.

Он призывает замедлить развитие самых мощных моделей: ИИ уже помогает создавать следующее поколение ИИ, а контроль может не успеть за их ростом.

Anthropic пустят внешних аудиторов внутрь почти как сотрудников. Они смогут публично рассказывать о найденных рисках без цензуры от компании.

Главу Anthropic уже поддержали Сэм Альтман и Илон Маск.

@typespace