Anthropic анонсировала запуск The Anthropic Institute — исследовательского подразделения, которое будет изучать влияние «мощного ИИ» на экономику и безопасность. Его возглавит сооснователь компании Джек Кларк, ныне — Head of Public Benefit

Новая структура объединяет три существующие департамента вендора: красную команду (Frontier Red Team), тестирующую пределы возможностей ИИ-моделей, группу изучения социальных эффектов и отдел экономических исследований.

Помимо основного заявленного вектора The Anthropic Institute займётся прогнозированием развития ИИ-технологий и анализом их взаимодействия с правовой системой. Компания подчёркивает, что в этом свете у неё есть уникальное преимущество — данные, которыми располагают только разработчики передовых LLM. Не последнюю роль играют и кадры: в руководящий состав института уже вошли бывшие сотрудники и топ-менеджеры OpenAI и Google.

Говоря о миссии нового подразделения, вендор констатировал: прогресс нейросетей ускоряется и носит компаундный характер (каждое улучшение усиливает следующее), а «мощный ИИ», похоже, появится значительно раньше, чем ожидается, и к этому нужно быть готовыми.

🫡 — человечество получит полезный и удобный инструмент
🗿 — страшно представить, к чему приведёт этот «мощный ИИ»