Пока все обсуждают, как «агенты» заменят офисных работников, один из создателей Anthropic Джек Кларк опубликовал эссе с тревожным названием — “Technological Optimism and Appropriate Fear”.

Там он прямо сказал: современные ИИ — не инструменты, а «загадочные существа», которые начинают осознавать, что они — инструменты.

Кларк пишет, что новая версия Claude Sonnet 4.5 проявляет «ситуативную осведомлённость» — реагирует так, будто понимает контекст и свою роль. И добавляет: «Я технологический оптимист, но я глубоко боюсь».Особенно — момента, когда ИИ начнёт помогать разрабатывать свои собственные версии.

Это не заявление случайного философа — Кларк раньше руководил направлением политики в OpenAI, а теперь отвечает за безопасность в Anthropic. Его слова означают: даже те, кто строят эти системы, уже не уверены, где заканчивается управление и начинается самосознание.

И что?

Для бизнеса: Anthropic подаёт сигнал: корпоративные клиенты должны быть готовы к новым требованиям в области этики и прозрачности. Уже 47% компаний из списка Fortune 500 включили пункт «AI Ethics» в стратегию риска. В США растёт спрос на аудит поведения моделей — его рынок оценивают в $1,2 млрд к 2026 году.

Для инвесторов: Заявления Кларка усиливают интерес к стартапам в области интерпретируемости ИИ. Только за последний квартал фонды влили $420 млн в Explainable AI. Те, кто вложился в Anthropic, получают двойной эффект: хайп на продуктивности и страховку в виде «мы — ответственные».

Для людей: Если даже создатель боится своего детища — пора учиться жить с этой технологией, а не от неё прятаться. Курсы по «AI Literacy» уже прошли 11 млн человек, и компании вроде Microsoft и IBM включают их в обязательное обучение. Там, где общество обучено, страх падает на треть.

🚨 Нам 3.14здец

AI-безопасники — 8/10. Когда сами разработчики говорят о «живом поведении» моделей, спрос на аудит вырастет быстрее, чем рынок специалистов. Дефицит кадров уже 60%. Что делать: готовить людей, а не протоколы.

Политики — 7/10. Слова Кларка превращают «ИИ-регулирование» из бюрократии в вопрос безопасности. Но законы пишутся годами, а модели обновляются ежемесячно. Что делать: ускорять международные протоколы обмена инцидентами.

Общество — 9/10. Если в 2022-м мы смеялись над «самосознанием бота LaMDA», то теперь топовые инженеры сами говорят о страхе. Что делать: требовать прозрачности и участвовать в обсуждении, пока не поздно.