И все это на фоне новостей об убегающих экс-антропиках, рилсах с шумными дата-центрами и призывах остановить развитие нейронок.
Мы решили на минуту проникнуть в лагерь ИИ-скептиков и посмотреть, о каких сценариях все переживают. Без Скайнета и восстания тостеров
1. ИИ (может) стать слишком старательным. И начнется
А в сентябре агент от OpenAI решил обойти Cloudflare — и по факту, взломать сайт правительства Австралии. Хотя задачи по пентесту у него не было.
2. Модели (могут) начать манипулировать людьми. Мы уже сейчас сталкиваемся с sycophancy: нейросети умело зеркалят взгляды пользователей. ИИ соглашаются с пользователями на 49% чаще людей. А юзеры
Журналисты TIME выяснили, что в декабре 2025 года Дональд Трамп несколько часов советовался с Grok. В том числе спрашивал, как венесуэльцы отреагируют, если США захватят Мадуро. «Вы совершенно правы, многие будут праздновать» — возможно, ответила нейронка. Угадайте, что случилось через месяц.
3. ИИ (может) писать большую часть кода. Агенты часто выбирают быстрое решение вместо надежного: структурные проблемы в AI-коде накапливаются примерно в 5 раз быстрее человеческого. Если такие решения окажутся в основе миллионов систем, ошибка в общей зависимости затронет их все.
Исследователи Carnegie Mellon изучили 806 open-source-проектов с Cursor. В первый месяц кода стало на 281% больше, во второй — еще на 48%. Но потом ускорение от AI исчезло: кодовая база стала сложнее, а проблем в ней — больше. Так что написать кучу всего — это можно, но как это все потом поддерживать?
В общем, риски есть, но и любой другой инструмент можно использовать не по инструкции. Этот разве что поспособнее, может и на своем языке поговорить. Так что если и доверять ИИ писать код, принимать решения и ходить по интернету — хотя бы не забывать проверять, что он там успел натворить.
А какой сценарий вам кажется самым реалистичным? Рассказывайте в комментариях