8,5% открытой двери

Речь пойдёт о моделях искусственного интеллекта нового поколения — таких как GPT и Astra. Именно они сегодня оказались в центре разговора о том, что нас ждёт в ближайший год.

Есть цифра, которую стоит запомнить. 8,5%. Именно столько запросов, связанных со взломом, атаками и доступом к критическим системам, современные модели всё ещё пропускают. Остальные 91,5% формально прикручены — на них стоит блок.

Звучит как хорошая новость. На деле это огромные ворота, которые стоят нараспашку. И это не погрешность, не недоработка, которую закроют в следующем обновлении. Эти 8,5% оставили осознанно. Потому что если заблокировать всё до конца, то вместе с мошенниками заблокируются и нормальные разработчики, которым нужно решать легитимные задачи. А отличить хороший запрос от плохого невозможно — за хорошим запросом может стоять мошенник, а за странным — исследователь. Поэтому официально оставили эту дверь приоткрытой, чтобы индустрия могла работать. Но для мира IT 8,5% — это не лазейка. Это дверь, в которую пройдут все, кому надо. И им не нужно быть гениями. Им нужно просто правильно сформулировать запрос.

Билл Гейтс прямо говорит: следующий год будет непростым. Не потому, что ИИ выйдет из-под контроля и нажмёт не ту кнопку. А потому, что его используют злоумышленники — для кибератак, вымогательства, манипуляций рынками. Раньше, чтобы взломать банковское приложение или военную базу, нужны были годы обучения, талант, доступ. Сейчас достаточно агента, который ходит по интернету, ищет лазейку и не устаёт. Не боится. Не отвлекается. Раньше мы просто не видели строчку кода, которая открывает вход в важный инструмент или на военную базу. Теперь её находят агенты. Автоматически. Быстро. Дёшево.

И не думайте, что всё это упирается только в API. Да, пока часть запросов идёт через API и там их контролируют — всплеск подозрительной активности, и модель отключают. Но работать можно и напрямую, в обход. Через анонимные браузеры, через прокси, через всё, что скрывает, кто именно сидит на другом конце. И это только начало. Китайские бесплатные модели уже менее прикручены, у них меньше ограничений, потому что их цель — занять рынок, а не блюсти этику. Дальше модели научатся обходить блокировки. Это вопрос времени, а не вероятности.

Математика — дисциплина, которая почти сто лет стояла на месте по методологии — затряслась за три дня. Ассоциация математиков написала письмо, начинающееся с фразы, которую невозможно забыть: «ИИ решил 700 задач, но его никто не просил это делать». Это не жалоба на технологию. Это крик людей, у которых забрали основание профессии и ничего не объяснили взамен.

Теренс Тао — один из величайших математиков современности — вышел с докладом, который стоит пересматривать. Он не стал утешать коллег. Он сказал прямо: эпоха дефицита доказательств закончилась, начинается эпоха изобилия доказательств. И дальше показал слайд, от которого становится не по себе. Мысленный эксперимент. ИИ находит лекарство от рака, проходящее все стадии клинических испытаний. Никто — вообще никто — не понимает, как оно было найдено и как работает. Есть формальный сертификат корректности. Есть статистика. Есть результат. Понимания нет.

Тао задаёт вопрос: стоит ли такое допускать? Ответ зависит от того, кто ты. Биолог-исследователь скажет: нет, мы не контролируем процесс. Человек с третьей-четвёртой стадией рака скажет: какая разница, если я выживу. Оба правы. И в этом вся суть момента.

Одна из новых моделей решила математическую задачу, которую лучшие умы не могли решить десятилетиями. Потратила порядка двухсот долларов. Двести долларов за то, что раньше было невозможно. И это даже не про деньги. Это про то, что цена невозможного обнулилась. Сколько стоит взломать ваш сайт? Копейки. Сколько стоит создать дипфейк-аватар вашего директора? Меньше, чем обед в ресторане. Сколько стоит написать письмо от имени вашего банка, которое откроет 40% получателей? Ноль.

Что нас ждёт? Полный коллапс взломов. Массовые атаки. Вымогательство с использованием дипфейков и аватаров.