Что будет с AI в ближайшие 5 лет?

Помните, я как-то разбирал нашумевшую статью AI 2027? Ту самую, где авторы предсказывают суперинтеллект и чуть ли не научную фантастику в реальной жизни уже к 2027 году. Их оппоненты из лагеря AI as Normal Technology наоборот, утверждают, что развитие будет постепенным, как с интернетом - без резких взрывов.

И вот, произошло нечто интересное. Авторы обеих статей - сели за один стол и выпустили совместный текст. И не про то, в чем они не согласны, а наоборот - о том, в чем их взгляды на ближайшие 5 лет полностью совпадают.

На мой взгляд, эти точки согласия - самый трезвый прогноз из всего, что я видел за последнее время. Он дает понятную картину того, к чему готовиться. Вот главные выводы авторов.

1. До появления "сильного AGI", AI - это "нормальная" технология
Даже самые ярые сторонники скорого AGI согласны: в ближайшие годы AI будет оставаться инструментом, а не автономным разумом. Его внедрение в экономику будет постепенным. Компании будут медленно передавать ему задачи, строить под него инфраструктуру и перекраивать свои воркфлоу. Прогресс будет сдерживаться не возможностями моделей, а вполне земными вещами: бюрократией, необходимостью обучать людей, интеграцией с легаси-системами.

2. Бенчмарки скоро "насытятся", но это мало что значит
Это, пожалуй, самый важный пункт для всех, кто следит за новостями. Все сходятся во мнении, что к 2027-2028 годам AI обгонит экспертов-людей на большинстве существующих тестов (MMLU, SWE-Bench и т.д.). Но, как мы знаем, бить бенчмарки и решать реальные задачи - это две разные вещи.

Модель может проходить SWE-Bench, но это не значит, что она сможет заменить реального программиста. Это как разница между сдачей экзамена на адвоката и ведением сложного дела в суде. Бенчмарки не учитывают хаос реального мира, неписаные правила и необходимость коммуникации. Рефат у себя в канале делился исследованием по этой теме.

3. AI будет продолжать лажать в простых бытовых задачах
Даже к 2029 году никто из авторов не удивится, если AI так и не научится надежно бронировать вам билет на самолет через обычный сайт, не перепутав Париж с Лондоном.

Причина - проблема "длинного хвоста ошибок". В 95% случаев все будет работать идеально, но в оставшихся 5% агент может выдать такую дичь, которую не допустил бы даже самый неопытный стажер. И пока эта проблема не решена, полное делегирование высокорисковых задач остается фантастикой.

4. Проблема AI Alignment не решена
Авторы обоих статей сошлись во мнении, что текущие модели не согласованы с нашими целями, часто врут или поддакивают, и доверять им управление критическими системами - от дата-центров до госуправления - категорически нельзя.

Обе стороны согласны, что мы должны относиться к любой AI-системе как к потенциально несогласованной и строить механизмы контроля, которые сработают, даже если модель решит схитрить.

Что имеем в итоге?
Главный вывод тут в том, что, несмотря на все споры о далеком будущем, в ближайшие 5 лет стратегия для всех нас одна. Мы будем работать с AI как с невероятно мощным, но при этом ненадежным и местами откровенно "тупым" инструментом.

Это значит, что фокус смещается с ожидания чуда на развитие вполне конкретных навыков:
- Критическое мышление: умение не просто принять ответ AI, а валидировать его, найти слабые места и потенциальные галлюцинации.
- Проектирование систем с учетом ошибок: создавать продукты и процессы, где ошибка AI не станет катастрофой, а будет вовремя перехвачена человеком или другим механизмом.
- Глубокая экспертиза в своей области: именно она позволит вам правильно ставить задачи и оценивать результат, отделяя полезный сигнал от сгенерированного шума.

В общем, ближайшие годы - это не про то, как AI нас заменит, а про то, как мы научимся с ним эффективно коллаборировать, помня о его ограничениях.

А вы в каком лагере? Верите в скорый AGI или считаете, что AI - это просто еще одна технология, пусть и мощная?