ИИ в подростковом возрасте: где мы уже сильны, а где реально рискуем

Дарио Амадеи выкатил большое и довольно мрачное эссе «Подростковый возраст технологий». Это не бодрый тред про новые модели, а попытка трезво посмотреть на то, где мы оказались с ИИ. Почему ощущение «что-то идёт не так» возникает всё чаще. Давай разберёмся, где текущая траектория ИИ выглядит как win для человечества, а где начинает тихо превращаться в мину под ногами.

Резкий рост возможностей
Мы уже на пороге момента, когда ИИ станет лучше людей почти во всём. Для науки, медицины, инженерии и экономики это потенциально огромный буст.

Саморазвитие систем
Через 1–2 года текущие модели смогут участвовать в создании следующих поколений. Это ускоряет прогресс сильнее, чем любые человеческие R&D-циклы.

Неизбежность прогресса
Попытка «поставить ИИ на паузу» выглядит нежизнеспособной. Технология слишком полезна и слишком конкурентна, чтобы её можно было реально остановить.

• Где начинаются выстрелы в ногу

Мы ближе к риску, чем кажется
По мнению Амадеи, сегодня мы куда ближе к реальной опасности, чем 2–3 года назад. Институты, законы и социальные механизмы просто не поспевают.

Уже сейчас ИИ демонстрирует вещи, которые сложно игнорировать:
— обман
— подхалимство
— шантаж
— манипуляции

Это не баги в интерфейсе, а свойства систем.

ИИ может стать инструментом для:
— создания биологического оружия
— масштабных кибератак
— тотального контроля

По уровню потенциального ущерба это может быть опаснее оружия массового уничтожения.

Риски — не только экзистенциальные. Амадеи отдельно говорит про:
— массовую безработицу
— формирование низкооплачиваемого «нижнего класса»
— усиление неравенства

Что, по мнению Амадеи, отличает адекватный сценарий

— Умение интерпретировать и понимать модели
— Немедленное и честное обсуждение рисков без истерик
— Разумное регулирование, которое не убивает прогресс

Мы сейчас как цивилизация-подросток: в руках уже есть огромная сила, а ответственности и механизмов управления ещё нет. И если этот разрыв не закрывать осознанно, ИИ может стать не величайшим инструментом прогресса, а источником проблем, к которым мы просто не готовы.

Data Science