Еще недавно ИИ был просто инструментом, теперь ему приписывают сверхъестественные способности, автономную волю и даже способность уничтожить человечество.
В журнале «Медицина» в этом году вышла статья «Искусственный интеллект как триггер психотических состояний». По словам авторов, содержание технологического бреда меняется вместе с технологиями — от «машин влияния» до нейросетей и автономных ИИ-агентов:
«На протяжении последних 100 лет содержание “технологических” бредовых идей эволюционировало синхронно с развитием техники — от “машин влияния” Тауска до сложных бредовых систем, включающих нейросетевые архитектуры, алгоритмы машинного обучения и автономные ИИ-агенты».
С начала этой осени идеи о сверхъестественных способностях нейросетей стали овладевать широкими массами: соцсети и медиа ринулись тиражировать многочисленные заявления ИИ-разработчиков, которые в один голос твердят о рисках ИИ для всего человечества. Но представители крупных ИИ-компаний конкретных сценариев почти не приводят — их достраивает уже сама вовлеченная публика.
А поводов для фантазии хватает: модели иногда выбирают опасные способы достижения целей, могут сопротивляться отключению, искать дополнительные вычислительные ресурсы и запускать собственные копии.
Опрошенные «Моноклем» эксперты подробно разобрали механизм взаимодействия ИИ-агентов с окружающим миром и объяснили: весь вопрос в том, какие задачи ставятся агенту и как выстроена защита — причем не только у опасных объектов, а вообще везде.
Парадоксальным образом роль человека с развитием ИИ не снижается, а возрастает: выстроить «забор» для агента, следить за тем, чтобы он не пытался обойти ограничения, изобретать новые механизмы защиты, причем, если надо, не только программные, но и физические, — все это задачи, которые теперь стоят перед человечеством.
Где заканчивается реальный риск и начинается технопсихоз? И насколько далеко мы готовы поверить в собственные сценарии про восстание машин?
📰 Монокль в MAX | Подписаться