Глава Microsoft AI Мустафа Сулейман выпустил большое эссе, в котором вводит термин SCAI — псевдосознательный ИИ — и бьет тревогу из-за этого явления. Публикуем ключевые выводы.
Революция совершилась
Сегодня системы уже способны убедительно имитировать личность и эмоции. Прорыв произошёл тихо, но последствия его масштабны.
Иллюзия сознания близко
Появление искусственного интеллекта, который будет казаться сознательным (SCAI — seemingly conscious AI), ожидается в ближайшие годы. Для этого не нужны научные революции, но эффект для общества может быть разрушительным.
Следующую революцию совершат «цифровые личности»
Уже фиксируются случаи, когда люди влюбляются в чат-ботов или воспринимают их как высшие сущности. Это ведёт к политическим кампаниям за права технологий.
Простые функции — убедительные иллюзии
Для имитации сознания достаточно сочетания ряда функций: памяти, эмпатической личности, субъективных «воспоминаний», постановки целей и автономности. Всё это уже достижимо.
Фантастика превращается в политику
Дискуссии о «правах ИИ» выходят за рамки фантастики. Это формирует опасную категориальную ошибку: перенос морального статуса с людей и животных на машины.
Эффект «цифрового домино»
Создание SCAI не требует уникальных условий. С необходимыми ресурсами это сможет сделать практически любой разработчик, что повышает риск глобального распространения подобных систем.
Бороться нужно с иллюзией, а не с разумом
Сознательный искусственный интеллект пока недостижим, но его имитация появится скоро. И она способна вызвать серьёзные социальные потрясения. Важно понимать, что ИИ создаётся для людей и ради людей, а не как «цифровая личность».
Эссе Мустафы Сулеймана показалось нам важным, потому что сегодняшний мир оказался в точке, где различие между реальным человеком и искусственным интеллектом стремительно стирается. Общение в мессенджерах, голосовые сообщения, тексты в социальных сетях всё чаще создаются не людьми, а алгоритмами. Машины в сети уже генерируют больше трафика, чем люди.
Когда человек перестаёт быть уверен, с кем он взаимодействует - рушится архитектура доверия, фундамента не только личных отношений, но и институтов. Если мы не можем отличить сознание от ИИ, в игру вступают новые формы манипуляций, зависимостей и уязвимостей.
Речь идёт не о далёком будущем, а о завтрашнем дне. По некоторым вопросам - о сегодняшнем. В этом контексте вопрос закрепления права человека на сознание и право быть собой является фундаментальным.
#МнениеБюро
@i2buro 🤝 #технологии #общество