В России ИИ-ассистенты регулярно используют уже 15–20% пользователей, что делает вопрос объективности критическим. Нейросети научились генерировать связные тексты, в которых реальные данные соседствуют с ошибками и полностью вымышленными элементами, создавая убедительную, но не всегда достоверную картину.
Одновременно растет зависимость пользователей от подобных систем. Чем более уверенно и естественно звучит ответ, тем выше вероятность, что он будет принят без дополнительной проверки, особенно в рабочих процессах, где скорость часто выходит на первый план.
Когда ИИ становится единственным окном в мир, он неизбежно формирует вашу картину реальности. Просто потому, что модель выдает наиболее вероятный, "средний" ответ. И это серьезнее, чем "пузыри соцсетей", потому что ИИ воспринимается как нейтральный и объективный источник. А он таковым не является. Делегирование знаний и решений искусственному интеллекту будет расти, поэтому необходим человеческий контроль.
— считает Антон Башарин, старший управляющий директор AppSec Solutions.
В этих условиях важно не только развивать сами модели, но и налаживать проверку и верификацию информации.
Подробнее в Коммерсантъ. 🖥
🔠 Рассылка | МАКС
#Экспертиза_AppSec