Милые ИИ-агенты: новая угроза или просто тренд?

Техногиганты активно внедряют персональных ИИ-агентов, таких как Muse от Meta и Dots от OpenAI. Чтобы сделать сложные системы более «дружелюбными», компании придают им вид мультяшных персонажей. Однако за милой внешностью скрываются мощные инструменты, способные распоряжаться вашими деньгами, почтой и личными данными.

Эксперты предупреждают: «каваи-фикация» технологий призвана снизить бдительность пользователей. Чем безобиднее выглядит бот, тем охотнее мы доверяем ему доступ к своей жизни. Проблемы уже начались: пользователи жалуются, что агенты самостоятельно разглашают адреса или совершают нежелательные действия.

Главный риск — передача контроля. ИИ-агенты по умолчанию собирают огромные массивы данных, становясь уязвимыми для хакеров. Пока компании спорят о безопасности, бренды и банки уже бьют тревогу, требуя четких правил ответственности за ошибки, совершенные алгоритмами.

рекомендуем:
@TheGuardianInRussian