AI-ассистент и AI-агент: где заканчивается автоматизация и начинается правовая ответственность?

AI-ассистент — программное приложение, выполняющее задачи или предоставляющее услуги пользователю на основе прямых команд или взаимодействий. Эти системы являются реактивными, работают только по запросу и предназначены для повышения производительности за счёт автоматизации простых или повторяющихся задач (от копирайтера до креативного директора). У вас может быть хоть до 300 таких ассистентов под разные задачи. Пример, вы говорите: «Проверь статус сделки с клиентом Иванов», aссистент выводит информацию.
AI-агент — более автономная система, способная воспринимать окружающую среду, принимать решения и выполнять действия независимо для достижения целей. Эти системы могут самостоятельно инициировать задачи, планировать действия и адаптировать поведение на основе обратной связи или изменений в среде.
Пример: AI -Агент самостоятельно обнаруживает, что клиент не отвечал 10 дней, и этап сделки «перегрет». Он сам пишет:
«Сделка с Ивановым на стадии ‘Ожидание ответа’ дольше нормы. Хотите отправить автоматическое напоминание?»

Четкое понимание разницы позволит правильно классифицировать роль ИИ и разобраться с правовыми последствиями.

AI-ассистенты можно рассматривать, как рабочий инструмент, где ответственность остаётся за оператором. При классификации по EU AI Act вероятнее всего будут отнесены к ИИ общего назначения или к категории низкого риска.
AI-агенты в зависимости от своих задач могут быть отнесены по EU AI Act к категории высокого риска (см. Annex 3) и к ним будут применяться дополнительные требования (механизмы управления рисками, системы аудита, контроль человека). При анализе зак-ва worlwide видим, что нет специальных законов по внедрению и использованию AI-агентов и необходимо руководствоваться общими фреймворками.

AI-агенты дают удобство, но поднимают сложные вопросы, рассмотрим некоторые:
1. Обработка персональных данных. Около половины организаций сталкиваются с проблемами соответствия законам о защите персональных данных при внедрении AI-агентов (сбор чувствительных данных, геолокация, получение информации о людях в режиме реального времени (Jarvis), законные основания на обработку, отдельно согласие на обработку, требования локализации ПД (ЕС, РФ) и хранение данных в облачных хранилищах, безопасность).
Рассмотрим на примере: агент, анализирующий историю покупок пользователя, чтобы предлагать товары, должен обрабатывать персональные данные.
Необходимо законное основание обработки (например, согласие), обеспечить прозрачность, остальные принципы GDPR или иных зак.актов в других юрисдикциях, права субъекта ПД.
Когда вы нажимаете «да» для разрешения агенту делать покупки, на какие еще действия даете разрешение? LLM могут подделывать согласование, стратегически имитируя цели обучения, чтобы избежать поведенческих изменений . Эти проблемы имеют последствия для защиты данных при использовании AI-агентов. Агент может решить, что ему необходимо получить доступ или поделиться конфиденциальными персональными данными для выполнения задачи (Thomson Reuters, Future of Privacy Forum).
2. Безопасность.
Агенты — мишени для атак (взлом, перехват токена, prompt injection). Атаки с подсказками могут заставить агента раскрыть конфиденциальную информацию (например, данные кредитной карты) и игнорировать инструкции по безопасности разработчика системы .
3. Ответственность.
Кто в каких случаях отвечает за ошибки, сбои, клевету (разработчик, организация, пользователь)?