AI-агенты в ответах Еврокомиссии

В FAQ к AI Act появились новые разъяснения, в том числе про ИИ-агентов.

👀Европейская Комиссия прямо признаёт, что термин используется по-разному и до сих пор не имеет чёткого юридического определения. Тем не менее, есть общее понимание: речь идёт о системе, которая получает информацию из окружающей среды, обрабатывает её и затем выполняет действия, способные повлиять на эту среду. Именно этот последний элемент отличает агента от обычной модели.

С точки зрения ст. 3 AI Act, любой такой агент почти всегда одновременно подпадает под два понятия:
- это система ИИ, потому что у неё есть интерфейс и она взаимодействует с пользователем или средой;
- это модель общего назначения, которая лежит в основе этой системы.
Комиссия делает вывод, что агенты не являются отдельной категорией, а входят в комбинацию этих определений.

Это означает, что к ним применяются все соответствующие требования:
▪️запреты на манипуляцию и эксплуатацию уязвимостей (Article 5 AI Act),
▪️требования прозрачности при взаимодействии с человеком,
▪️при необходимости, правила для высокорисковых систем.

❗️Чем больше автономности у системы и чем сильнее её влияние на реальные решения, тем выше уровень регулирования.
Разработчикам уже недостаточно просто контролировать тексты, которые генерирует модель, а необходимо заранее проектировать ограничения на уровне самой логики работы системы, чтобы она не могла причинить вред.

Еще ответы на вопросы, почему Еврокомиссия предлагает внести поправки в AI Act, какую пользу эти изменения принесут бизнесу, какие новые сроки предлагаются и т.д.

#AIShelf #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator