Суды и регуляторы хотят изменить правила игры для поискового ИИ

В прошлом посте разобрали, что, по мнению ЕС, Google AI Overviews влияет на медиаплюрализм и устойчивость информационной среды, кроме этого раньше был пост про ошибки и галлюцинации Google AI Overviews.
А теперь посмотрим подробнее на последние решения.

➡️ Немецкий суд признал, что сгенерированный ответ является самостоятельным высказыванием Google. Рассматривалось дело двух издателей, которых AI Overview ошибочно связал с мошенническими схемами.
Позиция суда оказалась принципиальной, если AI Overview распространяет ложную информацию, ответственность несёт Google, а не сайты, на которые система ссылалась при формировании ответа.

До сих пор многие компании ссылались на то, что ИИ лишь обрабатывает информацию из различных источников. Однако суд указал, что предупреждение в духе «искусственный интеллект может ошибаться» само по себе не освобождает от ответственности за распространение ложных сведений.

Если решение устоит после обжалования, оно может стать одним из первых значимых прецедентов для оценки ответственности за ошибки поисковых систем с ИИ.

➡️ Требования Британского регулятора к Google Search:
▪️предоставить издателям эффективный контроль над использованием их поискового контента в генеративном искусственном интеллекте.
▪️публиковать четкую, понятную и удобную для пользователя информацию, объясняющую, как Google использует контент издателей в поисковой выдаче в рамках своей системы генеративного искусственного интеллекта.
▪️предоставить издателям четкие и подробные метрики вовлеченности пользователей в поисковый контент с помощью функций генеративного искусственного интеллекта для поиска.
▪️предпринимать разумные шаги для обеспечения четкого и точного указания авторства поискового контента в общем поиске, а также для обеспечения конечным пользователям четких способов доступа к этому поисковому контенту.
▪️публиковать четкую, понятную и удобную для пользователя информацию, объясняющую свой подход к атрибуции.
▪️ранжировать органические результаты поиска на основе объективных и недискриминационных критериев, включая функции ИИ для поиска.
▪️обеспечить прозрачность в отношении ранжирования органических результатов поиска, а также предоставлять достаточное уведомление и информацию о существенных изменениях, которые могут повлиять на издателей и сократить неоправданные затраты.
▪️дать издателям возможность эффективно выражать обеспокоенность по поводу ручных действий и существенных изменений, которые могут оказать искажающее или иное негативное воздействие на рынки Великобритании.

По сути, регулятор пытается добиться того, чтобы влияние Google на распространение информации было более прозрачным и подконтрольным.

❕Как видим, поднимаются вопросы уже не только авторского права и обучения ИИ, а вопросы контроля, ответственности, прозрачности, и последствий для людей, бизнеса и общества. Поисковые системы с ИИ становятся уже не просто посредниками между пользователем и источником информации, а непосредственно источником, раз миллионы пользователей воспринимают ответ Google AI Overviews как верный.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator