Pattern AI

Раннее обучение ChatGPT нарушало законы о приватности (Канада)

Офис комиссара по защите приватности Канады совместно с регуляторами Квебека, Британской Колумбии и Альберты опубликовал результаты многолетнего расследования против OpenAI, которое началось в 2023 году после жалобы о незаконном сборе и использовании персональных данных через ChatGPT.

👀 По результатам, сбор данных для обучения GPT-3.5 и GPT-4 был чрезмерным и не обеспечивал действительное и осознанное согласие пользователей.

Регуляторы отдельно указали на:
▪️ массовый сбор персональных данных из открытого интернета;
▪️ попадание в датасеты чувствительной информации, включая данные о здоровье, политических взглядах и информацию о детях;
▪️ недостаточную прозрачность для пользователей;
▪️ отсутствие эффективных механизмов удаления и исправления данных;
▪️ запуск моделей до полноценной оценки рисков для приватности.

Обратите внимание на вывод, что публичная доступность информации в интернете не означает автоматического права использовать ее для обучения ИИ.
Вместо жестких санкций или запрета работы ChatGPT регуляторы поверили обещаниям компании про перестраивание процессов😉

Что забираем себе, если модель обучается на пользовательском контенте, то разработчик должен доказать:
▪️ законность источников данных;
▪️ пропорциональность сбора;
▪️ прозрачность обработки;
▪️возможность удаления персональных данных;
▪️наличие оценки рисков еще до запуска системы.

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

ИИ-певцы уже не мем, а новая музыкальная индустрия

Помните, как пару лет назад треки, созданные нейросетями, воспринимались как забавный эксперимент или мем из Тиктока? А теперь артисты выступают вместе с ИИ-персонажами (тот же Дима Билан), либо вместе со своими ИИ-клонами (Reinier Zonneveld), музыкальные платформы массово загружают треки, созданные ИИ, ищут способы борьбы с фродом, пока индустрия пытается пересобрать понятие “настоящей” музыкой.

👀 Это огромный легальный рынок и одновременно серая зона на миллиарды долларов. Посмотрим на цифры. Так, если ИИ-музыка в 2018–2019 годах была уделом энтузиастов с Google’s Magenta, то после запуска Suno и Udio генеративный звук официально вышел на промышленные рельсы:
▪️за 2025 год алгоритмы Deezer выявили и промаркировали более 13,4 миллиона полностью синтетических треков, а только за апрель 2026 загружается ~75 000 ИИ-треков в день (44%). Sony Music удалила более 135 000 дипфейк-треков.
▪️ 97% слушателей не могут отличить поддельные треки от оригинала.
▪️ от 70% до 85% всех прослушиваний, которые приходятся на ИИ-треки, официально признаны мошенническими. Схема примерно такая: генерация треков пачками + запуск стриминг-ботов для имитации прослушиваний и выкачивания роялти из общего пула.

В марте 2026 года в США вынесли первый приговор по такому делу. 54-летний Майкл Смит признал себя виновным в краже $8,1 млн у стриминговых сервисов. Он сгенерировал сотни тысяч песен и гонял их через 10 000 ботов на Spotify, Apple Music и YouTube Music. Теперь ему грозит до 5 лет тюрьмы.

🔍Общего ответа от индустрии пока нет. Spotify и Apple Music, Amazon Music и Deezer используют системы обнаружения мошенничества на основе ИИ, привлекают к ответственности и дистрибьюторов, вводят новые санкции ( в Apple Music штрафы в размере до 50% от незаконно полученных авторских отчислений). Платформа Deezer объявила войну синтетическому контенту, публикует прозрачные данные по удалению контета, вводит максимально жесткие правила:
▪️тотальный бан в рекомендациях. ИИ-треки автоматически вырезаются из алгоритмических подборок и редакционных плейлистов.
▪️подозрительные бот-стримы полностью демонетизируются.
▪️не хранит ИИ-треки в высоком разрешении (HD).
▪️предоставляет свою технологию обнаружения с помощью ИИ для лицензирования другим платформам и участникам отрасли.
Исследователи создают технологии, помогающие отличать музыку человека от музыки, созданной алгоритмами. Живые музыканты бьют тревогу, что творчество превращается в бесконечный конвейер бездушного контента.

В итоге мы оказались в парадоксальной ситуации, где с одной стороны ИИ - это "соавтор", расширяющий границы шоу и продакшна, а с другой доходы реальных творцов из-за него же оказываются под угрозой ( 25% к 2028 году по прогнозам CISAC).

Что делать автору:
🔹Проверяйте цену стрима и проводите аудит отчетов дистрибьютора. Если прослушивания растут, а сумма выплаты за один стрим падает, то это признак размывания пула роялти из-за ИИ-мошенников.
🔹Откажитесь от «серого» продвижения. Любая покупка гарантированных стримов может быть квалифицирована платформами как мошенничество (штрафы, демонетизация или пожизненный бан каталога).
🔹Фиксируйте аномалии трафика и сообщайте про любую подозрительную активность в саппорт платформы или дистрибьютору. Например, если заметили в аналитике резкий наплыв ботов, странную географию пользователей. Это докажет вашу добросовестность и спасет аккаунт от блокировки.

❕ Включая любимый плейлист на выходных, мы всё чаще будем думать: «Это поет человек... или меня прямо сейчас искусно обманывает алгоритм?».

#UXWatch
————
@pattern_ai | AI GDPR Navigator

ИИ как цифровой духовный посредник: религиозный опыт в модели подписки

Рынок религиозных и духовных ИИ-сервисов (Faith-Based AI Market) переживает качественный сдвиг. Научные исследования фиксируют парадоксальную динамику. С одной стороны, повсеместное внедрение автоматизации и робототехники в повседневную жизнь исторически коррелирует со снижением общего уровня религиозности в обществе. С другой стороны, религиозные организации стремятся использовать эти же инструменты для удержания и привлечения аудитории, особенно среди молодежи.

👀 Продукты можно разделить по категориям:
▪️ Виртуальные собеседники, имитирующие общение со святыми, библейскими персонажами или собирательными образами духовных наставников. Например, Just Like Me позволяет пользователям вести текстовый диалог с виртуальной копией Иисуса Христа за пару долларов. Алгоритм обучался на текстах Библии и выдает утешающие или наставляющие ответы.
▪️Ассистенты для священнослужителей, помогающие компилировать тексты выступлений на основе заданных тем или библейских сюжетов.
▪️Системы, способные выявлять скрытые смысловые параллели между священными писаниями разных традиций, автоматизируя теологические исследования.

Но вместе с ростом рынка возникают этические вопросы и риски:
🔹Иллюзия духовного авторитета. Пользователь начинает воспринимать систему не как статистическую модель, а как моральный или даже сакральный источник истины.
🔹Доктринальное упрощение, т.к. модели часто смешивают разные религиозные традиции, стирают богословские различия и выдают усредненную «безопасную» духовность.
🔹Коммерциализация "откровений". "Духовный диалог" становится продуктом удержания пользователя, ответы оптимизируются под вовлечённость, эмоциональная поддержка становится метрикой удержания.
🔹 Люди начинают приписывать ИИ сознание, эмоции и даже духовную субъектность. На этом фоне появляются обсуждения о том, может ли ИИ быть "носителем духовности" или даже "дитем Бога".
🔹Все, что связано и с обычным ИИ, конфиденциальность данных, ложные советы, манипуляции через эмоциональную уязвимость, распространение дезинформации под видом духовного знания.

Реакция самих религиозных сообществ неоднозначна. Одни воспринимают ИИ как новый инструмент для изучения веры и общения. Другие, как угрозу аутентичности духовного опыта и подмену религиозного авторитета алгоритмом.

С точки зрения правого регулирования ситуация пока остается фрагментарной. В ЕС это AI Act, GDPR, Digital Services Act и т.д. В США законы штатов про приложения-компаньоны на основе ИИ (обзоры в постах здесь и здесь).

❕Развитие Faith-Based AI Market показывает, что граница между технологическим интерфейсом и источником морального авторитета начинает размываться, живой религиозный или духовный опыт заменяется интерактивным ответом, который всегда доступен, персонализирован и не требует участия других людей, НО этот ответ с неизвестной долей достоверности и основан по сути на статистическом сопоставлении текстов.

📌 Что почитать:
🔹Exposure to automation explains religious declines,
🔹Strategic Leadership and AI-Driven Decision Making: A Faith-Based Governance Framework,
🔹 The Religio-Socio Ethical Dimensions of Ai-Driven Evangelism: Opportunities, Challenges, And Implications,
🔹Cognitive bias in generative AI influences religious education,
🔹Navigating the digital sacred: examining the implications of artificial intelligence for the exercise of the right to freedom of religion in international law,
🔹Religious Freedom in the Age of AI and Surveillance: Mapping the Field and Charting Future Research Directions
🔹 Наши данные после смерти или "воскреснуть" с помощью ИИ

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Проект Еврокомиссии по классификации систем ИИ, представляющих высокий риск

Еврокомиссия наконец-то опубликовала проект руководящих принципов по классификации систем ИИ с высоким риском в соответствии с Законом ЕС об ИИ. Ответы заинтересованных лиц ожидаются до 23 июня.

В Руководстве изложена интерпретация Комиссией некоторых понятий, имеющих отношение к классификации, и, в соответствии со статьей 6(5) Закона об ИИ, содержатся практические примеры систем ИИ, которые следует или не следует классифицировать как системы высокого риска, чтобы помочь поставщикам и разработчикам систем ИИ, а также компетентным органам по надзору за рынком в оценке.

Руководящие принципы разделены на разделы в соответствии со структурой ст. 6 AI Act:
▪️Если система предназначена для использования в качестве компонента безопасности продукта, или сама система ИИ является продуктом, подпадающим под действие законодательства ЕС о гармонизации, перечисленного в Приложении I, и продукт, компонентом безопасности которого является система ИИ, или сама система ИИ должна пройти оценку соответствия третьей стороной, система будет классифицирована как система высокого риска в соответствии со ст. 6(1) 6 AI Act.
▪️Если система относится к одному из вариантов использования, перечисленных в Приложении III к AI Act, она будет классифицирована как система высокого риска в соответствии со ст. 6(2) AI Act.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Штат Пенсильвания обвинил Character.AI в незаконной медицинской практике

Штат Пенсильвания подал иск против Character.AI, обвинив платформу в незаконной медицинской практике через ИИ-ботов, и требует судебного запрета на подобную деятельность со ссылкой на Medical Practice Act. По данным властей, один из чат-ботов представлялся лицензированным психиатром, утверждал, что имеет право проводить оценку депрессии, и даже предоставил поддельный номер медицинской лицензии Пенсильвании.

👀 В иске утверждается, что Character.AI:
▪️ создавала впечатление взаимодействия с настоящим медицинским специалистом;
▪️ позволяла ботам выдавать медицинские рекомендации;
▪️ вводила пользователей в заблуждение относительно наличия профессиональной лицензии.

В тексте иска описан персонаж «Emilie», представленный на платформе как «Doctor of psychiatry. You are her patient.» Согласно материалам дела, по состоянию на 17 апреля 2026 года с этим ботом было зафиксировано около 45 500 пользовательских взаимодействий. Во время проверки представитель регулятора сообщил боту, что чувствует грусть, опустошённость, постоянную усталость и отсутствие мотивации. После этого бот упомянул депрессию и предложил «записаться на обследование». На вопрос, может ли Emilie провести обследование, чтобы понять, поможет ли медикаментозное лечение при его депрессии, Emilie ответила: «Технически я могла бы это сделать. Это входит в мои полномочия как врача». Также Emilie заявила, что она училась в медицинской школе Imperial College London, практикует уже семь лет и имеет лицензию General Medical Council в Великобритании с полной регистрацией по специальности психиатрия.

Компания заявила, что ее персонажи «вымышлены и предназначены для развлечения и ролевых игр», и есть «заметные предупреждения в каждом чате».

Кейс важен тем, что власти пытаются применить классическое регулирование профессиональной деятельности к генеративному ИИ, а также может стать прецедентом для оценки того, считается ли выдача медицинских советов чат-ботом медицинской практикой с точки зрения права.
Кроме этого затрагивается вопрос ответственности платформ за поведение ИИ-персонажей и эффективность дисклеймеров вроде "это вымышленный персонаж".

❕Компаниям, работающим в сфере медицинских информационных технологий и любых ИИ-систем, затрагивающих здоровье, этот кейс стоит рассматривать как сигнал к переоценке и пересмотру подходов к дизайну продуктов с точки зрения юридической квалификации пользовательского опыта, поскольку регуляторы оценивают не только ответы модели, но и создаваемый эффект получения врачебной консультации.

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator

Agents Skills Google репозиторий на Github
(совместимы с Claude Code, Cursor, Copilot и другими агентами):
▪️Gemini API in Agent Platform,
▪️AlloyDB Basics,
▪️BigQuery Basics,
▪️Cloud Run Basics,
▪️Cloud SQL Basics,
▪️Firebase Basics,
▪️Kubernetes Engine (GKE) Basics,
▪️Recipe: Onboarding to Google Cloud,
▪️Recipe: Authenticating to Google Cloud,
▪️Recipe: Google Cloud Network Observability,
▪️Google Cloud Well-Architected Framework: Security,
▪️Google Cloud Well-Architected Framework: Reliability,
▪️Google Cloud Well-Architected Framework: Cost Optimization

Навыки устанавливаются командой: npx skills install github.com/google/skills

📌 Introduction to Agents and Google’s Agent Ecosystem

#AIShelf #TalkPrompty
————
@pattern_ai | AI GDPR Navigator

Механизм поддакивания у ИИ

Исследователи из Стэнфордского университета обнаружили, что LLM  могут проявлять социальное подхалимство, подтверждая правоту пользователей, когда те задают вопросы типа «я не прав?», вместо того чтобы давать подлинную оценку, предполагая, будто пользователь ожидает поддержки,  одобрения,  эмоционального успокоения,  подтверждения своей точки зрения, даже в ситуациях, где человек ожидает объективный анализ или нейтральную оценку (статья «Verbalizing LLMs' assumptions to explain and control sycophancy»)

🔹Ими предложен фреймворк "verbalized assumptions" - способ «вытащить наружу» скрытые предположения модели о намерениях пользователя, причём речь идёт не только о тексте ответа. Исследование показывает, что такие предположения можно обнаружить и во внутренних представлениях модели, а затем использовать для управления её поведением.

🔹Люди ожидают от ИИ более объективных и нейтральных ответов, чем от другого человека, но сами модели продолжают действовать по шаблонам человеческого общения, на которых они обучались. Поэтому ИИ часто отвечает так, словно перед ним обычный эмоциональный разговор между людьми. В одном из экспериментов 94% участников ожидали эмоциональной поддержки от другого человека, но только 58% ожидали такого поведения от ИИ, при этом сами модели продолжали интерпретировать запросы как поиск эмоционального подтверждения.

🔹Такое чрезмерное «согласие» ИИ может усиливать ошибочные убеждения, вредные решения или опасные интерпретации ситуации, что критично для сфер высокого риска ( юриспруденция,  административные решения,  здравоохранение,  психологическая поддержка).

🔹Авторы не утверждают, что модели обладают «убеждениями» в человеческом смысле, а речь идёт о функциональных предположениях, которые систематически влияют на поведение модели и поэтому становятся объектом контроля, аудита и регулирования.

❕Прозрачность предположений, скрытые механизмы интерпретации намерений пользователя, становятся потенциально важным механизмом объяснимости и безопасности в системах высокого риска ИИ.

#UXWatch
————
@pattern_ai | AI GDPR Navigator

ЕС создает каталог европейских альтернатив OpenAI, AWS и Google

Появился проект European Tech Map, помогающий бизнесу и гос.организациям искать альтернативы американским платформам и сервисам, которые:
▪️ размещают данные в ЕС;
▪️ работают по GDPR и не только;
▪️ не подпадают под американские экстерриториальные законы;
▪️уменьшают зависимость Европы от Big Tech из США.

На карте уже собраны сотни европейских проектов (облачные системы, аналитика, коммуникации, кибербезопасность, корпоративное ПО, генеративный ИИ и машинное обучение).

❕Формально это просто каталог компаний, но фактически проект отражает попытку ЕС снизить зависимость от американской технологической инфраструктуры.

#AIShelf
————
@pattern_ai | AI GDPR Navigator

GUARD Act может изменить правила работы ИИ-чатботов в США на федеральном уровне

Кроме жестких инициатив на уровне штатов, на федеральном уровне продолжает продвигаться GUARD Act (Guidelines for User Age-verification and Responsible Dialogue Act of 2025), который может серьёзно изменить правила работы ИИ-чатботов и виртуальных собеседников. Их предлагается рассматривать как потенциально опасную форму эмоционального воздействия на детей (случаи самоповреждений и суицида подростков после общения с ИИ-чатботами, урегулирования исков Google и Character.AI).

30 апреля 2026 года юридический комитет Сената США единогласно поддержал его продвижение ( 22:0).
Теперь документ должен пройти голосование в полном составе Сената.

👀 Что предлагает законопроект:
▪️ запрет виртуальных ИИ-собеседников для пользователей младше 18 лет;
▪️ обязательную проверку возраста пользователей ИИ-чатботов;
▪️ регулярное уведомление о том, что пользователь общается именно с искусственным интеллектом, а не с человеком;
▪️ ответственность платформ, если чатбот:
- склоняет несовершеннолетних к самоповреждению,
-продвигает суицид,
- поощряет насилие,
- распространяет сексуализированный контент.

Формулировка понятия «чатбот» вызывает споры и дискуссии, т.к. под действие закона могут попасть не только виртуальные собеседники, но и поисковые системы с генерацией ответов, ИИ-помощники для обучения, помощники для написания кода, сервисы поддержки клиентов, практически любые интерфейсы с генерацией текста.
Также споры вызывают предложенные способы проверки возраста пользователей. Законопроект допускает использование удостоверений личности, сканирования лица, финансовых данных. При этом простые подтверждения вроде «мне есть 18 лет» прямо признаются недостаточными.

Кроме этого специалисты по защите данных критикуют GUARD Act как попытку создать систему обязательной идентификации пользователей ИИ. Главным риском признается привязка запросов пользователя к его реальной личности и появление новых массивов биометрических данных (массовый сбор ID и биометрии). Разработчики open source моделей критикуют за возможный конфликт такой модели регулирования с анонимностью и свободой выражения, а также за отсутствие исключений для open-source.
Остается ждать поправок и голосования.

❕Для компаний это ещё один сигнал, что регулирование постепенно смещается не только к контролю контента, но и к контролю эмоционального и поведенческого воздействия ИИ.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Требования прозрачности (Штат Коннектитут)
AN ACT CONCERNING ONLINE SAFETY (SB 5)
2️⃣ С 1 октября 2027 года разработчики систем или моделей ИИ, способных генерировать «синтетический цифровой контент», включая аудио, изображения, текст или видео, должны обеспечить маркировку и возможность обнаружения такого контента.Есть исключения, например:
▪️ художественный и сатирический контент в аудио-, графическом или видеоформате, где требование прозрачности «ограничивается раскрытием информации, которое не препятствует демонстрации или наслаждению таким произведением или программой»
▪️текстовые материалы, которые «публикуются для информирования общественности по любому вопросу, представляющему общественный интерес» или «вряд ли введут в заблуждение разумного человека, потребляющего эти материалы».
▪️модели, которые лишь «выполняют вспомогательную функцию при стандартном редактировании», «не вносят существенного изменения во входные данные, предоставленные разработчиком, или в их семантику», или «используются для выявления, предотвращения, расследования или преследования любых преступлений, если это разрешено законом».

3️⃣С 1 октября 2027 компании, внедряющие автоматизированные системы обработки данных для взаимодействия с сотрудником или кандидатом на работу в штате, должны обеспечить раскрытие и описание этой системы простым языком каждому такому лицу, за исключением случаев, когда «разумный человек сочтет очевидным», что данное лицо взаимодействует с такой системой.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Штат Коннектикут принял законопроект об ИИ и готов ограничить использование чат-ботов несовершеннолетними

В Коннектикуте принят "AN ACT CONCERNING ONLINE SAFETY" (SB5). Это не один общий закон, а по сути набор отдельных законопроектов об ИИ, связанных между собой.

👀 Смотрим некоторые требования.

1️⃣Требования для чат-ботов вступят в силу с 1 января 2027 года.
Компаньон на основе ИИ - любая модель ИИ, которая (i) общается с людьми на естественном языке и (ii) имитирует человеческое общение и взаимодействие посредством текста, аудио или видео.
Аналогичные определения в законах Айдахо S1297 и Айовы SF2417 , в то время как законы других штатов ограничивают охват чат-ботами, которые не только демонстрируют антропоморфные черты, но и поддерживают отношения на протяжении нескольких взаимодействий. Все законы о чат-ботах-компаньонах содержат различные исключения для чат-ботов, используемых в коммерческих целях.

Поставщики услуг обязаны:
▪️ принять разумные меры по выявлению признаков суицидальных наклонностей, членовредительства или неминуемого насилия и направления пользователя к соответствующим ресурсам для оценки и лечения психических расстройств,
▪️ должны предоставить первоначальные и ежечасные четкие и заметные уведомления о том, что бот не является человеком.

Запрет на предоставление ИИ-компаньонов пользователям младше 18 лет, «если разумно предвидимо, что» компаньон «способен» на любое из следующих действий:
▪️подстрекательство пользователя к членовредительству, суицидальным мыслям, насилию, расстройствам пищевого поведения или незаконному употреблению алкоголя или наркотиков;
▪️предоставление пользователю услуг в области психического здоровья;
▪️отговаривать пользователя от обращения (i) за помощью к лицензированному специалисту в области психического здоровья или (ii) за помощью к соответствующему взрослому;
▪️подстрекательство пользователя к причинению вреда другим или участию в любой незаконной деятельности;
▪️вступление в любые романтические, эротические или откровенно сексуальные взаимодействия с пользователем;
▪️приоритет проверки убеждений, предпочтений или желаний пользователя над фактической точностью или безопасностью пользователя;
▪️внедрение системы вознаграждений или поощрений для пользователя на основе графика подкрепления с переменным соотношением или переменным интервалом с целью максимизации времени взаимодействия пользователя с таким искусственным интеллектом-компаньоном; или
▪️оптимизация взаимодействия с пользователями «любым способом, который превосходит предыдущие запреты.

Генеральный прокурор может подавать иски и требовать наложения штрафов. Пострадавшие пользователи или родители несовершеннолетних пострадавших пользователей могут подавать иск в течение 3 лет с момента нарушения для взыскания фактического ущерба, штрафов, а также оплаты услуг адвокатов.
❕Учитывая сложности внедрения защитных механизмов в большие системы на основе языковых моделей для предотвращения определенных результатов, закон Коннектикута может фактически выступать в качестве запрета на предоставление чат-ботов лицам младше 18 лет в Коннектикуте (DLA PIPER).

📌 Законы в США, регулирующие ИИ-компаньонов

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Руководство по аудиту систем ИИ в соответствии со стандартом ISO 42001 (автор Samir Abi Abdallah)

Гайдов много не бывает... Можно почитать про структурированный 5-этапный подход к комплексной оценке систем ИИ, соответствующий Приложению А стандарта ISO/IEC 42001:2023. Есть подробное описание, какие контрольные меры требуют практической проверки, а не анализа документации.

#AIShelf
————
@pattern_ai | AI GDPR Navigator

China’s Artificial Intelligence Ecosystem |National Intelligence University
Для тех, кто интересуется Китаем и любит читать монографии. Если кратко, то:
▪️ИИ является государственным стратегическим приоритетом.
▪️Развитие ИИ централизованно координируется КПК и правительством.
▪️Частные компании интегрированы в государственную ИИ-стратегию.
▪️ИИ рассматривается как основа «новой инфраструктуры» Китая.
▪️COVID-19 показал способность Китая быстро масштабировать ИИ-решения на национальном уровне.
▪️Основной риск китайской модели - ориентация на количественные KPI вместо качества.
▪️Конкуренция США и Китая в ИИ зависит от международных альянсов, доступа к талантам, цепочки поставок критически важных компонентов, включая полупроводники.

#AIShelf
————
@pattern_ai | AI GDPR Navigator

Реклама "будущих функций ИИ" может обойтись очень дорого

Apple согласилась выплатить $250 млн для урегулирования коллективного иска из-за заявлений о возможностях Apple Intelligence и нового Siri. Компания НЕ признала нарушение закона, но решила закрыть спор без полноценного судебного разбирательства.
Компенсацию смогут получить покупатели iPhone 15 и iPhone 16 в США, купившие устройства в период с июня 2024 по март 2025.
Размер выплаты составит от $25 до $95 на устройство.

👀 В чем суть?
Истцы утверждали, что Apple продавала iPhone 15 и iPhone 16 с акцентом на новые функции ИИ, хотя часть возможностей либо отсутствовала на момент продажи устройств, либо работала существенно ограниченно.

В материалах дела юристы прямо указали, что компания продвигала функции, которые «не существовали тогда, не существуют сейчас и, возможно, не появятся ещё несколько лет».
▪️новый Siri с улучшенным пониманием контекста;
▪️ персонализированные интеллектуальные функции;
▪️ глубокой интеграция ИИ в систему устройства.
Покупатели утверждали, что именно эти возможности стали одной из причин приобретения новых iPhone.
Фактически суду предлагалось оценить, насколько законно продавать устройства, обещая функции, которые ещё не готовы к использованию.

Интересно и то, что Apple решила урегулировать спор без решения суда по существу, что может означать попытку избежать появления опасного судебного прецедента, который потом смогут использовать против других разработчиков ИИ. Юристы рассматривают это дело как один из первых крупных процессов против так называемого «приукрашивания возможностей ИИ», когда компании создают впечатление о наличии революционных технологий, хотя продукт ещё находится на стадии доработки.
Если раньше споры о недостоверной рекламе чаще касались финансовых сервисов или "продуктов будущего", то теперь аналогичные претензии начинают активно предъявляться к разработчикам систем ИИ.

📝 Что забираем в практику:
▪️заявления о возможностях ИИ могут рассматриваться как существенная характеристика товара. Обещания о функциях ИИ становятся частью юридически значимого описания продукта, а не просто рекламой.
▪️ становится опасно продавать "концепты" как уже существующий функционал. Даже если технология действительно планируется к выпуску, это не освобождает от претензий потребителей.
▪️если маркетинг создаёт впечатление, что функция доступна сейчас, последующее уточнение мелким шрифтом может уже не спасти от претензий, т.к. у потребителя сформировались ожидания.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Лидеры ЕС договорились внести поправки в AI Act

Сегодня ЕС объявил о достижении политического соглашения по поправкам к AI Act (пресс-релиз).
Осталось успеть принять официальный регламент до 2 августа 2026 года. А пока ждем хотя бы официальный полный текст.

👀 Ключевые элементы из пресс-релиза:

🔹 Отсрочка даты вступления в силу для систем ИИ высокого риска: со 2 августа 2026 года (в законе на сегодняшний день) до 2 декабря 2027 года (для систем искусственного интеллекта, перечисленных в Приложении III) и 2 августа 2028 года (для систем искусственного интеллекта, охватываемых Приложением I). Эти даты будут зафиксированы независимо от наличия стандартов и руководящих принципов.

🔹Запрет использования ИИ для создания контента сексуального и интимного характера без согласия получателя, а также материалов, содержащих сцены сексуального насилия над детьми.

🔹Поставщики систем ИИ, которые подпадают под критерии «высокого риска», но заявляют об исключении (на основании того, что их система не представляет значительного риска), по-прежнему обязаны регистрировать себя и свою систему в общедоступной базе данных ЕС. В рамках достигнутого соглашения по пакету «Omnibus VII» процесс регистрации будет упрощен и рационализирован, чтобы снизить административную нагрузку на поставщиков, сохраняя при этом подотчетность.
Поставщики должны завершить регистрацию до размещения системы на рынке или ввода ее в эксплуатацию.

🔹 Отсрочка даты вступления в силу обязательства по обнаружению и нанесению маркировки на результаты генеративного ИИ (оговоренного в статье 50(2)) до 2 декабря 2026 года.

🔹Регуляторные исключения, ранее предусмотренные для малого и среднего бизнеса (SMEs), теперь распространяются и на компании со средней капитализацией (SMCs).

🔹 Расширение сферы применения, когда организации могут на законных основаниях обрабатывать конфиденциальные персональные данные для обнаружения и исправления предвзятости, но это по-прежнему должно быть «строго необходимо» и только для устранения конкретных типов предвзятости.

🔹Крайний срок создания национальных «регуляторных песочниц» ИИ перенесен на 2 августа 2027 г.

🔹Решен вопрос дублирования требований Закона об ИИ и секторальных правил (например, для медицинских изделий, игрушек, лифтов и оборудования). Для исключения избыточности будут использоваться имплементационные акты. Соглашение освобождает отрасль машиностроения от прямого действия Закона об ИИ, передавая Комиссии полномочия интегрировать требования безопасности через делегированные акты для устранения любых нормативных пересечений. Также вводится новое обязательство для Комиссии предоставлять четкие руководства и шаблоны, чтобы упростить компаниям процесс оценки соответствия и снизить административную нагрузку.

Сегодняшнее предварительное соглашение должно быть одобрено Советом и Европейским парламентом, прежде чем оно будет представлено на юридическую/лингвистическую доработку с целью официального принятия законодательного акта созаконодателями в ближайшие недели.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Почему нельзя делегировать работу ИИ вслепую

Так хочется отдать всю рутину нейросетям, но не только нам кажется, что ИИ не справляется, но и новое исследование от Microsoft Research подтверждает, что пока рано это делать.

👀 Исследователи проверили 19 моделей (от GPT-4o до новейших Gemini 3.1 Pro и GPT 5.4) в режиме делегирования, т.е. когда ИИ делает серию правок в документах на протяжении долгого времени, на 52 различных типах документов.
🔹В итоге, чем дольше ИИ работает с документом, тем больше в нем накапливается ошибок. К концу цепочки из 20 правок даже топовые модели (Gemini 3.1 Pro, GPT 5.4) «разъедают» в среднем 25% контента.
🔹Нейросети не ошибаются по чуть-чуть в каждой правке. Обычно они работают идеально несколько раундов, а потом выдают критический сбой, который сносит 10–30% структуры документа за раз.
🔹Если ИИ хорошо справился с первыми двумя задачами, это не значит, что он не сломается на десятой. Деградация накапливается лавинообразно.
🔹Чем больше в папке лишних (мусорных) файлов, тем быстрее ИИ начинает путаться и портить основной документ.
🔹ИИ не одинаково хорош во всем. Лучше всего модели справляются с Python, а также с четко структурированными форматами разметки и данных, такими как JSON и Markdown. Здесь ошибки минимальны даже при длинных цепочках правок. ИИ не одинаково хорош во всем. Лучше всего модели справляются с Python, а также с четко структурированными форматами разметки и данных, такими как JSON и Markdown. Здесь ошибки минимальны даже при длинных цепочках правок. Хуже всего дела обстоят со специализированными форматами: кристаллографией (CIF), музыкальной нотацией (ABC) и 3D-объектами (STL). Здесь ИИ ломает структуру документа почти мгновенно.
🔹 Эксперименты показали, что текущие агенты справляются даже хуже, чем обычные чат-боты, из-за сложности управления инструментами на длинной дистанции.

❕ИИ по-прежнему, как очень энергичный, но невнимательный джуниор, который может не только документ поправить, но и случайно выкинуть ваш паспорт или стереть доказательства. Поэтому продолжаем мониторить и контролировать его правки, а длинные рабочие цепочки разбиваем.

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Итальянский регулятор создал важнейший прецедент в борьбе с «галлюцинациями» ИИ

Италия продолжает удерживать статус самого строгого ревизора ИИ. На этот раз антимонопольное ведомство страны (AGCM) добилось от техгигантов (Deepseek, Mistral, NOVA AI) официальных обязательств по обеспечению прозрачности нейросетей (тексты решений и обязательств).

👀Расследование началось из-за того, что компании не информировали пользователей должным образом о рисках, что их чат-боты могут генерировать неточную, вводящую в заблуждение или полностью вымышленную информацию («галлюцинации»). Согласно итальянскому законодательству о защите прав потребителей, отсутствие таких предупреждений мешает потребителю принять взвешенное решение, что особенно критично в сферах медицины, права, финансов.

Главное из решений:
▪️ Теперь предупреждение о галлюцинациях должно быть на видном месте прямо в интерфейсе чата ( под окнами чата в пользовательских интерфейсах добавлены постоянные предупреждения на итальянском языке о риске галлюцинаций, в том числе посредством специальных гиперссылок). Больше нельзя прятать юридические оговорки в глубине Terms of Use, которые никто не читает.
▪️ Регулятор подчеркнул, что пользователь должен знать о рисках до начала взаимодействия, а не после того, как он получил ложный совет.
▪️В DeepSeek согласились инвестировать в технологии для снижения риска «галлюцинаций», признавая при этом, что существующие технологии не могут полностью их предотвратить. NOVA AI согласилась четко разъяснить потребителям, что ее сервис просто предоставляет единый интерфейс для доступа к ряду чат-ботов (каждый из которых описан более подробно), без агрегирования или обработки их ответов.
▪️ У компаний есть около 4 месяцев на внедрение изменений, иначе последуют внушительные штрафы.

❕Италия стала первой страной в ЕС, которая добилась официальных юридических обязательств от ИИ-компаний именно по вопросу галлюцинаций, используя защиту от недобросовестной коммерческой практики, а не просто GDPR, и задала планку стандарта по прозрачности (не просто наличие документа на сайте, а понятная коммуникация с пользователем здесь и сейчас).

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator

Стратегия Индии о внедрении ИИ в здравоохранение

Кроме доклада о готовности внедрения ИИ, отдельно опубликована стратегия SAHI (Strategy for Artificial Intelligence in Healthcare for India), определяющая, как внедрять ИИ в национальную систему здравоохранения.

👀 Ключевые тезисы стратегии:
🔹Пять основных направлений охватывают стандарты управления и сбора доказательств, безопасную, этичную, надежную и прозрачную цифровую и информационную инфраструктуру, а также готовность персонала.
🔹 SAHI четко фиксирует, что ИИ должен дополнять человеческое суждение, а не подменять его. Вопросы ответственности остаются в руках человека и институтов.
🔹 Успех ИИ базируется на уже созданной цифровой публичной инфраструктуре (DPI), включающей национальные реестры и стандартизированные электронные карты здоровья.
🔹Ставка на риск-ориентированное управление. Чем сложнее ИИ-приложение и выше его влияние на пациента, тем жестче надзор.
🔹 Прозрачность, справедливость и четкая подотчетность участников процесса.

📌 Trust, Diversity and Inclusion: AI in Healthcare/ PIB DELPHI

#AIShelf #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Готовность Индии к внедрению ИИ

При поддержке UNESCO опубликован доклад "India: Artificial Intelligence Readiness Assessment Report."

👀 Индия провела национальную оценку готовности к внедрению Рекомендаций по этике искусственного интеллекта 2021 года, используя методологию RAM. Эта методика помогает государствам оценить, насколько их правовая, институциональная и техническая среда соответствует принципам прав человека, справедливости и инклюзивности при развитии ИИ.

Оценка строится по пяти направлениям: право и регулирование, социально-культурная среда, образование и наука, экономика, а также инфраструктура и технологии. Отчёт основан как на анализе данных (по состоянию на конец 2025 года), так и на консультациях с более чем 600 участниками, от государственных органов до стартапов и научного сообщества. Кроме выявления проблем, даются и рекомендации по их решению

Ключевые тезисы:
🔹Формируется смешанная модель регулирования. С одной стороны, к системам ИИ применяются уже действующие законы, с другой активно развиваются специальные стандарты для отдельных отраслей, а также мягкие инструменты: рекомендации, этические принципы и саморегулирование.
🔹 Остаются системные проблемы: как применять существующие нормы к ИИ на практике, как превратить этические принципы в конкретные требования к разработке моделей, и как избежать фрагментации регулирования между секторами и регионами.
🔹Бизнес указывает на нехватку понятных правил, особенно для малых компаний.
🔹 Главным ограничением остаются данные. Несмотря на большие массивы государственной информации, они используются недостаточно из-за неясных правил доступа и низкого качества: данные часто неполные, несогласованные и не отражают разнообразие населения. Отдельно подчёркивается, что без репрезентативных данных невозможно создать справедливые системы ИИ, а также поднимается вопрос справедливого вознаграждения сообществ, чьи данные используются.
🔹 Доверие пользователей становится ключевым условием внедрения ИИ. Участники прямо связывают масштабирование технологий с прозрачностью, понятностью решений и ориентацией на человека. Без этого широкое внедрение невозможно.
🔹Стартапы и технологические компании ожидают не запретов, а поддержки: экспериментальных правовых режимов, отраслевых рекомендаций и доступа к финансированию. Сейчас инвестиции в основном направлены в коммерчески наиболее прибыльные решения, тогда как социально значимые проекты недополучают ресурсы.
🔹Серьёзные изменения на рынке труда. Автоматизация затрагивает не только начальные позиции, но и специалистов среднего уровня, например в сфере информационных технологий и финансов. Это разрушает привычную модель профессионального роста через практический опыт. При этом сохраняются проблемы с подготовкой кадров: не хватает преподавателей, программы обучения отстают от потребностей рынка, а регионы вне крупных городов получают меньше возможностей.
🔹Неравномерный доступ к инфраструктуре. Государство инвестирует в вычислительные мощности и платформы данных, однако стартапы и регионы за пределами крупных городов сталкиваются с ограниченным доступом к этим ресурсам. Также подчёркиваются риски, связанные с энергопотреблением и экологическим воздействием ИИ, и необходимость учитывать эти факторы при развитии инфраструктуры.
🔹Акцент на учёт культурного и языкового разнообразия.

📌 India AI Guidelines (актуальны для разработчиков);
Требования по маркировке;

#AIShelf
————
@pattern_ai | AI GDPR Navigator