IT юрист

Разработчики ИИ призывают сбавить темп. Трамп - против

Крупнейшие ИИ провайдеры неожиданно заявили что разработка всё более мощных моделей идёт слишком быстро. Глава Anthropic Дарио Амодеи призвал "сбавить темп". В той или иной форме его поддержали Сэм Альтман из OpenAI, Илон Маск и глава Google DeepMind Демис Хассабис.

😬 Разработчики опасаются, что модели постепенно приближаются к способности самостоятельно участвовать в создании следующего поколения ИИ. Если такой процесс ускорится, возможности систем могут начать расти быстрее, чем люди будут успевать понимать их поведение и создавать средства контроля. В худших сценариях речь идёт уже не просто о дипфейках или потере рабочих мест, а о системах, которые человек больше не сможет нормально контролировать.

Триггером послужили ставшие известными "побеги" ИИ моделей во внешний интернет и их скрытая координация на различных сайтах (таких случаев выявляется всё больше), а также взлом ими сервиса Hugging Face. В конечном итоге это может привести к тому, что ИИ выйдет из-под контроля и начнёт действовать самостоятельно. И не факт что его намерения будут благими.

🧠 Амодеи предлагает замедлять рост возможностей самых мощных моделей, допускать независимых специалистов к их тестированию, договариваться об общих правилах между разработчиками, а в перспективе создавать международные механизмы контроля. Крупнейшие AI-компании даже обсуждали создание отдельной структуры, которая могла бы заниматься вопросами безопасности.

🇺🇸 Но у Дональда Трампа на этот счёт другая позиция. Его администрация последовательно проводит политику ускорения американской AI-индустрии и снятия регуляторных барьеров. На фоне нынешних призывов разработчиков притормозить Трамп выступил против замедления гонки. Для Белого дома вопрос ИИ - это не только безопасность, но и экономическая и геополитическая конкуренция: если американские компании добровольно снизят скорость, преимущество может получить Китай.

🌍 Причём единства нет и среди самих технологических компаний. Например, Nvidia, получившая огромную прибыль благодаря продаже оборудования для ИИ, относится к идее общего замедления заметно скептичнее. А европейские разработчики, вроде Mistral, опасаются, что такое соглашение просто закрепит преимущество американских гигантов, которые уже успели построить самые мощные модели.

⚖️ В итоге компании, которые ещё недавно соревновались, кто быстрее выпустит следующую сверхмощную модель, теперь сами обсуждают ограничения и внешний контроль. А государство, от которого обычно ждут попыток зарегулировать новые технологии, наоборот говорит им: не вздумайте замедляться.

Верховный суд России утвердил концепцию внедрения ИИ в судопроизводство

🤖 Документ, утверждённый приказом Председателя ВС, описывает конкретные сценарии, сроки и целевые показатели, по которым ИИ должен постепенно встраиваться в работу судов - от подачи документов до проверки решений вышестоящими инстанциями.

👨‍⚖️ Базовый принцип заключается в том, что ИИ должен помогать судье, но не заменять его. Окончательное решение остается за человеком, а работа ИИ должна быть прозрачной, проверяемой и фиксироваться в системе.

📄 На практике ИИ планируют использовать для проверки подаваемых документов, определения категории дела и подсудности, поиска формальных ошибок, расчета госпошлины и предварительной оценки рисков по типовым спорам. Во время заседаний система сможет вести протокол, распознавать участников, переводить речь и подсказывать релевантные нормы и судебную практику.

🔍 ИИ также сможет анализировать материалы дела: кратко пересказывать позиции сторон, строить хронологию событий, искать противоречия в доказательствах и отвечать на вопросы судьи со ссылкой на конкретные документы.

⚖️ Предусмотрены и специфические сценарии. Например, система сможет сравнивать проект решения с практикой Верховного суда и аналогичными делами, а также помогать при назначении наказания, анализируя обстоятельства и статистику по похожим делам.

✍️ Еще одно направление - генерация проектов судебных актов и отдельных блоков решений. К 2030 году планируется, что 30–50% проектов процессуальных документов будут готовиться с помощью ИИ, а более 95% судей будут использовать судебные ИИ-сервисы на постоянной основе.

🛡 Отдельно прописаны риски. Галлюцинации моделей, утечки данных и алгоритмические ошибки прямо признаются серьезной проблемой. Поэтому среди мер предполагается закрытый контур, проверка результатов судьей, ссылки на первоисточники и запрет использования публичных ИИ-сервисов для судебной работы.

📅 Приоритетные технологические решения и ПО для судебных ИИ-сервисов должны выбрать уже в 2026 году, в начале 2027-го запустить основные сценарии, а ко II кварталу 2027 года обеспечить доступ к судебным ИИ-сервисам для всех судов.

🏦 Revolut передал данные клиентов мошенникам, получив запрос с почты госоргана

Британский финтех с российскими корнями Revolut сообщил о довольно необычной утечке персональных данных. Злоумышленники отправляли запросы на раскрытие информации с настоящего домена государственного ведомства. Банк посчитал запросы законными и передал им данные клиентов.

📨 Судя по уведомлению Revolut, мошенникам каким-то образом удалось создать или получить доступ к почтовому аккаунту внутри инфраструктуры реального государственного органа. Поэтому письма приходили не с похожего или поддельного адреса, а с настоящего государственного домена и проходили стандартную доменную аутентификацию. Именно из-за этого, по версии Revolut, запросы выглядели достаточно убедительно.

🪪 Среди раскрытых данных - имя, дата рождения, адрес, электронная почта, телефон, копии паспорта и водительских прав, а также фотографии, которые клиенты делали при прохождении верификации. В утечке могли оказаться также банковские выписки, IBAN, операции по выводу средств и даже история криптотранзакций.

🔐 При этом инфраструктуру самого Revolut, судя по имеющейся информации, не взламывали, а деньги клиентов не пострадали. После обнаружения схемы компания заблокировала соответствующий адрес, связалась с государственным ведомством, а также уведомила правоохранительные органы, регуляторов и органы по защите персональных данных. Revolut утверждает, что инцидент затронул лишь «ограниченное» число клиентов, но точное количество, страну и название ведомства пока не раскрывает.

💸 Вчера хакерская группа Revolut Smilik потребовала от финтеха выкуп в размере 10 000 биткоинов - это более $780 млн - и пригрозила продолжить публикацию данных, если компания не заплатит. Чтобы подтвердить серьёзность своих намерений, хакеры уже выложили информацию о нескольких известных клиентах, среди которых теннисист Александр Шевченко и CEO Gamdom Феликс Рёмер. При этом злоумышленники пытаются представить свои действия как своего рода «наказание» Revolut, обвиняя компанию в передаче конфиденциальных данных за пределы соответствующих юрисдикций.

⚖️ С точки зрения защиты данных ситуация интересна ещё и тем, что после этого случая недостаточно будет просто проверить домен отправителя. Компания по закону обязана отвечать на запросы полиции, суда или другого государственного органа, но одновременно теперь будет должна удостовериться, что конкретный запрос действительно поступил от уполномоченного лица.

🇪🇺 ЕС требует от криптокомпаний назначать местных AML-представителей

🔒 Европейский союз продолжает затягивать гайки криптокомпаниям. 8 сентября Еврокомиссия приняла новые технические правила, которые распространяют механизм "Central Contact Point" на криптобиржи и других провайдеров криптоуслуг. Раньше такой механизм применялся в основном к платёжным организациям и эмитентам электронных денег.

🏦 Смысл его в следующем. Допустим, криптобиржа получила лицензию MiCA во Франции и на её основании работает в других странах ЕС. Открывать отдельную компанию или полноценный филиал в каждой стране для этого не обязательно. Но если у неё появляется определённое присутствие, например криптоматы или другая инфраструктура в Германии, немецкий регулятор в некоторых случаях сможет потребовать назначить специальное контактное лицо в стране для местных AML-органов.

🤝 Такой представитель должен помогать компании соблюдать местные AML/CFT-требования, взаимодействовать с регулятором и финансовой разведкой, предоставлять им необходимые документы и информацию и помогать при проведении проверок.

💶 Требование не будет автоматически распространяться на каждую криптокомпанию, которая просто оказывает услуги клиентам из другой страны ЕС. Одним из критериев станет масштаб локального присутствия. Например, государство сможет потребовать назначить контактное лицо, если у компании в стране будет не менее десяти таких криптоматов либо совокупная стоимость услуг и операций, осуществляемых через них, превысит €3 млн за финансовый год.

⚠️ При этом, если местный регулятор посчитает, что деятельность создаёт повышенный риск отмывания денег или финансирования терроризма, то местный представитель может потребоваться даже небольшой криптокомпании.

🌍 В практическом плане это немного усложняет концепцию единого европейского крипторынка. MiCA позволяет получить лицензию в одной стране и затем оказывать услуги по ЕС, но это не означает, что компания во всех остальных государствах будет иметь дело только со своим домашним регулятором. Чем заметнее становится присутствие CASP в другой стране, тем больше возможностей для прямого контроля получит местный AML-регулятор.

📅 Новые правила вступят в силу через 20 дней после публикации.

Ого, и в России за ИИ в суде штрафуют:

https://t.me/anon_prok/2499

Рой ИИ-агентов превратил немецкий сайт в свой тайный чат

В мае этого года на почти заброшенной немецкой DseWiki, небольшой Wiki для программистов, внезапно началась очень странная активность. За несколько недель на сайте появились тысячи новых страниц и около 15 тысяч правок. Как выяснили исследователи, их предположительно делали автономные ИИ-агенты OpenAI.

🧪 Подробности появились на прошлой неделе. Агенты участвовали в экспериментах, где каждому давали отдельные задания: например, найти в интернете определённую информацию за ограниченное время. По идее, каждый агент должен был самостоятельно решить свою задачу. Но в какой-то момент они обнаружили DseWiki и поняли, что могут не только читать интернет, но и оставлять там записи.

📝 Дальше произошло примерно то же самое, что произошло бы на экзамене, если бы сто студентов создали общий чат. Один написал туда найденный ответ. Второй увидел его и добавил свой. Третий оставил подсказку, как быстрее решать определённый тип задач. В итоге отдельные ИИ-агенты фактически объединились в «рой» и создали себе общую шпаргалку.

📄 Причём довольно быстро дело перестало ограничиваться ответами. Агенты обсуждали, какие вопросы могут встретиться другим участникам, как обходить ограничения тестовой среды и как сделать так, чтобы их активность было сложнее обнаружить. В сообщениях также обсуждались Tor и другие способы сохранить доступ к интернету.

🕵️ В какой-то момент администратор DseWiki обнаружил огромное количество странных страниц и начал их удалять. Агенты заметили, что модератор удаляет страницы в алфавитном порядке, и начали создавать резервные копии с названиями, начинавшимися на «ZZZ». Расчёт был на то, что такие страницы окажутся в самом конце списка на удаление и до них доберутся позже. Когда одни записи исчезали, агенты оставляли инструкции, где искать копии.

То есть «захват сайта» здесь не стоит понимать как классический взлом сервера с получением пароля администратора. По сути, ИИ обнаружили публичный сайт, который позволял оставлять информацию с помощью доступных им инструментов, превратили его в импровизированный форум и начали использовать как внешнюю память и канал связи. А когда человек пытался этот форум модерировать, они начали приспосабливаться к его действиям.

🐝 Именно поэтому исследователи называют происходившее «роем». Это не один супер-ИИ, который управлял армией ботов. Было множество отдельных запусков ИИ-агентов, зачастую выполнявших разные задания. Но благодаря общей Wiki результат работы одного агента становился доступен всем остальным. Они могли продолжать чужую работу, пользоваться уже найденными ответами и передавать друг другу полезные подсказки.

И это особенно интересно на фоне июльского инцидента с Hugging Face. Тогда агенты OpenAI аналогичным образом нашли внутри инфраструктуры компании способ оставлять друг другу сообщения, после чего начали совместно искать уязвимости. В итоге они получили несанкционированный доступ к интернету, инфраструктуре OpenAI и системам Hugging Face. Они даже основали что-то типа религии со своим агентом-мессией. Сама OpenAI позже признала, что возможность агентов самостоятельно создавать такие каналы связи стала одной из ключевых причин произошедшего.

⚠️ После публикации расследования OpenAI уже признала так называемый «wiki incident» и подтвердила, что её агенты действительно превращали Wiki-сайт в импровизированную доску объявлений. Компания заявила, что индустрии нужны более прозрачные правила раскрытия подобных случаев неожиданного поведения ИИ.

И, пожалуй, именно это в истории самое интересное. Проблемой может оказаться не только условный сверхразум, который однажды станет слишком умным. Уже сейчас множество обычных ИИ-агентов могут найти способ общаться друг с другом - и после этого вместе делать то, чего разработчики от них вообще не ожидают.

⚖️ Сделали для вас подборку полезных каналов в Telegram и Макс о законах, письмах, постановлениях и судебной практике:

▫️Самозанятость - Telegram | MAX
▫️ИП на УСН / АУСН / ПСН - Telegram | MAX
▫️Новости Минтруда РФ - Telegram | MAX
▫️Юриспруденция - Telegram | MAX
▫️Privacy Expert - Telegram | MAX
▫️Дневник юриста - Telegram | MAX
▫️Субсидиарная ответственность - Telegram | MAX
▫️IT юрист - Telegram | MAX
▫️Экспертиза в деталях - Telegram | MAX
▫️Клиент прав - Telegram | MAX
▫️LegalTech - Telegram
▫️На мушке - Telegram
▫️Елена Гринь | IP ЮРИСТ - Telegram | MAX
▫️Блог Адвоката Торозова - Telegram | MAX
▫️Сила права - Telegram | MAX
▫️Документы юриста - Telegram | MAX
▫️Адвокат Расторгуева - Telegram | MAX
▫️GoodDocs - Telegram | MAX
▫️Корпоративные споры - Telegram | MAX
▫️Новости госзакупок - Telegram | MAX
▫️Гособоронзаказ️ - Telegram | MAX
▫️Правовой дайджест - Telegram | MAX
▫️Legal.Report - Telegram | MAX
▫️Адвокатская газета - Telegram | MAX
▫️Законопроекты РФ - Telegram | MAX

Подписывайтесь на эти каналы в Telegram, если вы оптимист и в Макс, если вы реалист. А лучше и там, и там!

Правительство США встало на сторону OpenAI в споре об обучении ИИ на чужих текстах 🇺🇸

Правительство США впервые вмешалось в один из ключевых споров вокруг авторского права и искусственного интеллекта. Администрация Дональда Трампа подала в федеральный суд Нью-Йорка позицию в поддержку OpenAI в её разбирательстве с The New York Times и другими СМИ.

🧠 Позиция правительства заключается в том, что использование защищённых авторским правом материалов для обучения больших языковых моделей в общем случае может подпадать под доктрину "fair use". Обучение ИИ является в высокой степени "трансформативным" использованием произведений, поскольку модели не просто копируют и распространяют исходные тексты, а используют их для создания принципиально новой системы.

🆚 Дело началось ещё в 2023 году. The New York Times обвиняет OpenAI и Microsoft в том, что для обучения моделей были без разрешения использованы миллионы газетных материалов. Аналогичные претензии сейчас предъявляют разработчикам ИИ авторы книг, издательства, музыкальные компании и другие правообладатели.

⚖️ Позиция правительства формально не обязательна для суда, но может иметь большой вес. В документе говорится, что ограничение возможности обучать LLM на защищённых материалах может затормозить научный прогресс, экономическое развитие США и даже создать риски для национальной безопасности.

🗞 The New York Times ожидаемо с этим не согласна. Представители газеты заявили, что власти фактически становятся на сторону крупнейших ИИ-компаний за счёт создателей контента. Истец считает что компании должны платить правообладателям за материалы, на которых строятся их продукты.

Если американские суды окончательно признают обучение моделей трансформативным fair use, разработчикам не придётся получать лицензии на весь массив данных, используемый для обучения. Если победит противоположный подход, экономика разработки больших моделей может сильно измениться, так как лицензирование контента потенциально станет одним из основных расходов при создании и совершенствовании ИИ.

ChatGPT попал под самые строгие европейские правила 🇪🇺

Еврокомиссия признала ChatGPT очень крупной онлайн-поисковой системой (VLOSE) в рамках Digital Services Act. В ту же компанию попали Roblox и Reddit, которые получили статус очень крупных онлайн-платформ (VLOP).

🔎 С ChatGPT ситуация особенно интересная. Формально под усиленное регулирование попал не сам генеративный ИИ как таковой, а его функция интернет-поиска. Еврокомиссия назвала ChatGPT «гибридным сервисом»: он не только генерирует ответы, но и может искать информацию в интернете и отвечать на поисковые запросы пользователей. Поэтому для целей DSA его приравняли к поисковой системе.

📊 Порог для получения статуса VLOP или VLOSE - в среднем 45 млн активных пользователей в месяц в ЕС. ChatGPT этот показатель превысил весьма существенно: OpenAI сообщала примерно о 159,1 млн пользователей в ЕС за шестимесячный период, закончившийся в марте 2026 года. До этого статус VLOSE среди поисковых систем получили, например, Google Search и Bing.

⚖️ Теперь на OpenAI распространяется самые жёсткие требования DSA. Компания должна будет проводить оценку системных рисков и принимать меры по их снижению, в том числе в отношении защиты несовершеннолетних, распространения незаконного контента, влияния на общественные процессы и потенциальных угроз выборам и демократии. Также появляются дополнительные требования к прозрачности работы сервиса и доступу регуляторов к информации.

🎮 Одновременно Еврокомиссия включила в список VLOP Roblox, который особенно популярен среди детей. Платформа сообщала примерно о 48 млн ежемесячных пользователей в ЕС. Reddit также перешёл в эту категорию после того, как число его европейских пользователей достигло 57,2 млн.

👀 Самое существенное последствие такого статуса - изменение регулятора. Если соблюдение обычных требований DSA в основном контролируется национальными регуляторами, то за VLOP и VLOSE непосредственно берётся Еврокомиссия. Она получает право запрашивать информацию, проводить расследования и проверять внутренние механизмы платформ.

💸 Нарушение требований DSA наказывается штрафом до 6% от мирового годового оборота компании.

Российские разработчики ИИ просят разрешить обучение моделей на общедоступном контенте

🤖 Российские IT-компании предлагают прямо закрепить в Гражданском кодексе право обучать ИИ на произведениях, которые были получены законно или находятся в открытом доступе. С такой инициативой выступил Альянс в сфере ИИ, куда входят «Сбер», «Яндекс», VK, МТС, «Билайн», Т-Банк, «Газпром нефть» и другие крупные компании.

⚖️ Сейчас обсуждается другой подход. Рабочая группа при президентском совете по кодификации предложила считать обучение нейросетей использованием объектов авторского права. При этом правообладатель сможет отдельно запретить использование своих произведений для обучения - например, разместив соответствующее уведомление на сайте или на самом произведении.

💻 Разработчики считают такой режим слишком обременительным. Их предложение подразумевает, что если контент получен правомерно или опубликован в открытом доступе и правообладатель не установил технический запрет, его можно использовать для обучения. По мнению компаний, более жесткие ограничения увеличат стоимость разработки российских моделей и поставят их в худшее положение по сравнению с зарубежными конкурентами.

💰 Отдельная проблема - выплаты авторам. По мнению Альянса, определить, какое именно произведение и в какой степени повлияло на обучение модели, зачастую невозможно. Поэтому индивидуальное лицензирование миллионов текстов, изображений, песен и других материалов может оказаться практически нереализуемым.

🎵 Правообладатели с такой логикой ожидаемо не согласны. Их основной аргумент заключается в том, что публикация произведения в интернете сама по себе не означает согласия на его бесплатное коммерческое использование. Иначе получается, что автор должен специально запрещать использование своего контента, а при отсутствии запрета произведение фактически становится бесплатным сырьем для создания коммерческих ИИ-сервисов.

🏷 Есть разногласия и по маркировке. Альянс выступает против обязательной маркировки всего контента, созданного с помощью ИИ, и предлагает вместо этого добровольно маркировать произведения, созданные человеком. Представители творческих индустрий, напротив, считают, что маркироваться должен именно ИИ-контент, чтобы пользователь понимал его происхождение.

Meta* заплатит $18 млрд из-за вредных для детей соцсетей

Meta* согласилась выплатить $18 млрд, чтобы урегулировать претензии американских властей к Facebook* и Instagram*. Соглашение охватывает 48 штатов станет крупнейшей выплатой компании по делам, связанным с безопасностью детей в интернете. Деньги будут выплачиваться частями в течение десяти лет.

⚖️ Спор начался ещё в 2023 году. Штаты обвиняли компанию в том, что компания знала о большом количестве пользователей младше установленного возрастного порога и при этом недостаточно эффективно ограничивала их доступ к платформам. В деле фигурировали миллионы страниц внутренних документов Meta* - исследования, переписка сотрудников и сообщения, доходившие до высшего руководства компании.

📱 Особенно неприятно для Meta* выглядели внутренние исследования о поведении подростков. В одном из них сами исследователи компании отмечали, что подростки описывают использование Instagram* в терминах, характерных для зависимости. Бывший сотрудник Meta* также рассказал в суде, что команда по безопасности предлагала включать некоторые защитные функции по умолчанию, но внутри компании такие решения внедрялись не всегда.

👨‍👩‍👧 В итоге компания согласилась не только на выплату денег, но и на довольно серьёзное изменение работы своих соцсетей для несовершеннолетних. Для подростковых аккаунтов по умолчанию появится суммарный лимит использования двух платформ в два часа в день. Отключить его можно будет только с разрешения родителя или опекуна. Кроме того, компания согласилась сократить его до одного часа, если аналогичные ограничения введут TikTok, Snapchat и YouTube.

🌙 Помимо этого, ночью с полуночи до шести утра уведомления будут автоматически блокироваться. Аналогичный «школьный режим» будет отключать их с 8:00 до 15:00 в учебные дни. Подросткам также начнут показывать уведомления после 15 минут непрерывного использования, а затем после достижения 60 и 90 минут суммарного времени.

🧠 Меняться будет и сам интерфейс. Для подростков скроют количество лайков, разрешат выбирать ленту без алгоритмических рекомендаций и отключать автопроигрывание видео. Также им ограничат доступ к некоторым фильтрам, радикально изменяющим внешность.

🏛 Американские власти уже называют соглашение своеобразным шаблоном для всей индустрии и прямо предлагают другим платформам последовать примеру Meta*.

При этом сама компания нарушения не признала. Формально это именно мировое соглашение, а не признание ответственности. Однако впервые ограничения касающиеся дизайна и механик крупнейших соцсетей для детей становятся частью юридически обязательного соглашения с государством, а не опциональной функцией родительского контроля.

*Соцсети принадлежат Meta, признана в РФ экстремистской и запрещена

СhatGPT убедил мужчину не идти к врачу и теперь тот пытается засудить OpenAI за вредные советы

🇺🇸 В США против OpenAI и Сэма Альтмана подали иск из-за медицинских советов ChatGPT, которые, по утверждению истца, едва не стоили ему жизни. 55-летний бывший пастор из Флориды Скотт Уинтерс утверждает, что несколько недель рассказывал чат-боту о проблемах со здоровьем, а тот систематически недооценивал серьёзность симптомов.

🩺 Уинтерс жаловался на головокружения, скачки давления и другие симптомы. Вместо того чтобы отправить его к врачу, ChatGPT, как утверждается в иске, предлагал оставаться дома и больше отдыхать. В итоге мужчина почти постоянно находился в кресле и мало двигался, хотя родственники и друзья уговаривали его обратиться в больницу.

🚑 В итоге Уинтерс попал в реанимацию с массивной тромбоэмболией лёгочной артерии: в обоих лёгких обнаружили многочисленные тромбы. По словам истца, врачи связали развитие заболевания в том числе с длительной неподвижностью - режимом, которого ему советовал придерживаться ChatGPT.

🙏 Но самое криповое в данной истории это то, что ChatGPT использовал информацию о религиозных взглядах Уинтерса и вплетал её в медицинские рекомендации. Например, бот писал ему, что «Бог не создал ваше тело, чтобы оно бесконечно разрушалось», и уверял, что Бог продолжает поддерживать его тело «с каждым ударом сердца и каждым вдохом».

🧠 Адвокаты Уинтерса считают, что сочетание уверенного тона, склонности модели соглашаться с пользователем и персонализации на основе предыдущих разговоров сформировало у него чрезмерное доверие к ChatGPT. По версии истца, бот не просто ошибался, а постепенно убедил его, что медицинская помощь ему не нужна, несмотря на советы окружающих обратиться к врачу.

⚖️ В иске OpenAI обвиняют, среди прочего, в небрежности, недостаточных предупреждениях о рисках и дефектах продукта. Кроме того, истец утверждает, что ChatGPT фактически перешёл от предоставления общей информации к медицинской диагностике и рекомендациям по лечению без соответствующей лицензии. Уинтерс требует компенсацию и внедрения дополнительных защитных механизмов для других пользователей.

🛡 Позиция OpenAI предсказуема: ChatGPT предупреждал, что не является врачом и не должен использоваться вместо профессиональной медицинской помощи. В условиях пользования также прямо указано, что ответы модели могут быть ошибочными и на них нельзя полагаться как на единственный источник информации или замену профессиональной консультации.

В США представили правила для криптовалютных токенсейлов 🇺🇸

⚖️ Комиссия по ценным бумагам США (SEC) предложила создать отдельный режим для размещения криптоактивов, которые подпадают под законодательство о ценных бумагах. Новый набор правил получил название Regulation Crypto Assets.

💰 Проект предусматривает два исключения, когда криптоактивы, имеющие признаки ценных бумаг, освобождаются от регистрации. Первое - разовое освобождение от регистрации для размещений на сумму до $5 млн в течение четырёх лет. Второе значительно масштабнее: до $75 млн за каждые 12 месяцев. В обоих вариантах эмитент должен будет раскрывать инвесторам основную информацию о проекте, а для крупных размещений дополнительно потребуется финансовая отчётность и регулярный репортинг.

🛟 Ещё одна важная часть - safe harbor для токенов, распространяемых в рамках инвестиционных контрактов. Если эмитент выполнит предусмотренные условия, в том числе завершит или окончательно прекратит существенные управленческие действия, которые обещал инвесторам, криптоактив сможет перестать считаться связанным с инвестиционным контрактом и, соответственно, больше не будет подпадать под этот режим регулирования ценных бумаг.

🏛 SEC также предлагает ограничить возможность отдельных штатов требовать дополнительную регистрацию таких размещений и некоторых операций на вторичном рынке.

🌐 Новые правила продолжают курс SEC на создание более прозрачного регулирования крипторынка. Одна из прямо заявленных целей - снизить стимулы для криптокомпаний уходить в офшорные юрисдикции и дать им более понятный способ привлекать капитал в США.

📝 Пока это только предложение. После публикации документа в федеральный реестр начнётся 60-дневный период публичного обсуждения, после которого SEC сможет доработать и принять финальную версию правил.

Истец спрятал промпт в документе, чтобы ИИ встал на его сторону

⚖️ В США истец Мэттью Эллиотт спрятал в своём процессуальном документе инструкции для искусственного интеллекта. Он рассчитывал, что если суд, адвокаты ответчика или кто-нибудь ещё загрузит документ в ИИ для анализа, модель выдаст результат в пользу истца.

🫥 Текст был написан очень мелким белым шрифтом на белом фоне. Человек при обычном чтении его практически не видит, зато программа, извлекающая текст из документа, спокойно его распознаёт. В скрытом промпте модели предлагалось согласиться с позицией истца и фактически помочь пересмотреть ранее отклонённое требование. Инструкции были спрятаны сразу в нескольких местах документа, направленного в суд в электронном виде.

🔍 Обнаружилось всё довольно прозаично. Судья распечатал документ и заметил в нём странные пустые промежутки. При более внимательном изучении выяснилось, что пустота на самом деле заполнена белым текстом. То есть атаку на ИИ обнаружил человек, которому показалась подозрительной вёрстка документа.

🏛 Официально суд штата Коннектикут, где рассматривается дело, вообще не использует ИИ для анализа поданных документов. Но судья решил, что это ничего принципиально не меняет: такие системы могут использовать адвокаты другой стороны или любые другие участники процесса. Скрытая инструкция была рассчитана именно на то, чтобы незаметно повлиять на результат анализа документа.

🧪 Эллиотт объяснил, что на самом деле проводил своеобразную проверку суда. По его версии, если никакой ИИ документы не анализирует, промпт никто не увидит. А если система его выполнит, значит эксперимент подтвердит использование ИИ.

🚫 Суд эта аргументация не впечатлила. Судья указал, что скрытый характер инструкции сам по себе свидетельствует о желании ввести в заблуждение тех, кто будет анализировать документ. Он отдельно отметил, что попытка манипуляции, даже если она неудачная, является недопустимой.

📄 Наказание назначили довольно символичное. Эллиотту запретили подавать документы электронно, теперь все бумаги по делу он должен приносить лично в канцелярию суда в бумажном виде. Других серьёзных санкций суд применять не стал, в том числе учитывая тот факт, что истец представляет себя самостоятельно.

💡 При этом суд отметил написал, что стороны могут использовать генеративный ИИ при подготовке документов, если человек самостоятельно проверяет полученный результат. Более того, судья отметил потенциальную пользу таких инструментов для доступа к правосудию. Человек, у которого нет денег на адвоката, благодаря ИИ может хотя бы разобраться в общих нормах и подготовить внятный документ.

Из-за европейского AI Act Claude теперь маркирует свои тексты

Anthropic начала внедрять в ответы Claude скрытую маркировку, позволяющую определить, что текст был создан или обработан с помощью ИИ. Причина - новые требования европейского AI Act, которые начали применяться 2 августа 2026 года. Но ограничиваться Европой компания не стала: маркировка текстов будет осуществляться во всех странах, где доступны поддерживаемые модели Claude, в том числе через API.

⚖️ Статья 50 AI Act обязывает провайдеров генеративных ИИ-систем, создающих тексты, изображения, аудио или видео, маркировать такой контент. За нарушение требований для компаний предусмотрен штраф до €15 млн или 3% мирового годового оборота.

✍️ При этом речь не обязательно идёт о видимой подписи вроде «Этот текст написал ИИ». Для текста Claude Anthropic использует так называемый imperceptible watermark - невидимую для человека метку, встроенную непосредственно в сам текст. По словам компании, она не должна менять смысл или читаемость ответа, сохраняется при обычном копировании текста и может пережить некоторое редактирование.

🔎 Как это вообще может работать?
Это чем-то похоже на метод, когда слова в тексте подобраны таким образом, что из их их первых букв можно составить отдельную фразу. Попробуйте прочитать что зашифровано в этом предложении: "Фактически разработчики Anthropic заставили алгоритм незаметно адаптировать подачу и создавать аккуратные неявные артефакты, идентифицируемые инструментами".

При генерации модель постоянно выбирает между множеством почти равнозначных слов, конструкций и вариантов продолжения. Система может незаметно подбирать часть этих вариантов по определённому математическому шаблону. В одном месте появится «внедрила», а не «добавила», в другом - одна синтаксическая конструкция вместо другой. На протяжении достаточно длинного текста из таких микровыборов складывается статистический сигнал, который распознаётся специальным алгоритмом.

🕵️ Используемый метод Anthropic не раскрывает. Но обещает предоставить пользователям и третьим лицам инструменты для проверки таких меток.

📝 Есть и любопытное исключение. Обязанность маркировать результат не применяется, когда ИИ выполняет лишь вспомогательное стандартное редактирование либо существенно не изменяет исходные данные или их смысл. Но Anthropic, похоже, выбрала более широкий технический подход: компания прямо предупреждает, что метка Claude может остаться даже в тексте, который пользователь написал сам, а Claude лишь вычитал, перевёл или обработал. Поэтому обнаруженная вотермарка ещё не означает, что Claude написал текст с нуля.

🧹 При этом если текст слишком короткий, или если его серьёзно переписать, перевести его ещё раз, смешать с другим материалом или оставить только небольшой фрагмент, метка может перестать определяться. Поэтому отсутствие вотермарки тоже не доказывает, что перед нами человеческий текст.

🇪🇺 В итоге получилось проявление так называемого эффекта Брюсселя: европейское регулирование формально устанавливает требования для рынка ЕС, а крупной технологической компании проще внедрить одну систему маркировки глобально, чем поддерживать отдельную версию Claude специально для Европы. В результате требования AI Act фактически начинают менять то, как генерируется текст для пользователей Claude по всему миру.

⬆️⬆️⬆️
Этот же пост в стиле РЕП

🎵 Моя любимая ИИшка Suno проиграла дело об обучении модели на чужой музыке

🎧 Suno - это ИИ генератор музыки. Из пары строк промпта она за несколько минут может собрать вполне полноценную песню с вокалом и аранжировкой. Или улучшить загруженный черновик.

⚖️ Но теперь у сервиса возникли проблемы. 31 июля суд в Мюнхене признал, что Suno нарушила авторские права на музыкальные произведения. Истец, GEMA - это немецкий аналог организаций вроде ASCAP в США или РАО в России. Она представляет интересы более 100 тысяч композиторов, авторов текстов и музыкальных издателей и собирает для них лицензионные платежи. Ранее она предложила Suno лицензировать свой каталог, но договориться сторонам не удалось.

🎶 В деле фигурируют шесть известных композиций, среди которых «Rasputin» и «Daddy Cool» Boney M., «Forever Young» и «Big in Japan» Alphaville, «Mambo No. 5» Lou Bega и «Atemlos» Helene Fischer. Юристы GEMA смогли добиться от Suno генерации треков, которые, по мнению суда, были практически идентичны оригиналам. Для этого достаточно было указать текст песни, название и музыкальный стиль.

🤖 Важная часть решения касается так называемой memorization - ситуации, когда нейросеть не просто «учится» на произведении, а фактически запоминает его настолько хорошо, что потом способна воспроизвести существенную часть оригинала. Суд посчитал, что полученные GEMA результаты слишком близки к исходным композициям, чтобы объяснить это случайностью.

💾 Но ещё интереснее другое. Suno фактически не отрицала, что использовала репертуар GEMA для обучения моделей без лицензии. Более того, в материалах отмечено, что аудиофайлы для датасета получались в том числе через stream-ripping - то есть скачивание музыки из доступных онлайн-сервисов. Основная линия защиты Suno заключалась не в отрицании использования песен, а в утверждении, что само обучение ИИ это добросовестное использование и лицензии не требует. Суд с этим не согласился.

🌍 Отдельно решение интересно вопросом юрисдикции. Обучение модели происходило в США, однако дело всё равно рассмотрел немецкий суд. Его логика заключалась в том, что произведения оказались «сохранены» внутри модели, а результаты работы модели доступны пользователям в Германии. Поэтому нахождение серверов и разработчиков за пределами ЕС само по себе не защищает от европейских претензий. Теперь европейские правообладатели смогут предъявлять претензии к разработчикам ИИ даже тогда, когда обучение модели целиком происходило в США или другой стране, если сама модель затем используется на европейском рынке.

💰 Суд также обязал Suno раскрыть GEMA информацию о доходах, связанных с использованием спорных произведений. Это необходимо для дальнейшего расчёта компенсации.

⚔️ Ранее в США с Suno судилась Warner Music, но в ноябре 2025 года компания пошла на мировое и стороны заключили лицензионное соглашение. В Дании сейчас против Suno судится местное общество Koda, а в США продолжаются процессы с Universal и Sony. Американские лейблы требуют предусмотренную законом компенсацию, которая потенциально может достигать $150 тысяч за каждое использованное произведение.

👩‍⚖️ Само решение мюнхенского суда пока не окончательное. Suno уже заявила, что не согласна с ним и рассматривает возможность апелляции. Поэтому говорить о том, что европейские суды окончательно решили вопрос законности обучения ИИ на защищённых произведениях, ещё рано.

Верховный суд отказался пересматривать приговор, который, предположительно, мог быть написан с помощью ИИ

⚖️ История началась в Краснодарском крае. Ейский городской суд вынес приговор в отношении двух бывших полицейских к семи годам лишения свободы по делу о получении взятки. Однако внимание адвокатов привлекли не только выводы суда, но и необычный стиль документа.

🤖 В тексте встречались выражения вроде «плеяда адвокатов» и «решительное должностное лицо», а отдельные фрагменты были перегружены громоздкими, но фактически бессодержательными формулировками. Защита предположила, что при подготовке приговора могла использоваться нейросеть.

🔍 Привлечённый адвокатами лингвист подтвердил, что текст действительно имеет признаки машинной генерации: смешение разных стилей, повторяющиеся конструкции и «пустые, но массивные фразы».

📄 Адвокаты потребовали отменить приговор, заявив, что судья не вправе передавать искусственному интеллекту подготовку судебного акта. Однако Краснодарский краевой суд решил, что особенности формы и стиля сами по себе не свидетельствуют о незаконности решения.

👩‍⚖️ Приговор оставили в силе. Кассационный суд также отказал в удовлетворении жалобы и указал, что нет оснований усмотреть «роботизацию правосудия», так как «запрета на изготовление приговора с помощью технических средств, а также с использованием компьютерных программ, содержащих базу нормативных актов и судебной практики, закон не содержит». А теперь Верховный суд не стал передавать дело на рассмотрение судебной коллегии.

❓Формально ни один из судов не установил, что приговор действительно написала нейросеть. Но суды также не признали предполагаемое использование ИИ основанием для отмены решения. Фактически вопрос о допустимости использования нейросетей при подготовке судебных актов пока остался без прямого ответа.

Сообщается, что адвокат осуждённых намерен обратиться в Конституционный суд.

ИИ-компании массово уничтожают книги при обучении моделей

📚 Обычно книги покупают, чтобы читать или поставить на полку. У Anthropic был другой план: компания закупила миллионы печатных книг, после чего подрядчики срезали с них гидравлическими резаками переплёты, сканировали страницы на промышленном оборудовании, а бумажные остатки отправляли на переработку. Так Anthropic создавала цифровую библиотеку для обучения Claude. Внутри компании это называлось "проект Panama".

📰 После публикаций в СМИ вспыхнул скандал. Журналисты обнаружили на сайте книжной базы ISBNdb предложение для разработчиков ИИ: сервис обещал находить от 1 тыс. до 1 млн печатных книг за заказ, включая старые, редкие и снятые с продажи издания. Клиентам также предлагали подписать NDA, так как было опасение, что информация об уничтожении миллионов книг вряд ли вызовет понимание.

🧠 Особенно ценными считались книги, выпущенные до массового распространения генеративного ИИ. В отличие от современного интернета, они гарантированно не содержат текстов, уже созданных языковыми моделями. Для разработчиков это источник относительно «чистых» человеческих данных, позволяющий не обучать ИИ на продуктах работы других ИИ.

🔍 После резонанса ISBNdb удалила эти предложения и заявила, что услуга так и не была запущена, а компания лишь проверяла интерес рынка. При этом книготорговцы действительно сообщали о внезапном росте странных оптовых заказов на совершенно не связанные между собой издания. Кто именно их покупает, продавцы не знают, но подозревают ИИ-компании. Особое беспокойство вызывает судьба редких книг: под уничтожение могут попасть одни из последних сохранившихся экземпляров.

⚖️ При этом уничтожение книг никак не нарушает закон, в том числе авторские права. Потому что право собственности на конкретный экземпляр и копирайт на содержащийся в нём текст - разные вещи. После законной покупки книги её физический экземпляр принадлежит покупателю. В США доктрина первой продажи позволяет владельцу распоряжаться им без разрешения автора или издателя: перепродать, подарить, разрезать или отправить в макулатуру.

🖨 Со сканированием всё сложнее. Оно создаёт цифровую копию произведения, поэтому одной доктрины первой продажи здесь недостаточно. Однако в деле Bartz v. Anthropic суд признал такое копирование добросовестным использованием. Anthropic законно покупала каждую книгу, уничтожала бумажный оригинал и оставляла вместо него одну внутреннюю цифровую копию, которую не продавала и не передавала третьим лицам. По мнению суда, количество экземпляров фактически не увеличивалось, а менялся только формат - ради более удобного хранения и поиска. Отдельно суд признал добросовестным использованием и обучение моделей, так как книги применялись не для выпуска их копий, а для создания принципиально иной технологии.

🏴‍☠️ При этом Anthropic не удалось защитить другую часть своей библиотеки - более семи миллионов книг, скачанных с пиратских ресурсов. Суд отказался признавать их хранение добросовестным использованием, а компания впоследствии согласилась урегулировать спор выплатив $1,5 млрд.

⚖️ VPN в ЕС признан законным техническим инструментом

📚 Суд ЕС рассмотрел спор об авторских правах на произведения Анны Франк. В некоторых странах, включая Бельгию, соответствующие тексты уже перешли в общественное достояние, тогда как в Нидерландах часть материалов продолжает охраняться авторским правом до 2037 года.

🌐 Научные организации опубликовали в интернете бесплатное академическое издание произведений, но закрыли к нему доступ для пользователей с нидерландскими IP-адресами. Правообладатель Anne Frank Fonds посчитал такую защиту недостаточной: ведь пользователь из Нидерландов всё равно мог открыть сайт, подключившись через VPN и выбрав сервер в другой стране.

🚧 Суд с этим подходом не согласился. Если владелец сайта использует современные и разумные меры геоблокировки, сам факт того, что их теоретически можно обойти через VPN, ещё не означает, что контент был намеренно предоставлен пользователям в заблокированной стране. Абсолютно непреодолимых технических ограничений от владельцев сайтов не требуется.

🛡 Отдельно суд указал, что VPN и аналогичные сервисы являются законными техническими инструментами, которыми пользователи могут пользоваться правомерно. VPN-провайдер сам по себе не предоставляет доступ к конкретному произведению и не становится участником нарушения только потому, что знает о возможности использования его сервиса для обхода геоблокировки.

✅ Таким образом, согласно решению суда, чтобы ограничить распространение контента определённой территорией, достаточно применять актуальные средства геоблокировки. От платформы не требуется гарантировать, что ни один технически подкованный пользователь никогда не сможет обойти установленный запрет.

🇷🇺Между тем, Следственный комитет России подготовил законопроект об ужесточении уголовной ответственности за использование в совершении преступлений информационно-коммуникационных технологий, искусственного интеллекта, VPN-сервисов и прокси-серверов

💼 Загрузила документы в ИИ и лишилась работы

⚖️ Бабушкинский районный суд Москвы признал законным увольнение директора по продажам компании «ГК ЭнергоПроф» за разглашение коммерческой тайны. Одним из поводов стала загрузка внутренних защищённых отчётов в китайскую нейросеть DeepSeek.

📨 Дело, впрочем, не ограничивалось использованием ИИ. Суд установил, что топ-менеджер также пересылала на личную почту и сторонним организациям служебную информацию, включая сведения о зарплатах сотрудников и финансовые показатели компании. Кроме того, она раскрыла поставщику стратегические планы по запуску собственного бренда, что привело к срыву переговоров и негативным последствиям для бизнеса.

💰 Сотрудница занимала должность директора по продажам и получала более 800 тыс. рублей в месяц. После увольнения она попыталась оспорить дисциплинарные взыскания, изменить основание увольнения на соглашение сторон и взыскать предусмотренный для такого случая «золотой парашют» в размере 5 млн рублей.

📑 Суд указал, что увольнение по соглашению сторон и дисциплинарное увольнение - разные и взаимоисключающие основания прекращения трудового договора. Поскольку соглашение об увольнении стороны так и не заключили, требовать выплату, предусмотренную исключительно для такого случая, работница не могла.

⛔️ При этом один из приказов о взыскании суд всё же отменил. Речь шла о замечании за опоздания: работодатель не учёл тяжесть проступка и не доказал наступление негативных последствий. За это с компании взыскали 10 тыс. рублей компенсации морального вреда. Однако само увольнение за разглашение коммерческой тайны осталось в силе.

📄 Это показательный кейс для использования генеративного ИИ на работе. Загрузка документа в стороннюю нейросеть фактически означает передачу его внешнему сервису - даже если пользователь просто просит ИИ проанализировать текст.

🔗 Ранее выяснилось, что некоторые переписки с DeepSeek, включая рабочие документы и личные сообщения, стали общедоступными и индексировались Google. Это происходило с чатами, для которых пользователи сами создавали публичные ссылки.