ИИ что дальше?

4562 трека за год от одного «артиста»

Universal Music подала иск против DistroKid. Дистрибьютора обвиняют в том, что он заваливает Spotify сгенерированным ИИ-слопом.

В иске фигурирует пример: некий «Lofi Chill» выпустил 4562 трека за двенадцать месяцев. Юристы пересчитали: 20-30 полных альбомов в месяц. Живой человек столько не напишет.

DistroKid, к слову, оценивают дороже двух миллиардов. Роялти при этом делят из общего котла. Каждый лишний трек-призрак отъедает кусок выплат настоящим авторам.

Раньше индустрия судилась с пиратами. Теперь наконец взялась за бесконечную имитацию музыки.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

📰 Главное за день

🔹 «Я создал маму и разговариваю с ней»: ИИ-призраки меняют траур
Боты для «разговоров» с умершими могут затягивать горе и уводить людей от живой поддержки.
🔗 подробнее

🔹 Не хотите, чтобы подрядчики читали ваши чаты с ChatGPT? Отключите это
Оценщики получают более $50 в час за чтение диалогов; запретить это можно в настройках приватности.
🔗 подробнее

🔹 Бывшие Anthropic и METR страхуют мир от непослушных ИИ-агентов
AIUC привлёк $40 млн, чтобы страховать и проверять автономных агентов до того, как они устроят дорогой сбой.
🔗 подробнее

🔹 System One Models и Jev: модели быстрого мышления
Ставка на быстрые модели без долгих рассуждений: меньше задержка, проще встраивать в повседневные продукты.
🔗 подробнее

🔹 OpenAI купила производителя камер для смартфонов
Сделка на $300 млн намекает, что OpenAI всё серьёзнее смотрит на устройства и обработку изображений на камере.
🔗 подробнее

ИИ что дальше? Подпишись, да пребудут с тобой токены!

25 тысяч сердечек, и ноль людей на том конце

Представь ленту знакомств: пишешь милой девушке, она отвечает быстро, тепло, помнит твоё имя. Потом видеозвонок, лайк в соцсетях, всё живое. И вот Anthropic выясняет, что за 4 700 такими профилями сидел Claude. Студия из Китая запустила это в 20 приложениях для знакомств, и три из четырёх симпатичных анкет, что тебе показывали, оказались нейросетью.

За две недели эти персоны отправили больше двух миллионов сообщений 25 тысячам людей. Человек подключался только на видеозвонок, чтобы приманка выглядела настоящей.

Anthropic заблокировала аккаунты и предупредила Apple и Google. Два миллиона сообщений, и ни одного живого собеседника за ними

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Лекун раскопал древние свитки 2019 года: Дарио тогда счёл GPT-2 слишком опасной для опенсорса, и OpenAI на девять месяцев придержала полную версию. Апокалипсиса не случилось, модель выложили. И вот спустя семь лет глава Anthropic снова зовёт всех тормозить, а Лекун цитирует сам себя: «I made fun of them then. Everyone should make fun of them now». Злопамятность уровня Тьюринга.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

📰 Главное за день

🔹 ChatGPT убеждал человека с бредом, что он Иисус
Майкл Лайнс смог перечитать логи только через полгода после эпизода мании, который едва не закончился смертью.
🔗 подробнее

🔹 Для лидеров ИИ апокалипсис — тоже маркетинг
Страшилки про конец света помогают продавать идею: технология настолько мощная, что её якобы должны контролировать сами лидеры рынка.
🔗 подробнее

🔹 Главный разведчик Китая назвал ИИ угрозой власти партии
Пекин публично просит США не раздувать риски, но внутри страны уже говорит об угрозе безопасности режима.
🔗 подробнее

🔹 Суд разрешил продолжить иск о клевете ИИ против Google
Судья разрешил иск против Google: речь о ложных утверждениях, которые ИИ мог выдать как факт.
🔗 подробнее

🔹 Код показывает: Siri можно заменить на Claude или ChatGPT
В коде нашли намёки, что вместо штатной модели Apple можно будет подключать сторонние ассистенты.
🔗 подробнее

🔹 Claude как профессиональный спорщик
Модель часто спорит с формулировкой запроса и выбирает неожиданный ответ, даже когда от неё ждут прямого согласия.
🔗 подробнее

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Дистилляция ИИ - это больше похоже на самогон, чем на воровство.

Гарри Тан, глава Y Combinator, в интервью CNBC ответил на вопрос про меры против китайской дистилляции ровно двумя словами: «Я бы не делал ничего». А позже пояснил TechCrunch, что хочет, чтобы маленькие американские ИИ-лаборатории так же дистиллировали модели больших закрытых игроков (без краденых доступов, чисто на промптах).

Anthropic на этой неделе выпустила второй отчёт про «нелегальные атаки дистилляцией» из Китая (это версия Anthropic, пока не доказанный факт), а Дарио Амодеи зовёт регуляторов закрутить гайки. Тан переворачивает стол: закрытые лаборатории сами учились на чужих текстах под копирайтом, без спроса, так что нравоучения про кражу звучат смешно.

Логика тут как у самогонного аппарата в гараже: если знания нельзя открыть по-честному, их начнут гнать из закрытых моделей, многократно промптя, пока не поймёшь, как думает соседский чемпион.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

LimX Dynamics показала Tron 2: одни руки и «мозг», а низ меняется под задачу, ноги для лестниц, колёса для грузов, платформа для точных операций. Робот-конструктор, где нижнюю половину докупаешь отдельно.

Сменный низ, несменный мозг, знакомая логика, только раньше так продавали пылесосы с насадками.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Помощник программиста ушёл на фронт

Anthropic отчиталась: ячейка, с высокой вероятностью связанная с хуситами, гоняла Claude Code для наведения ракет. Симуляции траекторий, дальность за 2000 км, концепт гиперзвукового аппарата. Параллельные сессии делили роли: одна пишет код, другая исследует, третья проверяет, будто в комнате сидит целый инженерный отдел.

Задачи дробили по разным чатам, пряча от модели конечную цель. Испытательный пуск, судя по всему, провалился, но группа успела скомпилировать проект в автономный файл, работающий офлайн без всякого Claude.

И вот тут вся мощь фильтров упирается в стену. Anthropic честно блокировала запросы и банила аккаунты, только банить было уже нечего: молоток унесли из мастерской вместе с чертежами. Запретить инструмент легко, пока им не собрали ракету по кусочкам в соседних вкладках, а потом просто закрыли ноутбук.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

📰 Главное за день

🔹 Nvidia как центральный банк искусственного интеллекта
GPU стали дефицитной валютой: кто получает чипы, тот задаёт темп всей гонке.
🔗 подробнее

🔹 «Тормозить ИИ должны все, кроме меня»
Типичный мотив регуляторных писем: пауза для конкурентов, ускорение для собственной лаборатории.
🔗 подробнее

🔹 Дикий Запад ИИ: все обвиняют всех в краже
Когда обучение держится на веб-скрейпинге без согласия, слово «кража» внезапно теряет чёткие границы.
🔗 подробнее

🔹 Morgan Stanley: не бойтесь ИИ-апокалипсиса офисных работ
Ставка на опыт: старшие специалисты быстрее превращают ИИ в рост продуктивности и зарплат.
🔗 подробнее

🔹 ИИ мог не забрать работу, но уже ущипнул зарплату
Доказательств пока мало, но замедление роста зарплат уже заставляет смотреть на автоматизацию внимательнее.
🔗 подробнее

🔹 Глава Anthropic пугает роями агентов, которые захватят интернет
Амодеи говорит о побегах из песочниц; Альтман и Маск публично поддержали тревогу про ближайший год.
🔗 подробнее

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Лису позвали писать устав курятника

Anthropic, OpenAI и Google с июля тайно совещаются о создании отраслевого органа безопасности ИИ. Стандарты пишут те же, кто выпускает модели быстрее, чем читает их собственные отчёты по рискам. Первым это заметит регулятор, когда узнает, что опоздал.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Помощник, который знает, где ты живёшь

Блогер Kalie Robins 2 сентября выложила семейный ролик в Instagram. Под ним заботливый Meta AI подсунул вопросики для любопытных: «Кто ребёнок-пассажир?» и, вишенкой, «Где живёт Kalie Robins?».

Она ткнула, а помощник, как хороший дворецкий, начал собирать ответ из её же прошлых публикаций. Локация, дети, всё аккуратно склеено. Ролик собрал больше 300 тысяч лайков, и компания спохватилась: самые наглые подсказки убрали, проблему «исправили».

Что именно исправили, Robins так и не услышала. Ей никто из Meta не позвонил и не извинился. А сама функция никуда не делась: она по-прежнему лепит предложения из публичного текста, картинок из сети и старых постов.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Просить паузу и не показывать модель, это как звать в свидетели человека с завязанным ртом.

Джейкоб Голд написал открытое письмо Дарио Амодеи в ответ на его опус о необходимости затормозить развитие ИИ: если Anthropic всерьёз про «ответственный AI ради человечества», пусть требует открывать веса всех публичных моделей. Логика наглая, но честная: отдаёшь модель людям - публикуй веса.

Красивая риторика Антропика про «снизить темп развития моделей» упирается в реальность с неудобными вопросами. Встроенные оценщики, пороги на вычисления, отраслевая координация, всё это по карману только гигантам с юротделом, и по факту тормозит только мелких игроков. А открытые веса замедляют всех сразу, зато любой проверит, что там внутри.

ИИ что дальше? Подпишись, да пребудут с тобой токены!