Weekly Data News: Anthropic выпускает ИИ-охотника за 0-day, бигтех объединяется против дистилляции, нейросимволический ИИ ускоряет обучение роботов

Anthropic запустила Project Glasswing для защиты критической программной инфраструктуры с помощью ИИ. Поводом стали возможности разрабатываемой модели Claude Mythos Preview, которая, по оценке самой компании, превосходит почти всех специалистов по поиску и эксплуатации уязвимостей в коде.

За несколько недель работы Mythos Preview обнаружила тысячи 0-day уязвимостей, в том числе во всех крупных операционных системах и браузерах. Среди раскрытых примеров: 27-летняя ошибка в OpenBSD, позволяющая удаленно обрушить систему через одно подключение; 16-летний баг в FFmpeg, который автотесты не замечали после 5 млн прогонов, а также автономно собранная цепочка эксплойтов в ядре Linux, поднимающая права обычного пользователя до полного контроля над машиной.

Поскольку ИИ-модель можно использовать не только для исправления уязвимостей, но и для их использования, доступ к ней пока будет только у компаний-партнеров. К проекту присоединились AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA и Palo Alto Networks и др.

OpenAI, Google и Anthropic начали борьбу с китайской дистилляцией. По данным Bloomberg, компании обмениваются информацией о разработчиках, которые используют их модели для создания собственных продуктов. Взаимодействие идет через Frontier Model Forum, созданный при участии Microsoft. Речь о выявлении случаев дистилляции моделей — копирования возможностей ИИ без разрешения.

Американские компании считают, что такие практики позволяют конкурентам быстро создавать более дешевые аналоги и переманивать клиентов. При этом дистиллированные модели часто лишены защитных ограничений, что повышает риски их использования в кибератаках и других опасных сценариях.

Нейросимволический ИИ для робототехники снижает энергопотребление в 100 раз.
Университет Тафтса представил концепт гибридной VLA-модели для управления роботами. Метод использует архитектуру, объединяющую глубокое обучение с правилами символьной логики. Система заранее выстраивает абстрактный план, опираясь на свойства объектов, и не учится долгим путем проб и ошибок.

На тестах с «Ханойской башней» модель показала резкий рост эффективности. Время обучения сократилось с полутора суток до 34 минут, энергозатраты на тренировку — до 1% от стандартных VLA-систем. В инференсе потребление составило 5%. Точность выросла с 34% до 95%.

В усложненной версии теста нейросимволический ИИ добился успеха в 78% случаев, тогда как традиционные модели провалили все попытки. По мнению авторов, структурное мышление поможет решить проблему роста энергопотребления нейросетей.