🦾 ИИ учат управлять лабораториями. Технокомпании призывают срочно защищать критическую инфраструктуру

Anthropic представила Model Hardware Standard — это такой общий интерфейс, через который ИИ-агент может управлять программируемыми микроскопами, дозаторами, камерами, лазерами, роборуками и т.д. Пока это не массовый релиз, а раннее закрытое research preview для первой группы научных лабораторий и других привилегированных небожителей. На них Anthropic обкатывает сам стандарт, правила работы и проверки безопасности перед будущим открытием исходного кода.

Сейчас лаборатория или завод могут неделями и месяцами соединять приборы разных производителей: у каждого собственный интерфейс, документация и отдельный программный костыль. MHS заменяет этот зоопарк стандартным драйвером с базовыми командами вроде «прочитать температуру» или «установить температуру». Оборудование становится доступным для обнаружения, а агент получает описание возможностей машины, её характеристик и заданных ограничений безопасности.

После подключения модель уже не просто пишет инструкцию человеку. Она может сама получить данные с приборов, запустить нужную последовательность действий, поменять параметры по ходу эксперимента и скоординировать несколько устройств. Повторяющиеся операции агент способен собрать в программный сценарий (как я понял, что-то типа скиллов, к которым уже многие привыкли), чтобы установка дальше выполняла их без рассуждения модели на каждом шаге. По данным Anthropic, интеграция оборудования сокращается с недель или месяцев до часов или минут, а эксперименты можно запускать автономно и круглосуточно.

Продукт сделан для исследователей, инженеров, биотеха, робототехники, квантовых установок и производств с программируемым оборудованием. Модель там превращается из советчика в управляющий слой. Наблюдает через камеры и датчики, меняет настройки, двигает манипуляторы и следит за результатом. В одном из тестов Claude регулировал лазер, оценивал смещение луча через камеру, повторял настройку, а затем написал готовый скрипт для автоматического выравнивания.

Также в этом же посте хочу затронуть другую весть, но как-будто она сюда ложиться органично. Anthropic, OpenAI, Adobe, Microsoft, AWS и больше сотни других очень крупных компаний-подписантов выпустили коллективное письмо о киберобороне. Они заявляют, что в ближайшие месяцы ИИ-атаки станут гораздо массовее и сложнее, а под риском находятся больницы, водоочистные станции и инфраструктура, на которой держится интернет.

Проблемы перечислены вполне земные там. Всякие старые баги, избыточные права доступа, неправильные настройки, слабая авторизация, необновлённый софт и т.д. и т.п.. Организациям предлагают действовать с приоритетом реального инцидента. Исправлять самые опасные слабости, проверять результат, что-то ограничивать, отдельно контролировать код, созданный ИИ. Государствам — финансировать защиту критической инфраструктуры и координировать обмен данными об угрозах. Разработчикам моделей предлагаютдавать защитникам инструменты, обучение, доступ к мощным моделям и средства наблюдения за действиями ИИ-агентов.

Если сложить 2 новости получаем, что моделям (которые стали сильно круче, и даже открытые стали сильно круче и соответсвнно опаснее с точки зрения КБ) дают единый способ управлять реальными установками, пока больницы, водоочистные станции и проячая интернет-инфраструктура всё ещё сидят на старом софте, лишних правах доступа, слабой авторизации и накопленных уязвимостях. Радиус ошибки или атаки постепенно выходит из окна чата в реальный мир.

Прикольная деталь из отчёта Anthropic. Claude принял проблему со вспениванием белкового образца за программную ошибку. Людям пришлось объяснять, что сбой физический и исправлять его нужно физически. Anthropic прямо признают, что модель пока ограниченно понимает реальный мир и требует экспертного надзора. Супер круто, что именно в этот момент ей и начинают отдавать реальное оборудование.

ссылка на видео-презу от Anthropic

ссылка на текст от Anthropic

ссылка на призыв к коллективным действиям в области киберзащиты