ИИ-юрист для Пентагона

В США, чтобы согласовать что-то для внедрения в ВПК, нужно пройти очень сложную бюрократическую процедуру и предоставить так называемый «кейс гарантий». Это колоссальное по объему юридико-инженерное дело, которое доказывает регуляторам, что «военное изделие» не убьет своих же. Инженеры тонут в терабайтах данных с датчиков, результатах стресс-тестов и отчетах об усталости металла.

Такие компании, как Anduril, уже сейчас умеют быстро делать дешевые ракеты, но их безопасность все равно приходится доказывать. Поэтому в DARPA решили внедрить ИИ и в этот процесс.

Недавно была опубликована заявка на патент от General Electric под названием «Системы и методы генерации кейсов гарантий». Разработку финансировало DARPA. Инженеры GE предлагают скормить всю эту бюрократическую рутину большим языковым моделям (LLM). Алгоритм будет работать как идеальный корпоративный юрист: он сам лезет в нормализованную базу данных (где лежат результаты тестов, логи, спецификации материалов), извлекает нужные факты и выстраивает из них логическую цепочку доказательств.
Но разработчики понимают, что LLM часто галлюцинирует, а в такой процедуре это неприемлемо. Поэтому в систему введен ключевой архитектурный элемент — так называемый «Критик».

Он опирается не на вероятности слов, а на жесткую библиотеку ограничений, формальные методы и SMT-солверы (алгоритмы, проверяющие выполнимость логических формул). Когда LLM собирает черновик доказательства, «Критик» прогоняет его через математический фильтр. Если нейросеть сгаллюцинировала или подтасовала данные ради красивого вывода, «Критик» бракует документ и отправляет его на переделку.

На выходе система переводит этот массив данных в человекочитаемый формат — как правило, в графическую схему. В идеале человеку остается лишь посмотреть на нее и поставить подпись.

Сама идея знакома любому разработчику агентных систем: одна модель генерирует, другая проверяет и отправляет на доработку. Сегодня в роли такого аудитора обычно ставят фронтирную модель уровня GPT-6 Astra или Claude Fable. Отличие GE в том, что их «Критик» — не нейросеть, а формальные методы и SMT-солверы. Для сертификации это разумно: вероятностный вердикт, который одна нейросеть выносит другой, регулятора не устроит. Но и это давно известная связка «LLM + формальная верификация», упакованная в патентную заявку.

🔒DARPA&CIA