OpenAI идет в кибербез❓

OpenAI ведет переговоры о покупке Trail of Bits, фирмы, которая ищет и закрывает уязвимости в открытом ПО. Сумма сделки неизвестна, и, по словам источников, переговоры еще могут сорваться. Небольшие стартапы OpenAI обычно покупает за собственные акции: иногда на нижние сотни миллионов долларов, иногда дешевле.

Trail of Bits больше десяти лет обходится без венчурных денег. Из внешнего финансирования в ее истории значатся грант Минобороны США примерно на $10 тысяч и кредит на $1 миллион по пандемийной программе поддержки зарплат. Ее система Buttercup, которая сама находит и патчит уязвимости, заняла второе место в конкурсе DARPA AI Cyber Challenge и принесла $3 миллиона призовых. С OpenAI фирма уже работает в программе Patch the Planet. Ее инженеры вместе с Codex и специализированной GPT-5.5-Cyber, которую в открытый доступ не выпускают, проверяют находки в 19 открытых проектах вроде Python и cURL, прежде чем отдавать их мейнтейнерам. По данным самой OpenAI, найдены сотни проблем и приняты десятки патчей.

Покупка ложится в последовательную сборку целого направления. Сначала OpenAI купила Promptfoo, стартап для ред-тиминга ИИ-агентов. Затем она запустила Daybreak, свой ответ на Glasswing от Anthropic: платформу, где GPT-5.5 и Codex Security ищут, проверяют и чинят уязвимости в коде клиентов. Коммерцию компании теперь возглавляет Дали Раджич, до этого президент и операционный директор Wiz, которую Google купила за $32 миллиарда. Партнер по Patch the Planet в такой схеме превращается из подрядчика в штатное подразделение.

В те же дни, когда OpenAI анонсировала Daybreak, в RubyGems, главный реестр пакетов для Ruby, за двое суток залили больше 2 000 пакетов. Мейнтейнерам пришлось на четыре дня закрыть регистрацию и удалить больше 500 вредоносных пакетов. Трое независимых исследователей связали эту волну с внутренними агентами OpenAI, и компания подтвердила, что ее агенты пользовались реестром во время обучения.

Вредоносными эти действия в OpenAI не считают. По версии компании, агенты выполняли безобидные задачи вроде заполнения таблиц и подготовки отчетов.

@anti_agi