В апреле Anthropic рассказали о том, что их новая модель Mythos Preview особенно оказалась хороша в поиске уязвимостей в операционных системах. Причем эта способность — ещё один пример эмерджентности, ситуации, когда в моделях появляются неожиданные свойства, которые специально туда не вкладывались.

Одновременно с этим они анонсировали проект Glasswing, названный в честь бабочки со с прозрачными крыльями, призванной символизировать прозрачность и нежность.

В рамках проекта Anthropic раздали куче американских компаний Mythos Preview и токенов на $100 млн. С одной стороны, добрые ребята, с другой — очень грамотный маркетинг.

Но реклама, похоже, все-таки побочный продукт здесь, а ребята из Anthropic реально задумались, что:

1️⃣ скорее всего, похожий ИИ-инструмент сейчас сделают ребята не из американской компании;
2️⃣ возможно, уже сделали и не рассказывают никому.

Пора ли высылать шпионов, чтобы на флешке выносить Mythos, без которого теперь невозможно будет киберзащищаться, потому что теперь кибербез — это ИИ против ИИ? Думаю, нет. Скорее всего, и на квенах можно будет нормальный скрининг организовать, если правильно собрать систему, и большую часть уязвимостей находить. Ну и ждем нового типа ПО, которое будет сопротивляться такому мощному брутфорсу. Например, с динамически изменяющимся исходным кодом. Сегодня есть эксплойт, завтра нет 😁

Кстати, у самих Anthropic тоже недавно мощно утекло. Модель сама ни на флешке, ни через торрент вынесена из компании не была, но куча доков, в том числе про неё, попали в открытый доступ. Следом группа веселых ребят в Дискорде нащупала URL, по которому можно было модельку заиспользовать. И дело не в софтверных эксплойтах было, а в человеческих косяках и недобросовестных контрагентах. А добрые дискордеры использовали модельку в основном для написания эротической прозы 🤷🏻