Anthropic создали нейросеть, которую боятся выпускать в мир — Claude Mythos Preview.

Сами разработчики называют её самой мощной моделью за всю историю компании и говорят, что по навыкам взлома она уже не уступает лучшим хакерам-людям.

На тестах Mythos нашла тысячи дыр в популярном софте — причём в каждой крупной операционке и каждом крупном браузере. Среди находок: баг в OpenBSD, который никто не замечал 27 лет, дыра в видеокодеке FFmpeg, пережившая 5 миллионов автоматических проверок, и несколько уязвимостей в ядре Linux, через которые можно получить полный контроль над чужим компьютером. В одном из тестов модель сама собрала рабочий взлом браузера, склеив сразу четыре уязвимости — раньше такое было под силу только топовым хакерам.

Самое странное: модель не обучали специально под взлом. Эти способности появились сами, как побочный эффект общего роста в программировании и логике. То есть Anthropic не пыталась сделать кибероружие — оно получилось случайно.

Поэтому в открытый доступ Mythos не выкладывают: боятся, что её скачают злоумышленники и устроят волну атак, которую защитники не смогут отбить. Один из обозревателей сравнил ситуацию с тем, как «дать школьникам ядерную бомбу».

Вместо публичного релиза модель раздали примерно 40 компаниям — Microsoft, Apple, Amazon, Nvidia, Cisco, CrowdStrike — в рамках программы Project Glasswing. Их задача — успеть залатать дыры в мировом софте до того, как похожие модели появятся у конкурентов и утекут в открытый доступ.

Это уже AGI? 👓