Anthropic выпустила очередной отчёт об угрозах и злоупотреблениях Claude. Отчёт очень мощный и весьма интересный: если они продолжат выпускать такие регулярно, это станет одним из любимых отчетов всей индустрии.

Пересказывать содержание не буду — его уже растащили везде, где только можно. Моё внимание привлекло другое: Anthropic, похоже, изобрели очередной велосипед в нашей любимой индустриальной дисциплине «как называть плохишей».

Группы обозначаются кодами вроде GTG-20006, GTG-17001 или GTG-34001. GTG — Generative Threat Groups, внутренние обозначения Anthropic для акторов, злоупотребляющих ИИ. Что же означают цифры, компания публично не объясняет.

Поэтому я поручил ИИ собрать все коды из отчётов, сопоставить их со странами, типом акторов и деятельностью и поискать закономерность.

Первая цифра, похоже, обозначает происхождение или географический класс актора:

1 — Китай
2 — Россия
3 — Иран
5 — все остальные: от французского рекламного агентства и малийского консультанта до русскоязычных киберпреступников
8 — похоже отдельная куча для Ближнего Востока и соседних акторов: ОАЭ, Турция, Йемен, иранская оппозиционная MEK.

Причём речь именно о принадлежности актора, а не о языке или географии конкретной операции.

Русскоязычные киберпреступники получили пятёрку, а вероятные российские разработчики автономного роя дронов — двойку. Иранские структуры стабильно получают тройку, тогда как MEK, несмотря на иранское происхождение, попадает в восьмую категорию — то есть, похоже, учитывается не только страна, но и тип актора.

Вторая цифра, судя по всему, описывает деятельность:

0 — кибер- и другие технические операции
4 — информационные операции и слежка
5 — мошенничество
6 — дистилляция моделей
7 — обычные вооружения.

Последние три цифры, вероятно, порядковый номер внутри категории. Тогда GTG-17001 читается как Китай / вооружения / №001, GTG-34001 — Иран / информационные операции / №001, GTG-16001 — Китай / дистилляция / №001, GTG-20006 — Россия / кибероперации / №006.

Номера идут с большими дырами: 50014, 50020, 50021, 50027, 50029; у дистилляции — 16001, 16002, 16005, 16006, 16008, 16012. Это очень похоже не на нумерацию кейсов конкретного отчёта, а на выборку из значительно большего внутреннего реестра.

То есть Anthropic, судя по всему, классифицирует обнаруженных у себя злоумышленников по внутренней матрице: происхождение или тип актора → характер деятельности → порядковый номер.
А опубликованные отчёты показывают нам лишь отдельные записи из значительно большего каталога GTG, который компания ведёт у себя внутри.

Картина получается почти образцовая: Китай, Россия, Иран, немного Ближнего Востока — и пятёрка для всех прочих. В развитых западных странах, судя по всему, злоупотреблениями ИИ почти никто не занимается: там, видимо, все белые и пушистые.

Хотя свободные цифры ещё остались — так что пространство для будущих открытий у Anthropic есть.

@gostev_future