Господа и дамы .. вот видели ли вы мапу, которая позволила бы понять, с чего можно начать своё развитие в AI Security, и куда вообще двигаться. Я облазил все ветки интернета и к сожалению, цельной карты я не увидел... Я столкнулся с тем, что нету чего-то структурированного по этой теме. Но вот несколько часов назад пришла идея собрать все свои сохранёнки + некий опыт добычи информации по этой теме и структурировать в один PDF.

Зачем ?

В первую очередь будет полезно тем, кто хочет вкатится в это дело, но не шерстить миллиард статьей на медиуме про prompt injection... Чтобы человек сразу понял куда ему стоит пойти в самом начале, какие вообще вектора атак могут существовать и где он может попрактиковаться . У нас в ИБ уже есть множество похожих карт. Думаю сами встречали карты по форензике или по пентесту AD.


Карта, которую я нарисовал в фигме до безумия проста, я поделил всё на несколько уровней - от того, что прям надо знать знать, до того где практиковаться (да не совсем наверное логичное построение уровней). И да, я жду ваших комментов о том, что можно было бы добавить туда... Особенно от ребят, которые занимаются разработкой того самого машинного обучения...Более того, по некоторым терминам вы можете кликнуть и перейти по ссылке чтобы детально ознакомится с этим ( пока что не на всё я сделал ссылки, да. Сложность тут ещё в том, чтобы найти хороший материал)

И конечно же сразу прошу прощение у моей русскоязычной аудитории - дело в том, что некоторые термины сложно перевести на русский, а если вы потом начнёте гуглить по переведённым терминам, то также будете разочарованы - поэтому вся карта на нашем втором родном - английском.

Также, хочу вас в этот раз попросить сделать репост, мне важен фидбек по этой теме и важно чтобы было привлечено максимально большое количество людей...

ПДФ и png будут ниже.

upd: git link