Вот очень интересное исследование: учёные научились делать реверс ижиниринг закрытых алгоритмов ИИ, то есть буквально воровать сложные алгоритмы из "чёрного ящика". Звучит сложно, сейчас объясню.

Есть закрытый алгоритм ИИ, которым можно пользоваться за деньги. Допустим, он распознаёт цифры в рукописном тексте и выдает ответ в формате "С достоверностью 0.65 это цифра 3". Вы покупаете доступ к алгоритму через API, скармливаете ему свой набор данных, а потом начинаете показывать данные по одному, записывать его ответы и искать в них закономерности с помощью машинного обучения. Оказалось, что всего после 650 ответов этот закрытый алгоритм можно практически полностью скопировать.

На Quartz эту схему хорошо объясняют с помощью аналогии. Обращение к API машинного обучения можно сравнить с перепиской с другом о моде. Вы спрашиваете: "Эта рубашка подходит к этим штанам?", ваш друг отвечает: "Да, на 100%", и так далее. Получив нескольких тысяч таких ответов, вы сможете обнаружить в ответах вашего друга закономерности - как он оценивает комбинации рубашек с брюками, любит ли шарфы, сколько цветов сразу считает нормальным надеть. Вы сможете полностью смоделировать модные предпочтения вашего друга. Аналогично можно скопировать алгоритмы ИИ, обращаясь к ним тысячи раз и находя в их ответах закономерности с помощью машинного обучения.

Угон закрытого алгоритма из "черного ящика" - звучит вообще круто, реально по киберпанку.

https://www.wired.com/2016/09/how-to-steal-an-ai/