Как обмануть ИИ, не будучи хакером

🤖 Искусственный интеллект кажется умным и всевидящим, но на деле его можно довольно легко запутать. И для этого не нужна математика или доступ к серверам.

💱 Самый известный трюк — т.н. adversarial-атаки. Это когда данные слегка меняют так, что человек ничего не замечает, а нейросеть сходит с ума.

Классика: на фото стоп-знака наклеивают несколько полосок — водитель видит «STOP», а ИИ в автопилоте вдруг думает, что это знак ограничения скорости.

Или другой пример: добавляем незаметный шум к изображению кота — и нейросеть уверенно заявляет, что это… тостер.

🔄 Иногда достаточно изменить всего пару пикселей, чтобы модель ошиблась на 100%.

⚙️ Почему так? ИИ не «понимает» мир, как мы. Он ищет паттерны, последовательности, которым его научили. Сломал паттерн — сломал результат.

🫖 Так что да, ИИ умный. Но его нужно не только обучать, но и защищать.

#матчасть

@digitaltea | про IT доступно