Вот такую новость можно было прочитать на этой неделе. Что за ней стоит?

Один из видов атаки на ИИ с целью заставить выдавать фейковые выводы основанные на недостоверных данных — так называемое "отравление ИИ".

Заключается в том, что некие люди сознательно публикуют в Интернете фейковую информацию, чтобы ее подхватили алгоритмы, которые обучают ИИ на информации из Интернета.

Конкретно данный фейк начали специально обсуждать на reddit, чтобы придать "новости" иллюзию достоверности.

Как защитить себя от таких "новостей"?

1. Включайте "фильтры достоверности": проверяйте источники, даты, ссылки.
2. Если новость выглядит шокирующей, ее точно стоит проверить на достоверность.
3. Сделайте себе закладки — 2-3 авторитетных ресурса по каждой теме. Сверяйтесь с ними при сомнениях.
4. Не доверяйте ИИ слепо. ИИ — это просто инструмент. А влияют на него — люди.

О других видах атак на ИИ буду скоро рассказывать на лекции для преподавателей в СберУниверситете.

Хорошего вечера ❤️