Нейрослоповый мир победил

ИИ выдал доступ к аккаунту Обамы с помощью ИИ видео.

На этой неделе сотни пользователей экстремистской Instagram лишились доступа к своим аккаунтам, включая владельцев редких однобуквенных и двухбуквенных имен. Под удар попала также учётная запись бывшего президента США.

Злоумышмышленники просто обманули ИИ-поддержку запрещенной Meta, заставив её поверить, что именно они являются законными владельцами.

Для этого достаточно было взять фото жертвы из профиля, превратить его в анимированное видео с помощью нейросети и загрузить вместо живого селфи. По словам исследователей, ИИ не смог отличить подделку от реальности и менял привязанную почту, а также обходил двухфакторную аутентификацию.

Невероятно мудрое решение дать ИИ боту такие полномочия. Просто нет слов, что ее тут добавить.

НеКасперский