😱 Чатботы все еще плохо отличают настоящие фото от созданных ИИ

Большинство популярных чатботов не могут надежно определить, создано ли изображение ИИ, даже если в файле есть данные о его происхождении. Это показал тест Brennan Center при Школе права Нью-Йоркского университета — проверяли ChatGPT, Claude, Gemini, Grok, Meta AI и Perplexity.

🖼 Сначала им показали сгенерированное Gemini изображение сотрудников почты. В файле были метаданные Google, а в углу — видимый знак сервиса. Четыре из шести чатботов приняли картинку за настоящую. ChatGPT и Perplexity даже заметили знак, но решили, что он не свидетельствует о генерации. Gemini прочитал метаданные, а Meta AI распознал ИИ по видимому знаку.

🖼 Затем проверили две картинки, созданные ChatGPT и содержащие метаданные OpenAI. Сам ChatGPT эти данные не прочитал.

🔍 Одно изображение он счел «с высокой вероятностью» настоящим, ориентируясь на тени, руки и дорожный знак. Grok назвал его реальным, Meta AI — настоящим фото, Claude предположил, что это стоковый снимок, а Perplexity не увидел явных признаков генерации.

🔍 Вторую картинку ChatGPT, Grok и Perplexity распознали как созданную ИИ — но по косвенным признакам, а не метаданным. Claude и Meta AI приняли ее за настоящую. Только Gemini во всех тестах проверял встроенные данные о происхождении файлов и определял, каким сервисом они были созданы.

🔄В сентябре исследователи повторили тест после вступления в силу калифорнийского закона об ИИ-прозрачности. Результат не изменился: метаданные по-прежнему проверял только Gemini.

📌 Т.о. реалистичное фото еще не значит настоящее, а ответ чатбота — не замена проверке первоисточника.

🟢 Подписывайтесь, будет интересно։ t.me/antiDote_tg