💻Новая модель изображений ChatGPT значительно упрощает подделку документов.

Новейшая модель изображений OpenAI позволяет создавать убедительные поддельные документы за считанные секунды, потенциально подавляя существующие системы безопасности, предоставляя любому человеку доступ к сложным инструментам подделки.

Хотя подделка документов всегда была возможна с использованием традиционного программного обеспечения для редактирования изображений, автоматизация AI кардинально меняет ситуацию. Вместо того, чтобы тратить часы на экспертную работу, теперь любой может создать убедительные поддельные документы за считанные секунды.

Потенциальный объем подделок, созданных AI, может перегрузить существующие системы проверки. Это становится особенно тревожным в ситуациях, когда организации выполняют только поверхностные проверки, такие как небольшие претензии на компенсацию, истории арендных платежей или первоначальные проверки заявлений о приеме на работу.

Текущие механизмы контроля в компаниях и государственных учреждениях могут дать сбой из-за огромного количества потенциальных подделок. Даже при постоянных показателях обнаружения, возросшее количество поддельных документов повышает вероятность того, что некоторые из них избегут обнаружения.

OpenAI встроил несколько функций безопасности для предотвращения несанкционированного использования. Каждое изображение, созданное GPT-4o, поставляется со специальными метаданными C2PA, которые отмечают его как сгенерированное AI.

Загвоздка в том, что любой, кто проверяет эти изображения, должен использовать специальный инструмент проверки, чтобы обнаружить эти метаданные. Кроме того, опытные пользователи могут найти способы удалить эти цифровые маркеры.