Широкое внедрение генеративного ИИ в прошлом сопровождалось потоком вводящего в заблуждение контента в Интернете

Стремясь восстановить целостность цифровой информации, Национальный центр кибербезопасности Великобритании и Канадский центр кибербезопасности опубликовали новый отчёт о природе происхождения общедоступных материалов.

Как отмечается в тексте, для укрепления доверия внешней аудитории организациям необходимо тщательнее подходить к вопросу прозрачности происхождения данных. И такие усилия в отрасли предпринимаются. Например, была основана структура Coalition for Content Provenance and Authenticity, которая пользуется поддержкой генеративного ИИ и крупных техкомпаний, таких как Google, OpenAI и Microsoft.

В настоящее время существует потребность в совместимых стандартах для различных типов медиа, включая видео, изображения и текстовые документы. Несмотря на наличие технологий определения происхождения контента, эта область остаётся незрелой. Ключевыми среди них являются доверенные временные метки и криптографически защищённые метаданные, помогающие подтвердить, что материалы не были подделаны. Однако существуют проблемы, связанные с их разработкой, включая способы и сроки внедрения.

🫡 — важно, что такие стандарты разрабатываются
🗿 — технологии всё сложнее, а простому пользователю разобраться все труднее