👁 ИИ-фейки врачей — первый фреймворк

Привет! Меня зовут Ольга Титова, я работаю AI Product Manager, выступаю за безопасный и этичный подход к ИИ, и каждую неделю делюсь с подписчиками Femtech Force новостями из мира ИИ и здоровья.

Мы уже разбирали дипфейки врачей в соцсетях и то, как защищаться от них на индивидуальном уровне (всегда проверять первоисточники и помнить о критическом мышлении!). А недавно Американская медицинская ассоциация (AMA) назвала происходящее не просто «неприятным трендом», а «кризисом общественного здоровья», и впервые предложила системно взяться за эту проблему.

💥 Что произошло?

В конце апреля AMA — крупнейшее объединение врачей в США — выпустила первый комплексный документ-предложение о защите от дипфейков. Речь идет только о несанкционированной подделке, и граница определяется двум вещами: согласие (врач разрешил использовать свой образ) и честность (всем сказали, что это ИИ). Если нет одного из двух — это уже дипфейк.

Семь принципов фреймворка АМА

🔶 Личность врача — защищаемое право. Имя, изображение, голос и цифровые копии врача это не «передаваемый актив»; использовать их можно только с явного информированного согласия.

🔶 Запрет на вводящую в заблуждение имперсонацию. Любой ИИ-контент, выдающий себя за врача, особенно если он ложно приписывает доктору одобрение продукта, должен трактоваться как обман.

🔶 Согласие на создание аватара предполагает конкретные обстоятельства, в которых он будет использоваться, и может быть отозвано. Его нельзя «зашить» в общий договор: нужно указать цель, аудиторию и срок, и врач вправе отозвать его, если обстоятельства изменились.

🔶 Обязательная маркировка и прозрачность. Любой синтетический образ врача должен быть помечен понятным языком и цифровым водяным знаком, а пациента нужно предупредить заранее, до взаимодействия с синтетическим «специалистом».

🔶 Разделённая ответственность. Отвечают не только врачи, но и платформы, больницы и ИИ-вендоры (через быстрое удаление контента, заметную маркировку и запрет на использование профессиональных титулов).

🔶 Правоприменение и реальные механизмы защиты. У врача должны быть рабочие процедуры, чтобы зафиксировать нарушение и добиться удаления; учреждения обязаны хранить логи и содействовать расследованиям, а у федеральных органов — полномочия применять закон.

🔶 Минимум бюрократии. Защита должна работать без лишней нагрузки на врача: процедуры — быть стандартизированными и переиспользуемыми.

Мне особенно близок последний пункт. В прошлый раз я писала, что фейки висят неделями именно потому, что модерация их не ловит, и тут логика та же: ответственность нельзя оставлять на враче, который случайно наткнулся на собственный дипфейк. Это должно регулироваться контент-платформами.

💥 Что дальше?

Это пока лишь рекомендации, а не закон, и предложены они только в одной стране; ни законопроектов, ни сроков AMA не анонсировала. Но мне кажется важным уже сам сдвиг: главная врачебная ассоциация США, страны, откуда родом самые крупные AI-провайдеры перевела разговор из плоскости «как мне распознать фейк» в «кто вообще за это отвечает». И отвечать, по их логике, должен не тот, кого подделали, а те, кто на этом зарабатывает.

@FemtechForce — о технологиях для здоровья женщин

Текст подготовила #ОльгаТитова