Бюро продуктовых исследований в фемтехе и первое русскоязычное медиа о технологиях в сфере женского здоровья. Рассказываем о новинках, берем интервью у профессионалов индустрии, консультируем и публикуем вакансии
18+
Партнерство https://goo.su/dq6T
Post #3556
1.16K
👁 ИИ-фейки врачей — первый фреймворк
Привет! Меня зовут Ольга Титова, я работаю AI Product Manager, выступаю за безопасный и этичный подход к ИИ, и каждую неделю делюсь с подписчиками Femtech Force новостями из мира ИИ и здоровья.
Мы уже разбирали дипфейки врачей в соцсетях и то, как защищаться от них на индивидуальном уровне (всегда проверять первоисточники и помнить о критическом мышлении!). А недавно Американская медицинская ассоциация (AMA) назвала происходящее не просто «неприятным трендом», а «кризисом общественного здоровья», и впервые предложила системно взяться за эту проблему.
💥 Что произошло?
В конце апреля AMA — крупнейшее объединение врачей в США — выпустила первый комплексный документ-предложение о защите от дипфейков. Речь идет только о несанкционированной подделке, и граница определяется двум вещами: согласие (врач разрешил использовать свой образ) и честность (всем сказали, что это ИИ). Если нет одного из двух — это уже дипфейк.
Семь принципов фреймворка АМА
🔶 Личность врача — защищаемое право. Имя, изображение, голос и цифровые копии врача это не «передаваемый актив»; использовать их можно только с явного информированного согласия.
🔶 Запрет на вводящую в заблуждение имперсонацию. Любой ИИ-контент, выдающий себя за врача, особенно если он ложно приписывает доктору одобрение продукта, должен трактоваться как обман.
🔶 Согласие на создание аватара предполагает конкретные обстоятельства, в которых он будет использоваться, и может быть отозвано. Его нельзя «зашить» в общий договор: нужно указать цель, аудиторию и срок, и врач вправе отозвать его, если обстоятельства изменились.
🔶 Обязательная маркировка и прозрачность. Любой синтетический образ врача должен быть помечен понятным языком и цифровым водяным знаком, а пациента нужно предупредить заранее, до взаимодействия с синтетическим «специалистом».
🔶 Разделённая ответственность. Отвечают не только врачи, но и платформы, больницы и ИИ-вендоры (через быстрое удаление контента, заметную маркировку и запрет на использование профессиональных титулов).
🔶 Правоприменение и реальные механизмы защиты. У врача должны быть рабочие процедуры, чтобы зафиксировать нарушение и добиться удаления; учреждения обязаны хранить логи и содействовать расследованиям, а у федеральных органов — полномочия применять закон.
🔶 Минимум бюрократии. Защита должна работать без лишней нагрузки на врача: процедуры — быть стандартизированными и переиспользуемыми.
Мне особенно близок последний пункт. В прошлый раз я писала, что фейки висят неделями именно потому, что модерация их не ловит, и тут логика та же: ответственность нельзя оставлять на враче, который случайно наткнулся на собственный дипфейк. Это должно регулироваться контент-платформами.
💥 Что дальше?
Это пока лишь рекомендации, а не закон, и предложены они только в одной стране; ни законопроектов, ни сроков AMA не анонсировала. Но мне кажется важным уже сам сдвиг: главная врачебная ассоциация США, страны, откуда родом самые крупные AI-провайдеры перевела разговор из плоскости «как мне распознать фейк» в «кто вообще за это отвечает». И отвечать, по их логике, должен не тот, кого подделали, а те, кто на этом зарабатывает.
@FemtechForce — о технологиях для здоровья женщин
Текст подготовила #ОльгаТитова
Привет! Меня зовут Ольга Титова, я работаю AI Product Manager, выступаю за безопасный и этичный подход к ИИ, и каждую неделю делюсь с подписчиками Femtech Force новостями из мира ИИ и здоровья.
Мы уже разбирали дипфейки врачей в соцсетях и то, как защищаться от них на индивидуальном уровне (всегда проверять первоисточники и помнить о критическом мышлении!). А недавно Американская медицинская ассоциация (AMA) назвала происходящее не просто «неприятным трендом», а «кризисом общественного здоровья», и впервые предложила системно взяться за эту проблему.
💥 Что произошло?
В конце апреля AMA — крупнейшее объединение врачей в США — выпустила первый комплексный документ-предложение о защите от дипфейков. Речь идет только о несанкционированной подделке, и граница определяется двум вещами: согласие (врач разрешил использовать свой образ) и честность (всем сказали, что это ИИ). Если нет одного из двух — это уже дипфейк.
Семь принципов фреймворка АМА
🔶 Личность врача — защищаемое право. Имя, изображение, голос и цифровые копии врача это не «передаваемый актив»; использовать их можно только с явного информированного согласия.
🔶 Запрет на вводящую в заблуждение имперсонацию. Любой ИИ-контент, выдающий себя за врача, особенно если он ложно приписывает доктору одобрение продукта, должен трактоваться как обман.
🔶 Согласие на создание аватара предполагает конкретные обстоятельства, в которых он будет использоваться, и может быть отозвано. Его нельзя «зашить» в общий договор: нужно указать цель, аудиторию и срок, и врач вправе отозвать его, если обстоятельства изменились.
🔶 Обязательная маркировка и прозрачность. Любой синтетический образ врача должен быть помечен понятным языком и цифровым водяным знаком, а пациента нужно предупредить заранее, до взаимодействия с синтетическим «специалистом».
🔶 Разделённая ответственность. Отвечают не только врачи, но и платформы, больницы и ИИ-вендоры (через быстрое удаление контента, заметную маркировку и запрет на использование профессиональных титулов).
🔶 Правоприменение и реальные механизмы защиты. У врача должны быть рабочие процедуры, чтобы зафиксировать нарушение и добиться удаления; учреждения обязаны хранить логи и содействовать расследованиям, а у федеральных органов — полномочия применять закон.
🔶 Минимум бюрократии. Защита должна работать без лишней нагрузки на врача: процедуры — быть стандартизированными и переиспользуемыми.
Мне особенно близок последний пункт. В прошлый раз я писала, что фейки висят неделями именно потому, что модерация их не ловит, и тут логика та же: ответственность нельзя оставлять на враче, который случайно наткнулся на собственный дипфейк. Это должно регулироваться контент-платформами.
💥 Что дальше?
Это пока лишь рекомендации, а не закон, и предложены они только в одной стране; ни законопроектов, ни сроков AMA не анонсировала. Но мне кажется важным уже сам сдвиг: главная врачебная ассоциация США, страны, откуда родом самые крупные AI-провайдеры перевела разговор из плоскости «как мне распознать фейк» в «кто вообще за это отвечает». И отвечать, по их логике, должен не тот, кого подделали, а те, кто на этом зарабатывает.
@FemtechForce — о технологиях для здоровья женщин
Текст подготовила #ОльгаТитова
- 🔥 8
- ❤ 6
- 👍 2
- 🤯 2
