9月22日，央视集中披露多起AI换脸、声音合成被滥用案件。如今不仅照片能造假，视频聊天、语音通话、网红带货同样可以被AI伪造。
杭州两名男子利用他人身份证照片生成动态人脸视频，再配合虚拟相机绕过平台眨眼、点头等活体认证，非法登录近30个购物账号，窃取收货地址、购物车等个人信息。
两人还用AI制作虚假活体视频，违规认证20个账号后出售牟利，违法所得共5857元。
因侵权时间较短，案发后停止侵权、退还违法所得并认罪认罚，检察机关对两人作出刑事不起诉决定。2025年9月4日，杭州中院判令两人公开赔礼道歉，并支付5857元公益损害赔偿金。
AI换脸还被用于网恋诈骗。
山东一名已婚女子利用AI换脸、语音合成和伪造身份证，把自己包装成20多岁的“白富美”，与一名男子维持6年网恋。
2024年11月起，她以还债、看病、创业买手机等理由不断索要钱财，半年左右骗走13万余元。为了让对方相信自己有还款能力，她还用AI合成虚假录音，编造即将获得60万元拆迁款。
法院最终以诈骗罪判处其有期徒刑三年、缓刑四年，并处罚金2万元。
网红带货同样出现AI冒充。
杭州一名拥有159万粉丝的美妆博主发现，一家公司未经授权抓取她的视频和直播素材，通过AI换脸、声音合成等方式，批量制作30多条虚假带货视频，让消费者误以为是博主本人亲自推荐产品。
法院认定该公司构成肖像权侵权，判赔经济损失及维权费用1.5万元、精神损害赔偿5000元，并要求公开道歉不少于30日。
从盗账号、骗网恋到冒充网红带货，AI换脸已经不只是简单恶搞。视频里“本人出镜”、电话里“本人说话”，都可能被技术伪造，单靠看脸、听声音已经很难判断真假。