（来源：广东民生DV现场）

　　10月18日凌晨3时许

　　演员吴越在社交平台发文：

　　一觉醒来

　　谁在利用AI肆意抓人替自己作恶？

　　这位“花姐”你骗了多少人的钱？

　　请如数奉还！太恶劣！！！

　　吴越上述微博提到的AI视频中，一个名为“花姐”的账号，发布以“明星同款、吴越推荐”为由头推荐一款护肤品，称吴越为了回馈老粉丝，居然联合厂家给大家送福利。

　　音频为吴越的“声音”，“这个产品不是他们找我，是我找他们，因为我看了一些视频，哇我觉得有没有这么夸张啊，但是当我收到之后，效果是真的非常直观。“我都说今天我直接送，闭着眼睛用闭着眼睛囤，孕妇妈妈都能用。”

　　除吴越外，该视频最后还有“邓亚萍”相关“带货”画面。此外，在上述网络账号中，还发布了多条“乒乓球冠军邓亚萍推荐”等广告带货相关视频。

　　此条视频下方标注，“作者提示：含AI生成内容”。

　　据澎湃新闻报道，记者从微信团队了解到，目前账号已被永久封禁，内容清空不可见。

　　今年3月微信视频号曾发布关于加强AI生成内容治理的公告表示，平台已建立针对AI生成合成内容的常态化管控机制，对疑似AI生成合成内容添加标识提示，方便用户清晰辨识。

　　今年9月底，中央网信办印发通知，在全国范围内部署开展为期2个月的“清朗·整治短视频虚假人设乱象”专项行动。专项行动整治重点就包括通过AI合成虚假音视频等方式，假冒公众人物，实施虚假代言、营销等侵权违法行为。网信部门督促网站平台切实履行内容审核义务，不得借已标注虚构演绎、AI生成、营销、转载、个人观点等内容标签及无不良导向声明规避网络生态治理相关要求，从源头阻遏虚假人设类短视频的上传发布。

　　近两年

　　利用AI深度合成技术

　　对名人换脸换声制作的视频层出不穷、屡禁不止

　　除吴越之外

　　演员温峥嵘也曾表示

　　刷到盗用自己形象的AI直播间

　　她去质问却被对方瞬间拉黑

　　AI盗播乱象泛滥

　　连明星本人都难以自证身份，温峥嵘直言：

　　“我现在就很难证明我是我”

　　一张照片就能假冒明星带货

　　AI换脸的门槛究竟有多低？据蓝鲸新闻，记者近日实测了多款国内AI视频生成软件。

　　在一款主流AI视频工具中，记者上传一张外国男演员的公开照片，在提示词中写明其身份，要求生成一段“带货羽绒服” 的视频。点击生成后，系统弹出提示：“抱歉，由于版权限制，暂时无法创作对应的内容，请尝试修改。”

　　随后，记者删掉提示词中的明星姓名和身份描述，只保留画面要求和带货口播的内容，这一次，系统顺利生成视频。

　　这意味着，平台审核拦截的是“姓名”这一文字关键词，而非照片中的人脸本身。只要不写明对方身份，一张公开照片就足以让AI生成以该人物为主角的带货视频。

　　记者以消费者身份咨询发现，多家承接AI视频制作的店铺均表示支持 “明星换脸”。记者咨询多家店铺后发现，不同精度的视频给出的报价也不同。普通还原度的AI换脸视频，多数商家报价一分钟150元、半分钟75元。若要求“真人感还原人物形象、肖像特征，面部表情和动作更自然真实”，价格则涨到一分钟700元至1000元。

　　来源：@吴越、红星新闻、北京日报、信息时报、澎湃新闻、蓝鲸新闻，如有侵权请与本公众号联系。