快科技10月19日消息，10月18日凌晨3点，知名演员吴越公开发声，质问有人利用AI伪造内容冒名带货、恶意敛财。
她写道：“一觉醒来，谁在利用AI肆意抓人替自己作恶？这位花姐你骗了多少人的钱？请如数奉还！太恶劣！”
经了解，涉事账号 “花姐”在微信视频号发布AI伪造带货视频，打着“明星同款、吴越推荐”的旗号推销护肤品，谎称吴越为回馈粉丝，主动对接厂家给粉丝送福利。
视频中视频使用AI合成的仿吴越语音，伪造其话术：“这个产品不是他们找我，是我找他们，因为我看了一些视频，哇我觉得有没有这么夸张啊，但是当我收到之后，效果是真的非常直观。我都说今天我直接送，闭着眼睛用闭着眼睛囤，孕妇妈妈都能用。”
除了吴越外，还出现了伪造邓亚萍带货的画面。
对此，媒体从微信团队处获悉，目前该涉事账号已被永久封禁，账号内容全部清空，无法查看。
今年3月微信视频号曾发布关于加强AI生成内容治理的公告表示，平台已建立针对AI生成合成内容的常态化管控机制，对疑似AI生成合成内容添加标识提示，方便用户清晰辨识。
【本文结束】如需转载请务必注明出处：快科技
责任编辑：秋白