温峥嵘直播喊冤，AI假明星骗钱，李梓萌成首案突破口
2020年江西有位女士遇到一个冒充靳东的账号，对方用AI技术把脸和声音做得特别像真人，她就相信了，转了几千块钱过去，银行发现有问题就报了警，当时没引起太多人注意，都以为只是个别情况，可到了2023年9月，又有人上当，还是那个“靳东”，这次是王先生的妈妈，被骗走二十多万，警方正式立案处理，说明这已经不是小事了。
就在去年八月，央视报道了有人用AI技术冒充全红婵的形象，在直播间里卖土鸡蛋和蜂蜜，其实全红婵的家人早在四月份就澄清过这件事，说根本没有这回事，但那些骗子根本不理，还是继续用她的脸直播卖货，到了11月5日，演员温峥嵘忍不住了，她连着开了三场直播，亲自对着镜头说“我是真的温峥嵘”，温峥嵘提到她的团队已经举报了五十多个假冒账号，其中二十个已经被封禁，她这么做其实是希望平台和公众都能正视这个问题——你的脸可以被别人随便拿去赚钱。
就在十一月，李梓萌也被人盯上，有人用AI技术复制她的样子，在直播间里推销一种号称能治百病的鱼油，海淀市场监管局查了之后发现全是假的，整个过程根本没有真人参与，这个案子成了全国首个因为伪造AI广告被刑事立案的案例，以前这种情况顶多算侵权，现在直接进入法律程序，有意思的是，骗子还敢打着“央视支持”的旗号，以为没人会查。
这条产业链的运作很清晰，上游有人从网上收集明星的视频、照片和语音，打包出售，一套三十元，中游使用开源软件例如Deepfake进行换脸，配上声音，调整动作，下游就利用这些虚拟形象做直播带货，销售食品、保健品、服装等商品，利润很高，更夸张的是，他们能同时让全红婵卖鸡蛋，靳东来求婚，温峥嵘推荐面膜，一个人分饰多个角色，批量操作。
温峥嵘最先开始直播来澄清谣言，她不仅直接说明视频里的人不是自己，还亲自出镜证明这就是本人，这个做法显得很聪明，也让人们开始思考自己的脸和声音到底归谁控制，后来靳东在两会期间提出意见，说观众因为被AI欺骗而离家出走，这已经不是开玩笑的事情，而是涉及犯罪问题，他的说法虽然语气很重，但确实点到了关键之处。
抖音在11月6号发布了新规定，专门处理那些假冒名人的内容，用户可以自己标记虚假账号，平台会冻结这些账号的资金并封禁它们，国务院年底也出台了文件，说要管理人工智能生成的内容，这是国家首次将这类问题正式纳入治理范围，执法方式也在更新，不再需要名人亲自出来澄清“不是我”，而是依靠技术手段，在直播过程中实时检测有没有使用人工智能合成形象。
不过有些灰色地带没人管，有些MCN公司知道是假账号还让它们挂在名下，说是在测试流量，反正没人真信，短视频平台的推荐机制也有问题，它会把你之前看过的明星片段再推送给你，结果你看到AI合成的脸，反而觉得这人我熟，更容易被骗，那些不太活跃的名人，比如老戏骨、奥运冠军或者主持人，最容易成为目标，因为他们平时很少更新内容，没法随时站出来说这事我没干。
这件事还在继续，没有人能完全阻止它，但大家开始明白人工智能不只是个玩的东西，它能用来赚钱，也能用来骗钱，温峥嵘曾经公开提醒过，李梓萌遇到了第一起案件，估计以后会有更多人出来说话，平台在调整规则，政府部门在想办法解决，而普通人下次看到熟悉的脸在直播间卖东西，先别着急下单，可以先问问自己这个是不是本人。