凌晨三点十八分，演员吴越发了一条微博。
她刷到自己在一瓶39元的精华液旁边，"亲口"说这个产品是她主动选择的。
脸是她的，声音是她的，口型不是。视频角落有一行小字：本视频内容包含AI生成。
她喊话的第二天，那个叫"花姐美肤日记"的账号被封了。
但在她发微博之前，这条视频挂在那里，正常卖货，正常收款。
同一段视频里，还有"邓亚萍"和"海清"，话术一模一样。
这不是恶作剧，是一条跑通了的生意。
做这条生意需要什么？电商平台上，换脸服务报价十几元到几百元。一张照片换脸，一段语音克隆声音。
素材从哪来？你发在朋友圈的自拍，你发在群里的语音，你随手拍的那条短视频。
你晒出来的每一张脸，都是别人的免费原料。
你以为名人的脸才值钱。恰恰相反，名人的脸被冒用，有几亿人帮她盯着。
你的脸被拿走，没人知道，包括你自己。
拿你的脸能干的事，比卖39元的精华液狠得多。
2023年4月20日中午，福州的郭先生收到"好友"的微信视频。
屏幕里是熟人的脸，说话的声音也一模一样。对方说朋友在外地投标，要430万保证金，借他的公户走一下账，还发来了转账截图。
11点49分，郭先生分两笔转出430万。
他后来跟警方说：视频里看到了脸，也听到了声音，所以放松了戒备。
十分钟后他给好友发微信：事办好了。
好友回了一个问号。
警方紧急止付，拦回336.84万。剩下93.16万，已经被转移，还在追。
骗他的那张脸，是AI换的。那个声音，是AI克隆的。
那张脸的原料，可能就是某个人随手发的几条视频、几段语音。
说句扎心的：郭先生不是输给了技术，是输给了"眼见为实"这四个字。
我们从小被教，看人脸、听人声，就不会错。AI把这条老经验直接作废了。
骗子也不跟你讲逻辑，他跟你抢时间。急用、马上截止、先转后说。人一被时间推着走，脑子是不上班的。
再看法律这边，账其实算得很清楚。
民法典写得明白：任何人不得利用信息技术手段伪造他人肖像；对声音的保护，参照肖像权。
今年9月，最高人民法院发布涉人工智能纠纷案件的意见：未经同意，用你的声音做训练、模仿你的音色生成能认出是你的合成人声，侵害声音权益；用AI仿冒带货构成欺诈的，买家可以主张退一赔三。
判决已经在落地。北京互联网法院一起AI合成声音带货案，判赔12万；上海一家法院今年9月判的AI合成语音案，判赔5万。
拿假脸假声音去骗钱，就是刑事案子。之前假冒"靳东"骗中老年女性的案子里，8个人以诈骗罪被提起公诉。
规则有了，判决有了，但我得说句实话：维权的速度，追不上造假的速度。
被冒用的人要取证、公证、起诉，一走几个月；造假的人十几块钱、几分钟。
所以真正管用的，还是你在转账之前多打的那一个电话。
我在家里只立了一条规矩：凡是屏幕里的人提到钱，挂断，用通讯录里存的老号码回拨过去。视频不算身份，回拨才算。
转账截图更别信。钱到没到，只看你自己银行App里那一行入账，别的都是图。
再笨一点的招：跟家里人约一个只有你们知道的问题。答不上来，就当是假的。
还有，少在公开平台发高清正脸视频和长语音。你的脸是你的门钥匙，别到处复印。
万一已经中招：先打110和96110，马上联系银行申请止付，前半小时是黄金时间；同时把那条视频录屏、存链接、存订单号，这些是证据。
做了17年律师，我头一回觉得，"眼见为实"这四个字需要重新教一遍。
以后屏幕里那张熟脸再跟你提钱，先把视频挂了。
你挂掉的那一秒，可能就是430万里被拦回来的那336万。
左锋律师
北京策略（南京）律师事务所优秀合伙人，1996年毕业于河海大学计算机系，兼具计算机技术与法律实务双重背景，执业17年来深耕民商事纠纷解决与刑事辩护领域。目前担任江苏省律师协会会员服务委委员、南京律师协会人工智能委委员秘书长、南京市鼓楼区律师协会婚姻家事委委员，策略律师事务所全国数字经济专业委员会副主任。
本文基于本人办理或研究的案件撰写，已作化名与脱敏处理；全文首发于公众号「锋律堂」。不构成对其他案件结果的承诺。