数据时效：2026-08 方桃子没有真的眼睛。她在一段广告里用第一人称说，一款美瞳她戴了一天，都很舒服，还补了一句"做了高光定轴，眨眼不偏移"。方桃子是 AI 短剧《被裁掉的女孩》里的虚拟女主。8 月 6 日，这条广告视频从抖音主页下架，当地市场监管部门介入。美瞳属于第三类医疗器械，广告法禁止医疗器械用广告代言人作推荐或证明，律师说她涉嫌虚构使用体验，涉嫌违反广告法第二十八条。可 AI 算不算广告代言人，还没人能立刻回答。法律意义上的代言人是自然人、法人或其他组织，方桃子哪个都不算。
如果只是这一条，平台下架、商家挨罚，就成了。可方桃子只是近来露头的第一个。2025 年 8 月，有人用 AI 克隆全红婵的声音卖土鸡蛋，一个视频点赞约一万一千，商品链接显示卖出四万七千件，评论区很多粉丝以为就是她本人。民法典第一千零二十三条第一次在法条里明确保护一个人的声音，参照肖像的保护来用。可声音被偷走的人，往往要等视频火了才知道。
真人也被整个搬进广告。2025 年 11 月，北京协和医院临床营养科主任于康教授发现，自己被人用 AI 换脸、盗声，做成了推销"独家减肥食谱"的短视频。他说完全是我的形象，声音相似度完全超乎我的想象，让他后背发凉。记者实测，在手机里输入"北京协和医院、女医生、在诊室"，不到三十秒就能生成一段女医生推销减肥产品的视频，还能选择不添加 AI 生成字样。就算最后有人被追责，那种"看起来是真的医生"的东西，已经在无数人的手机里被当成真的。
到这一步，“相信"这个动作本身开始松动。我们判断一条信息，靠的是谁在说，以及那句话能不能核对。现在这两样，AI 都能批量生产。某些平台的生成工具直接造出"某高校教授"“国家实验室研究员"这种根本不存在的权威，推销纸尿裤和蛋白粉，导出时还会弹出一个"是否显示 AI 标识"的选项，选隐藏，就什么都不带。平台一边从生成工具里赚钱，一边把 AI 标识做成可选项，这是激励错位。
共同记忆也在被改写。过去记忆长在真实发生过的事上面；今天记忆可以被人用一句提示词召唤，被算法一帧帧渲染出来，再当成影像流通，让人当真。林黛玉倒拔垂杨柳、诸葛亮在直播间推荐商品，弹幕里飘着刘备和司马懿。我看到这几个画面，愣了一下，才想起林黛玉原本是在葬花。看到这些的孩子，以后想到他们，画面就是被改过的这一版。有媒体把这类内容叫"数字泔水”，话重了些，但点得准。历史被娱乐化，经典被庸俗化，连"我们共同记得什么"都被悄悄替换。
制度其实一直在追。《人工智能生成合成内容标识办法》2025 年 9 月施行，要求合成内容必须有显式标识，任何组织和个人不得恶意删除，不得为别人隐藏标识提供工具或服务。《直播电商监督管理办法》2026 年 2 月施行，第一次把数字人主播放进监管。它要求直播间持续向消费者提示人物画面是 AI 生成的，出了事仍由直播间运营者担责，虚拟形象不是护身符。条条都在堵。
有人会说，过渡期嘛，制度跟上来就好。可 2026 年 7 月仍有媒体实测到"隐藏 AI 标识"能被勾选，制度落一条，它换一个样子。我一度想，教会家里老人分辨不就好了，后来发现这想法太乐观。所以对"提高辨别力还是强化制度”，我偏制度。懂技术、有时间的人，辨别力还有点用；而对看着这些视频长大的孩子，和被"协和医生"配方打动、想转发给家人的老人，让他们去学怎么看真假，等于让最没资源的人去跑一场追不上的赛跑。真正能改的是造假者那一侧的激励，平台取消隐藏标识的选项，虚拟形象承担它该担的责任，对提供规避手段的一方从重处罚。
这也是为什么这件事不能只看成侵权案。著作权、肖像权，法律能一一作答；可"我们该信谁"，法律回答不了，只能靠制度先把门关紧。