
一半人分不清视频通话对面是不是真人:电商的信任成本要重算了
一个新发布的实时对话模型在一分钟视频通话里让近半数参与者误以为是真人,而上一代系统的这一比例只有百分之二点四。视频通话一直是最后一道身份核验手段,这道防线正在失效。拆清楚数字的前提与跳变幅度,给出电商场景下风控该改的地方和真正可用的正向场景。
设想这样一个场景:你的客服接到一通视频电话,对方自称是合作了三年的供应商负责人,要求把一批货的发运地址改到新仓库。画面里的人你见过,声音你听过,他还能顺手把新合同举到摄像头前给你看。你会改吗?
大多数人会改。因为「开个视频」在过去几年里一直是成本最低、可信度最高的核验方式——直到最近出现的一组测试结果,把这条常识的可靠性打了个问号。
一通一分钟的电话,二十六个人以为对面是人
测试的设计很简单。参与者被告知将与另一位参与者进行一次一分钟的视频通话,聊一聊接下来的计划。对面的人会听、会笑、会在你把东西举到镜头前时做出反应,也能接话。通话结束后,参与者才被问到:你觉得对方是真人吗?
五十四个人里,有二十六个人说是。而对面是一个模型驱动的实时对话系统。
同一套流程用在上一代系统上时,四十一个人里只有一个人被骗,比例是百分之二点四。从百分之二到接近一半,只用了一代。
在另一个由芯片厂商研究者建立的实时双向视频对话基准上,这个系统的生成质量得分是三点八三,人类参考分是三点九二,次优系统是二点八零。差距已经小到「同一档次」的程度。
数字背后的前提:样本很小,但跳变很大
必须先把这份测试的可信边界说清楚,否则很容易得出错误结论。
- 样本只有五十四人。 这是个小数,统计波动大。
- 通话只有一分钟。 时间越长,破绽越多;对方越警惕,越容易发现异常。
- 由发布方自己组织。 没有第三方独立复现,方法的细节披露也有限。
- 结果是接近五五开,不是压倒性。 一半人分不清,也意味着另一半人分清了。
所以严谨的说法是:在发布方设定的这个实验条件下,约一半的参与者未能识别出对面是模型。不能外推成「在日常使用中所有人都分不清」。
但这恰恰是最值得警惕的地方。百分之五十这个数字的意义不在绝对高低,而在于它第一次把「猜对」拉到了接近随机的概率水平。当人的判断力退化到和抛硬币差不多,就意味着「用眼睛确认」这件事在统计上已经不构成有效防线了。而百分之二到百分之四十八的跨代跳变说明:这不是缓慢演进,是一步跨过去的。
发布方自己的态度也值得注意。它没有立刻对外销售这个模型,只向筛选过的测试者开放一个轻量研究预览版,并明确表示需要补全安全对齐和身份披露功能之后才会正式发布。一家公司主动按住一个刚做出成绩的模型,本身就是对风险最直白的说明。
从流水线到全双工:为什么这一代不一样
要理解跳变为什么这么大,得看架构。
过去主流的实时数字人是一条流水线:先把语音转成文字,交给语言模型生成回答,再由语音合成和形象渲染输出画面。这条链路有个天然缺陷——必须等你说完才能开始回应,像对讲机。人在真实对话里的抢话、重叠、点头附和、边听边反应,它全都做不到。
新一代的做法是把感知和生成拆成两个并行运转的部分:一个持续对话建模引擎不断接收你的音视频信号,以亚秒级的间隔重新判断该保持安静、点头、附和、接话还是让话;另一个视听生成引擎把这些控制信号同步转成声音和画面。你还在说话的时候,它已经在反应了。
技术细节上有两处关键突破。语音侧用了新的编解码方案,能把高采样率音频压到极小的数据量,从而让声音在句子还没生成完时就开始播放,并且只用大约十秒的音频样本就能完成声音克隆。视频侧则是从大型扩散模型蒸馏而来,以三百二十毫秒为单位生成高清画面,逐像素生成整个场景——不只是换脸,连人物坐的椅子和投下的影子都是算出来的。
这解释了为什么它能做流水线做不到的事:教人拧魔方时会在对方卡住的瞬间等待;玩模仿游戏时能抓到对方跳过了关键词;指导焊接时会在该开口的时机说话,而不是等房间安静下来。这些行为依赖的是时机和「看见」,而不是一句完整的话。
视频通话为什么一直是最后的信任锚点
在文字和语音先后被攻破之后,视频是最后一个人们还愿意相信自己的眼睛的通道。
- 文字层面,早在二〇二五年就有研究发现,在要求扮演特定人格的条件下,人们有百分之七十三的概率把某个模型当成人类。
- 语音克隆早已进入诈骗实战,成本被压得很低。
- 视频因为需要实时渲染、需要应对互动、需要连贯的动作,一直是难度最高的一关。
于是「开个摄像头」「我们视频确认一下」成了家庭和企业里默认的安全动作。风控流程、招聘面试、远程开户、供应商初次接洽,很多环节把视频通话写进了标准操作。
现在这一环松动了。而且松动的不是预先制作好的换脸视频——那类东西早已有之,也能靠动作指令验证——而是实时、可打断、能回应你举起的纸质文件的双向对话。
风控要改的地方:别再用「开摄像头」当核验
对电商和依赖远程信任的行业来说,下面几条是务实的调整方向。
- 把「见面」降级为「辅助信息」。 视频通话可以保留在流程里,但不能再作为唯一或决定性的核验依据。涉及改收款账户、改发运地址、变更合同主体、大额付款的操作,一律走独立渠道二次确认。
- 引入动作挑战。 让对方做一组随机指定的动作——侧头、遮挡半张脸、快速变换光照、按指令举起指定物品。这类挑战针对的是实时生成的弱点,比静态观察有效得多。
- 关键变更走「回拨 + 独立号码」。 不要用对方在通话里给你的联系方式回拨,用你系统里存档的号码主动打回去。这条规则老套,但至今仍是拦截此类诈骗最有效的手段。
- 对高价值操作设置冷静期。 给涉及资金和权限的变更强制留出等待窗口,并用另一条通道通知第二个人。多数此类诈骗依赖的是「紧迫感」。
- 更新内部话术与授权清单。 明确告知一线员工:视频里看到熟人不等于身份已核验,并把「哪些操作必须走二次确认」写成可执行的清单。
正向用法:哪些环节真的能用
技术本身是中性的,风险之外也有实打实的收益,关键在于用在什么环节、是否披露。
- 标准化售前答疑。 产品参数、库存状态、发运时效这类高频且答案固定的问题,用实时数字人承接可以显著降低响应延迟,并且能随时打断、随时追问,体验比传统按键菜单好得多。
- 售后问题定位。 让客户把故障部位举到镜头前,由系统实时识别并给出排查步骤——这类「看见并指导」的场景正是新一代架构的强项。
- 面试与培训演练。 用于内部培训的话术对练、新客服的上岗模拟,成本低且可无限重复。
- 跨时区接待。 用本地化形象和语言承接非工作时段的咨询。
但有一条底线不能破:必须显式披露对方是模型。发布方把「身份披露功能」列为正式发布的前置条件,不是客气话。未经披露的拟人化交互一旦被客户发现,损失的是整个品牌的信任基础。
现在就该做的四件事
第一,把你业务流程里所有把「视频通话」当作核验手段的环节列出来,逐一标注风险等级。第二,给涉及资金、权限、地址、账户的四类变更加上独立渠道二次确认,今天就加。第三,设计一组适合你业务的随机动作挑战,写进标准话术。第四,如果你打算引入实时数字人做客服,先定好披露方案——在页面上、在开场白里、在通话界面上都要有明确标识。
一分钟的通话能骗过一半人这件事,真正改变的不是技术格局,是成本结构:过去你要伪造一个人的实时形象,成本极高;现在它变成了一项可采购的服务。当伪造成本从「做不到」变成「花多少钱」,所有依赖视觉确认的流程都得重新定价。这件事不该等到第一起事故发生在自己身上才开始做。
适合谁:做直播与视频客服的电商团队、依赖视频核验身份的商家、需要对接客户的高客单价行业从业者



