只要 3 秒:AI 如何用社交平台上的视频克隆你的声音

AI 声音克隆只需要短视频里约三秒的说话声,就能生成一段几可乱真的假声音,然后打电话给你的家人。看懂这通诈骗电话怎么做出来、有哪些破绽,并用 Truvizy 免费检测可疑录音。

TL;DR

AI 声音克隆已经变成一个只需要三秒的问题。一条短视频、一条动态、一段被人标记的生日录像,里面干净的说话声就足够训练出一份合成的你,而随后打出去的那通诈骗电话,目标不是你,而是爱你的人。电话很短、情绪很急,专门设计成让一个人在两分钟之内做出反应:孩子出事了、老板催着转账、亲戚急需一笔保释金。真正管用的防线其实很朴素。挂断电话,用你手机里早就存着的号码回拨过去。今天就和家人约好一个暗号。收紧账号的可见范围。在任何人付钱之前,先把那段视频、留言或录音用 Truvizy 扫描一次。

电话在周二晚上 11 点 40 分打进来。是你女儿,哭着说出了事故,人在派出所,不能讲太久。接着一个语气平静的成年人接过电话,解释保释怎么办。那声音就是她的:音高、换气时的哽咽、连她叫你名字时习惯的省略都一模一样。而这一切,是用她三周前发的一条十九秒做菜视频拼出来的,她本人正在楼上睡觉。

社交平台上的 AI 声音克隆,已经不再是实验室里的演示,而是一通普通的电话。根据迈克菲发布的研究,大约三秒干净的音频就足以生成与原声高度接近的克隆,而几句话做出来的效果,多数亲人在惊慌之下根本分辨不出真假。根据美国联邦贸易委员会消费者哨兵数据年报,2024 年消费者举报的冒充身份类诈骗损失约为 $2.95B,这类电话正属于其中,而这还只是愿意报案的那一部分人。

最让人不舒服的一点是:没有任何东西被入侵、被窃取或被泄露。原材料就是你自己主动发出去的内容。

快速答案

什么是社交平台上的 AI 声音克隆

声音克隆,是指采集一小段真人说话的样本,生成一个合成模型,让它随时用那个声音说出任何内容,还能控制情绪。这项技术最初是为无障碍服务、影视配音和有声书朗读开发的。如今,同样的工具以及它们的免费复制品,已经成了冒充类诈骗的标准装备。

社交平台之所以是首选素材源,是因为那里的音频条件近乎完美。短视频通常是在安静的房间里、离麦克风几厘米的位置录的,说话人正对着手机,还会为了算法而刻意咬字清楚。一条做菜视频、一条健身打卡、一段毕业致辞、一段别人把你标记进去的婚礼致辞、一场直播、一条被转发进群聊的语音,甚至你的语音信箱问候语:每一样都是干净的训练集。公开账号可以被批量抓取,骗子要做的不过是搜一个名字。

这才是关键的转变,也是为什么这个威胁其实并不针对你本人。你的声音是原料,但目标是那个愿意为你放下一切的人。克隆声音很少被用来冒充你去骗银行,它是被用来冒充你,去骗你自己的母亲。

AI 声音克隆诈骗一步步是怎么做的

几乎每一起案子都走同样的五个阶段,而认出这个顺序,正是让人能在半路上把它掐断的关键。

  1. <strong>采集素材。</strong>一个公开账号被扒下所有带说话声的片段。三秒是下限,三十秒就很宽裕了。整个过程不会和被取声音的人有任何接触。
  2. <strong>梳理关系网。</strong>被标记的照片、生日祝福留言、关注列表和文案,会暴露出谁是父母、祖父母、伴侣和雇主。这张关系图决定了电话打给谁。
  3. <strong>编好剧本。</strong>被抓、车祸、住院、手机被偷、绑架,或者老板急着要一笔转账。台词很短,因为讲得越久,越可能被问到克隆声音答不上来的问题。
  4. <strong>拨出电话。</strong>来电显示会被伪装成本地号码或熟悉的号码。克隆声音只讲几句,语气慌乱急促,然后就把电话交给一个真人同伙,对方扮演警察、律师、护士或助理。
  5. <strong>快速榨取。</strong>付款方式一定是转账、购物卡、加密货币、支付软件,或者派人上门收现金,而且总会给你一个理由,让你既不能挂断,也不能打给别人。
一位长辈深夜坐在餐桌前接一通紧急电话,手里拿着记事本
一位长辈深夜坐在餐桌前接一通紧急电话,手里拿着记事本

暴露 AI 克隆声音的危险信号

下面任何一条出现,都足以让你结束这段对话,另外找渠道核实。

收到可疑的语音留言、视频或转发过来的录音?用 Truvizy 扫描一下,几秒钟就能免费拿到一个直白的结论。

深夜有人打来电话,声音和你儿子一模一样,说自己出了车祸,随即把电话递给一位律师,对方要求电汇一笔保释金。此时最有力的一步是什么?

  1. 向那位律师索要案件编号,核对无误就付款
  2. 挂断电话,用手机里早就存好的号码打给你儿子
  3. 继续通话,让对方多说,找出前后矛盾的地方
  4. 先转一小笔钱,看看这个说法站不站得住

Answer: 挂断之后用你早就存着的号码回拨过去,能彻底击穿整场骗局,因为克隆声音接不了那部真正的电话。案件编号是编出来的,继续通话恰恰是剧本需要的,而先转一小笔钱只会证明你既联系得上,也愿意给钱。

Truvizy 如何识别 AI 克隆声音诈骗

这类事情的决定,往往是在深夜、由一个受了惊吓的人、在大约九十秒内做出的。Truvizy 要补的正是这个缺口。把语音留言、视频,或者被转发进家庭群的那段录音上传到 truvizy.app,Truvizy 的 AI 智能检测会对音频以及随附的其他素材做多层分析,寻找合成生成在语音和画面里留下的痕迹,同时读取周围的消息内容,识别出定义冒充类诈骗的那几种模式:制造紧迫、要求保密、催促付款。

给出的结果是一句直白的结论,而不是一份技术报告,因为需要它的那个人正被人刻意催促着。Truvizy 可以免费试用,第一次扫描不需要注册账号,而在另一个选项是一笔电汇的时候,这一点很重要。你可以直接从 Truvizy 扫描器开始检测。想了解这类电话是怎么打出来的,可以看我们关于 AI 声音克隆诈骗的指南,那一篇详细讲了电话这一侧的运作机制。

接到克隆声音来电时该怎么做

请按这个顺序行动。头两步就能直接终结绝大多数这类电话。

挂断电话,用你早就存着的号码回拨。不是刚才打进来的那个号码,也不是对方念给你的号码,而是你手机通讯录里保存的联系人。如果打不通,就打给第二位家人。克隆声音接不起那部真正的手机。

要求对方说出家庭暗号。今天就约好一个,绝不发到任何平台上,并且要选一句任何关注者都猜不到的话。克隆复制的是声音,永远复制不了私密的共同记忆。我们关于家庭暗号的指南,讲了怎样选出一句真的经得起骗子考验的暗号。

不要转钱,也不要去买购物卡。没有任何警方、法院、医院或使领馆会接受购物卡、加密货币或上门收现金这样的付款方式。光是这个要求本身,答案就已经很清楚了。

在删除之前,先把证据全部保存下来。保留语音留言,记下号码、准确时间和被索要的金额,并把后续的每一条消息都截图。调查人员正是靠这些,才能把一通电话和一整个团伙连起来。

报案。在中国大陆,请向当地公安机关或公安机关网络安全保卫部门报案,并通过国家反诈中心渠道提交材料。在美国,可以向联邦调查局的 ic3.gov 和联邦贸易委员会的 reportfraud.ftc.gov 提交。针对老年人的诈骗报案率极低,而正是这些报案,才能把零散的电话汇成一个案子。

然后,减少可被采集的语音素材。把旧帖子改成仅好友可见,删掉那些几乎全是自己说话的公开视频,换掉用自己声音录的语音信箱问候语,并在骗子打过去之前,先和最可能接到电话的亲人打个招呼。

一家人坐在一起约定一句口头暗号,手机反扣在桌上
一家人坐在一起约定一句口头暗号,手机反扣在桌上

Key Takeaways

专业分析:声音克隆从新奇玩意变成大路货,就发生在样本需求降到几秒钟的那一刻,因为几乎每一个用社交平台的人,都早已公开发布过这个长度的音频。如今的成本结构鼓励走量,一段采集来的片段就能支撑打进同一个家庭关系网的几十通电话,这也正是 Truvizy 把它当作媒体核实问题、而不是电信问题来处理的原因。受害者手里真正握着的东西,是一条语音留言或一段被转发的录音,而这个文件可以在几秒钟内查清楚,赶在钱转出去之前,而不是之后。

常见问题

AI 需要多长的录音才能克隆一个人的声音?

大约三秒干净的说话声就足以做出一份可用的复制品,几句话就能做得相当逼真。根据迈克菲发布的研究,三秒钟的音频就能生成与原声高度相似的克隆声音。而一条短视频、一条动态或一段被标记的生日录像,通常都远远不止三秒。

骗子能用我发在抖音或社交平台上的视频克隆我的声音吗?

能。任何一段你说话清楚的公开视频都是训练素材,短视频平台尤其理想,因为录音音量大、离麦克风近、几乎没有背景噪音。播客、被转发到群里的微信语音条、直播回放、微博视频,甚至你的语音信箱问候语,效果都一样好。整个过程不需要任何账号被入侵。

Truvizy 能识别出 AI 克隆的声音吗?

可以。把那段视频、语音留言或被转发过来的录音上传到 truvizy.app,Truvizy 的 AI 智能检测会对音频以及随附的其他素材做多层分析,几秒钟就给出一个直白的结论。Truvizy 就是为接到电话的那一刻设计的:做决定的人只有两分钟,而且没有任何技术背景。

AI 声音诈骗有多普遍?受害者损失了多少钱?

根据美国联邦贸易委员会消费者哨兵数据年报,2024 年消费者举报的冒充身份类诈骗损失约为 $2.95B,这类电话正属于其中。迈克菲对 7000 名成年人的调查发现,四分之一的人自己遇到过或身边有人遇到过 AI 声音诈骗,其中大多数回应者都损失了钱。在中国,同类手法多以微信语音条和微博私信起步,公安部网络安全局也多次提示,接到亲友急用钱的语音或来电要先回拨核实。

什么是家庭暗号?它真的挡得住声音克隆吗?

它是一句只有你们家里人知道、从不发到任何平台上的短语。任何自称是家人的来电,都必须先说出这句话,然后才谈得上转钱或提供个人信息。它之所以有效,是因为克隆复制的是声音,而不是私密的共同记忆。选一个具体又猜不到的词,别用宠物名或街道名,并且要教会独居的长辈。

AI 声音克隆诈骗:那通电话是怎么打出来的 — 合成声音诈骗在电话这一侧的运作机制

家庭暗号:应对声音诈骗最有效的一道防线 — 如何选出一句真的经得起诈骗电话考验的暗号

社交平台冒充:当有人在网上变成了你 — 公开账号如何变成诈骗的原材料

FAQ

AI 需要多长的录音才能克隆一个人的声音?

大约三秒干净的说话声就足以做出一份可用的复制品,几句话就能做得相当逼真。根据迈克菲发布的研究,三秒钟的音频就能生成与原声高度相似的克隆声音。而一条短视频、一条动态或一段被标记的生日录像,通常都远远不止三秒。

骗子能用我发在抖音或社交平台上的视频克隆我的声音吗?

能。任何一段你说话清楚的公开视频都是训练素材,短视频平台尤其理想,因为录音音量大、离麦克风近、几乎没有背景噪音。播客、被转发到群里的微信语音条、直播回放、微博视频,甚至你的语音信箱问候语,效果都一样好。整个过程不需要任何账号被入侵。

Truvizy 能识别出 AI 克隆的声音吗?

可以。把那段视频、语音留言或被转发过来的录音上传到 truvizy.app,Truvizy 的 AI 智能检测会对音频以及随附的其他素材做多层分析,几秒钟就给出一个直白的结论。Truvizy 就是为接到电话的那一刻设计的:做决定的人只有两分钟,而且没有任何技术背景。

AI 声音诈骗有多普遍?受害者损失了多少钱?

根据美国联邦贸易委员会消费者哨兵数据年报,2024 年消费者举报的冒充身份类诈骗损失约为 $2.95B,这类电话正属于其中。迈克菲对 7000 名成年人的调查发现,四分之一的人自己遇到过或身边有人遇到过 AI 声音诈骗,其中大多数回应者都损失了钱。在中国,同类手法多以微信语音条和微博私信起步,公安部网络安全局也多次提示,接到亲友急用钱的语音或来电要先回拨核实。

什么是家庭暗号?它真的挡得住声音克隆吗?

它是一句只有你们家里人知道、从不发到任何平台上的短语。任何自称是家人的来电,都必须先说出这句话,然后才谈得上转钱或提供个人信息。它之所以有效,是因为克隆复制的是声音,而不是私密的共同记忆。选一个具体又猜不到的词,别用宠物名或街道名,并且要教会独居的长辈。