骗子正在利用人工智能技术诈骗，如何做好防范？

今年早些时候，微软亮相了一个新的人工智能（AI）系统，该系统在听完某个人讲话后只需三秒钟就能重现他/她的声音。

这个迹象表明，人工智能可以多么迅速地复制某人身份的关键部分，并能令人信服。

今年3月，《卫报》澳大利亚版记者尼克·伊夫赛德（Nick Evershed）说，他使用人工智能做出自己的声音，进入了他的Centrelink自助服务账户，这引起了一些安全专家的关注。

虽然语音克隆可以被骗子利用，但这并不是专家看到骗子利用人工智能的唯一方式。

让我们来看看这项技术是如何被使用的，以及如何最好地保护自己。

01

人工智能可以复制任何人的声音

《卫报》的调查表明，Centrelink和澳大利亚税务局（ATO）使用的“声纹”安全系统其实可以被欺骗——该系统使用了“在澳大利亚，我的声音可以识别我”这句话。

这感觉就像1992年电影《通天神偷》（Sneakers）中的场景，当时罗伯特·雷德福（Robert Redford）扮演的角色使用某人的声音录音通过安检。

在其2021-22年度报告中，澳大利亚服务局（Services Australia）表示，语音生物识别技术已被用于验证每天超过56,000个电话以及39%的呼叫Centrelink的主要业务号码。它还说，声纹“与指纹一样安全”。

澳大利亚税务局说，“其他人很难模仿你的声纹并获取你的个人信息”。

皇家墨尔本理工大学信息科学教授丽莎·吉文（Lisa Given）博士说，人工智能生成的声音也会让人们相信他们是在与自己认识的人交谈。

“当一个系统可以合理地复制我的声音，并且还加入了同情心，你可以想象，一个骗子可以从发送短信说‘嘿，妈妈，我的手机丢了’，到打电话或发送语音邮件，实际上试图造出那个人的声音，”她说。

上个月，美国联邦贸易委员会警告消费者关于使用人工智能生成的声音仿冒家庭成员紧急电话的情况。联邦调查局也发出了关于虚拟绑架骗局的警告。

这些担忧促使专家们提出了一些基本策略，人们可以用这些策略来保护自己免受仿冒语音的影响：

直接给朋友或家人打电话核实他们的身份，或者想出一个验证词在电话里说，以确认真正的紧急情况。对突如其来的电话保持警惕，即使是来自你认识的人，因为来电显示的号码可能是伪造的。如果有人要求你分享个人身份信息，如你的地址、出生日期或名字，要小心。网络安全软件公司Gen Digital的亚太区董事总经理马克·高丽（Mark Gorrie）说，人工智能语音生成器在欺骗人和安全系统方面会越来越强。

“许多年来，仅凭声音就能轻易发现‘机器人骗局’，”他说，“但基于声音的人工智能将变得更像，显然它使用的文本也会更像。”

人工智能系统也越来越多地用于识别基于人工智能的骗局。

02

骗子用人工智能生成的文本和虚假产品评论愚弄人们

随着人工智能系统的改进，大型语言模型如OpenAI眼下正流行的聊天机器人ChatGPT，能够更好地模仿人类的反应。这是骗子试图在电子邮件、文本信息和他们可能自己创建的其他聊天机器人中重新创建的东西。

吉文博士说：“我们作为人类在与人建立关系时使用的那些同情心和社交暗示的概念，正是骗子们可以使用并建立在系统中的各种技巧。”

骗子们将人工智能运用于网络钓鱼诈骗中，通常涉及一封电子邮件或短信，声称来自合法来源，但最终使用社会工程来获取个人信息。一些信息还可能使用链接将你送到一个危险的网站。

吉文博士说，聊天机器人和大型语言模型可以通过“完善语言”以及使信息看起来更加个性化，从而使网络钓鱼活动更具说服力。

“在过去，网络钓鱼邮件充满了打字错误和不真实的细节，足以让人们问，‘这封邮件谁写的？这是什么啊？近年来，这些东西确实在短信诈骗中急剧增加，而且骗子们使用了更多的平台，”她说。

网络安全公司Darktrace说，在2023年的头几个月，它看到复杂且新式的社会工程攻击增加了135%，它说这与ChatGPT的广泛采用相对应。

“与此同时，含有链接或附件的恶意邮件数量有所下降。这一趋势表明，生成性人工智能，如ChatGPT，正在为威胁方提供一个途径，高速度、成规模地制作复杂且有针对性的攻击。”

高丽先生说，Gen Digital预测这种骗局将继续增加，因为即便没有什么技术能力的人，也很容易生成这些骗局。

“不要以为你可以单纯通过看一条信息来识别它是真的还是假的，”他说，“你必须怀疑并批判性地思考你所看到的东西。”

Darktrace的首席产品官马克思·海内美亚（Max Heinemeyer）说，该公司也在使用人工智能来帮助它识别基于人工智能的骗局。

“在一个由人工智能驱动的攻击越来越多的世界里，我们不能再把责任放到人类肩上来确定他们收到的通信的真实性。这现在是人工智能的工作，”他说。

高丽先生说，人工智能也被用来在网上发布虚假的产品评论，但一些旨在寻找人工智能生成的内容的工具却很难不断识别它。

“这只是表明，随着质量的不断提高，它显然更难被发现。”

人工智能可以生成虚假的产品评论，骗子在试图销售伪劣产品时会使用这些评论。

03

骗子可以利用人工智能创造恶意的计算机代码和破解密码

软件工程师和爱好者已经使用人工智能来快速构建应用程序和网站等东西，但该技术也被用来生成可用于入侵其他计算机的代码。

“我们已经在一些黑客论坛上看到，一个不太熟悉编写恶意代码的非技术人员可以有能力编写一些基本代码用于恶意目的，”高丽先生说，“因此，成为一名真正的黑客的门槛肯定在转变。”

人工智能程序也被用于尝试破解密码，导致专家们敦促人们加强他们的密码，并尽可能使用双因素认证。

一些专家还对可能很快被添加到谷歌文档和微软Excel等生产力应用程序中的人工智能功能表示担忧。他们担心，如果骗子或黑客掌握了大量被盗数据，那么人工智能工具会被用来快速提取有价值的信息。

人工智能可以生成恶意的计算机代码，或者试图破解人们的密码。

04

全国多地警方发布“AI诈骗”典型案例

近日，全国多地警方发布了多个“AI诈骗”的典型案例，引发关注。如平安包头通报了一起通过AI技术从而被骗取430万元的消息。作为事件当事人的郭先生，在通过社交媒体与好友视频确认的情况下，仍被骗走大额资金430万元，所幸336.84万元被骗资金已经被拦截。“从头到尾都没有和我提借钱的事情，就说会先把钱给我打过来，再让我给他朋友账户转过去，而且当时是给我打了视频的，我在视频中也确认了面孔和声音，所以才放松了戒备。”郭先生表示。此事一出，AI诈骗、AI换脸等话题迅速引爆网络。

网络安全从业人员介绍说，当下AI技术的发展使得技术运用门槛降低，容易被不法分子利用。中国互联网协会随后发布公告提醒，面对利用AI技术的新型骗局，广大公众需提高警惕，加强防范。

大量软件可实现换脸   质量高、速度快

网络安全从业人员小郑告诉记者，随着人工智能技术的发展，不少例如AI换脸、AI语音合成的技术门槛已越来越低。小郑介绍，如今AI替代了合成技术人员，能够在犯罪分子使用简单指令和操作下，自动完成细致到毛发、光影都真实的合成图片。并且AI的工作效率能短时间生成大量图片合成视频，这样也就实现在视频中以假乱真换脸。

在专业人员指导下，记者体验了多款AI换脸合成工具。其中一款国外软件被称为效果最好最自由的工具，本意是为了帮助艺术创作者提高工作效率，最后却因功能强大和免费开放下载，成为当前AI换脸违法行为的主要工具。记者在电脑上安装好软件后，使用网络下载的明星脸部模型，加上网络分享的指令，最快5秒就能生成一张该明星极为真实的照片，而通过指令的改变可以随意切换场景、人物动作、表情等细节。

记者在手机软件下载程序中搜索“AI换脸”，可以搜索到数十种各类换脸软件，而一些主流的短视频软件中，也出现了植入的换脸特效。记者使用发现，只要上传自己的一张照片，再配合软件给出的一些影视片段、网络视频，就可以自动生成换脸视频。

合成搭配声音的视频  成本低至数十元

除了快速AI换脸，用AI手段合成或克隆声音也越来越常见。

一位商家向记者介绍，只需要提供某人一段10分钟至30分钟的声音素材，要求没有杂音，就能用2天左右时间生成一个专属模型，后续输入任何文字，发出的都是这个人的声音。“这个办法属于一劳永逸，而且这个模型不仅能读文也能唱歌。一般来说，提供的素材时间越长，最终相似度越高。”上述商家介绍。

据了解，目前制作一套“露脸且说话”的视频成本不高。七七(化名)专门在网上接单用AI帮别人生成视频，“只需提供一张背景干净的正面照，我就能生成视频，不仅眼睛、嘴巴都会动，还能时不时动动头，非常自然。另外如果你提供文字，我还可以让视频中的人物口型对上，配合度很高，可以连续播放1分钟。”七七表示，用照片生成一段1分钟时长的视频仅需30元左右。上述商家也表示，生成一个专属模型也只需要几十元。这意味着，如果有人蓄意生成你的长相搭配你的声音的视频，花费也仅需数十元。

如何识别和防范AI换脸？

一名经常使用AI进行写真创作的设计师告诉记者，AI制作的真人照片与视频如今还存在一些没有完善的地方，例如AI生成的人眼神会比较奇怪，常出现瞳孔不自然，呆滞无神的情况。此外，一些人物身体细节也是容易出错的区域，例如手部手指的不自然、人体比例的不协调等。

与此同时，也有不少平台开始尝试利用技术手段识别AI生成图片。记者在抖音、哔哩哔哩、小红书等平台看到，一些看似真实的照片被识别判定为AI生成内容，使用眼神、手部等细节观察法，确实也能发现照片为假。不过类似平台的技术手段依然存在不准确的问题，不少作品明确注明AI创作的情况下，判定系统未能识别成功。

除了平台加大对AI生成内容的管控提醒，个人也需提高警惕，在碰到涉及转账、支付等情况时，可以通过特殊的问题提问等形式来确定对方身份。中国互联网协会表示，在转账汇款、资金往来这样的典型场景，要通过回拨对方手机号等额外通信方式核实确认，不要仅凭单一沟通渠道未经核实就直接转账汇款。

多位AI图像技术使用者告诉记者，大众在使用社交软件时，一定要尽可能少发布个人正面照片或视频，不提及年龄、工作、所在地等内容，减少个人信息的暴露。

（来源：北京晚报、扬子晚报、澎湃新闻等）