5月22日，一起利用人工智能（AI）实施电信诈骗的案例引发网友关注，相关话题#AI诈骗正在爆发#冲上微博热搜。

据“平安包头”微信公众号消息，近日，包头市公安局电信网络犯罪侦查局发布一起使用AI技术进行电信诈骗的案件，福州市某科技公司法人代表郭先生10分钟内被骗430万元。

Avoiding scams using artificial intelligence (AI) has become a heated discussed topic on China’s social media platform Weibo on Monday, after police in Baotou, North China's Inner Mongolia Autonomous Region recently released a typical AI scam case in which the scammer used AI technology to create a fake face and voice in a video call, tricking the victim out of 4.3 million yuan.

The victim surnamed Guo, who owns a technology company in Fuzhou, East China’s Fujian province was cheated out of 4.3 million yuan in 10 minutes, according to the police.

“平安包头”的警情通报显示，4月20日中午，郭先生的好友突然通过微信视频联系他，称自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。

好友向郭先生要了银行卡号，声称已经把钱打到账户上，还把银行转账底单的截图发给郭先生。基于对好友的信任，加上已经视频聊天“核实”了身份，郭先生没有核实钱款是否到账，就分两笔把430万转到了好友朋友的银行卡上。

事后，郭先生拨打好友电话，才知道被骗，原来骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。

The scammer made a WeChat video call to Guo on Friday afternoon, using AI technology to make him look like Guo’s real life friend.

During the video call, the scammer convinced Guo that he needed Guo’s corporate account to pay for 4.3 million yuan of deposit for bidding a project. The scammer asked for Guo's bank card number, claimed that he already transferred 4.3 million yuan into Guo's account, and sent a screenshot of the bank transfer receipt to Guo via WeChat.

Trusting his friend, Guo transferred 4.3million yuan to the scammer in two payments, without verifying whether the money arrived.

“从头到尾都没有和我提借钱的事情，就说会先把钱给我打过来，再让我给他朋友账户转过去，而且当时是给我打了视频的，我在视频中也确认了面孔和声音，所以才放松了戒备”，郭先生说。

“I received the video call. I verified the face and the voice. So I let my guard down,” Guo said.

幸运的是，接到报警后，福州、包头两地警银迅速启动止付机制，成功止付拦截336.84万元，但仍有93.16万元被转移，目前正在全力追缴中。

After receiving the police report, the police in Fuzhou and Baotou quickly blocked the transition and successfully stopped the transfer of 3.36 million yuan. However, the rest was transferred and is now subject to retrieval efforts.

据环球时报报道，该案件在社交媒体上引发了关于警惕人工智能骗局的讨论。截至周一，微博上关于如何防止人工智能诈骗的话题已经被浏览了1.8亿次，引发了上万次讨论。

The case has triggered heated discussion on staying alert from AI scams on China’s social media. As of Monday, the topic on how to prevent AI scams has been viewed 180 million times and generated tens of thousands of discussions.

 

AI换脸冒充女星带货

 

 

 

 

AI换脸除了被用于诈骗，还出现在直播带货中。

据央视网报道，近日，有网友点开直播间，发现正在卖货的竟是当红女星。然而再定睛一看，才发现这些身穿中式服装，正在卖力带货的“明星”们，其实只是使用了AI实时换脸技术的普通主播。

小编在网上搜索“AI换脸”发现，网上有不少AI换脸工具的相关视频教程，有的还提供换脸工具的下载渠道。

如今，这项技术已经发展到可以实时动态修改直播画面。网上同样有博主分享相关教程。

 

发布者展示实时“换脸”效果

 

据央视网报道，北京岳成律师事务所高级合伙人岳屾山律师表示，换脸直播用于公开传播可能涉嫌侵犯相关明星艺人的肖像权。如果涉及直播带货等商业行为，会成为加重情节。

在知名艺人工作室从事宣传工作的袁女士表示，担心相关技术被用于推销假冒伪劣产品，损害消费者权益，也影响艺人的形象。

 

据环球时报报道，国内社交媒体平台已经开始标记人工智能生成的内容，以防止任何可能的争议。
 

抖音在5月初宣布，将要求出版商对人工智能生成的内容进行清晰标记，以帮助用户区分虚拟和真实的物品；时尚和生活方式平台小红书也开始给疑似人工智能创作的图片和海报贴上标签，并建议用户区分真实和计算机生成的内容。

图源：视觉中国

Chinese social media platforms have started to mark content generated by AI to prevent any possible disputes. Douyin, the Chinese version of TikTok, announced in early May that it would require publishers to clearly mark content generated by AI to help users distinguish between virtual and real items.

Popular Chinese Instagram-like fashion and lifestyle platform Xiaohongshu has also started to label images and posters suspected of being created by AI, and advised users to distinguish between what is real and what is computer-generated.

 

AI诈骗有哪些常用手法？

 

 

 

 

武汉市反电信网络诈骗中心提示，AI诈骗有以下常用手法：

第一种是声音合成，骗子通过骚扰电话录音等来提取某人声音，获取素材后进行声音合成，从而可以用伪造的声音骗过对方。

第二种为AI换脸，人脸效果更易取得对方信任，骗子用AI技术换脸，可以伪装成任何人，再通过视频方式进行信息确认。骗子首先分析公众发布在网上的各类信息，根据所要实施的骗术，通过AI技术筛选目标人群。在视频通话中利用AI换脸，骗取信任。

第三种是转发微信语音，骗子在盗取微信号后，便向其好友“借钱”，为取得对方的信任，他们会转发之前的语音，进而骗取钱款。尽管微信没有语音转发功能，但他们通过提取语音文件或安装非官方版本（插件），实现语音转发。

第四种是通过AI技术筛选受骗人群，骗子不是漫无目的地全面撒网，而是别有用心地锁定特定对象。他们会根据所要实施的骗术对人群进行筛选，从而选出目标对象。
 

 

如何防范？

 

 

 

 

警方提示，针对花样翻新的智能AI诈骗，要提高防范意识，不轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等；

网络转账前，要通过电话等多种沟通渠道核验对方身份，一旦发现风险，及时报警求助。

如果有人自称“熟人”、“领导”通过社交软件、短信以各种理由诱导你汇款，务必通过电话、见面等途径核实确认，不要未经核实随意转账汇款，不要轻易透露自己的身份证、银行卡、验证码等信息。

如不慎被骗或遇可疑情形，请注意保护证据立即拨打96110报警。
 

综合来源：央视网，环球时报，北京日报，“平安包头”微信公众号，武汉市反电信网络诈骗中心等