继此前“10分钟被AI换脸骗走430万元”事件引发关注之后，又一起AI换脸诈骗事件被报道， 整个过程仅9秒钟，受害者就被骗走了245万元。

5月25日，据大皖新闻消息：今年4月，安徽安庆经开区发生一起“冒充熟人”诈骗案， 诈骗分子使用了一段9秒钟的智能AI换脸视频佯装“熟人”，让受害人放松警惕从而实施诈骗。

“视频里边我看到是他的脸”，“但是没几秒就挂了，说在开会不方便”。 4月27日，何先生的微信“好友”突然向其发起视频通话，电话接通后，何先生看到“好友”正在一间会议室内，就在他准备进一步询问时，“好友”直接挂断了电话，并表示在会议中有重要事情交代，需要何先生添加QQ沟通。

(资料图片仅供参考)

随后，“好友”在QQ上告诉何先生，目前有一个项目招标需要周转资金，希望何先生先行帮忙垫付。“因为打了视频电话又是熟人”，“我就没多想，就转账了”， 基于对“熟人”的信任，何先生没有犹豫，立刻让家人将245万元到对方指定的账号上，直到事后拨打对方电话才得知被骗。

4月28日，警方一举抓获李某某等3名犯罪嫌疑人，扣押涉案手机26部，冻结、追回电诈资金一百余万元。5月22日， 民警将先行追回的132万元被骗款返还给何先生。 目前，该案件正在进一步侦办中。

公司老板遭遇AI换脸诈骗

10分钟被骗取430万元

据此前报道，近日，内蒙古包头警方发布一起利用AI实施电信诈骗的典型案例。

来自福建的郭先生是一家科技公司的法人代表。今年4月，他的好友突然通过微信视频联系他，称自己的朋友在外地竞标，需要430万元保证金，想借用郭先生公司的账户走账。

基于对好友的信任，加上已经视频聊天“核实”了身份， 郭先生在10分钟内，先后分两笔把430万元转到了对方的银行账户上。

事后，郭先生拨打好友电话才得知被骗，原来骗子通过AI换脸和拟声技术，佯装好友对其实施诈骗。“当时是给我打了视频的，我在视频中也确认了面孔和声音，所以才放松了戒备。”郭先生事后说。

AI换脸冒充明星带货

律师：或涉嫌侵权

除了佯装“熟人脸”实施诈骗，AI换脸还可能出现在直播带货中。最近，网上出现了一些“换脸直播”教程，教程发布者声称实时变脸软件可以帮助用户轻松“变脸”，极大地助力引流卖货。

在一个展示换脸直播效果的视频中，使用者把名为“成龙”的模型载入相关软件后，摄像头前的人在直播画面中就有了与成龙相似的五官，但脸型和发型还保持原样。

记者发现，使用者歪头或变换表情时，五官动效切换得自然顺滑， 只有手掌从脸前划过时，出现了比较明显的破绽。

北京岳成律师事务所高级合伙人岳屾山表示，换脸直播用于公开传播可能涉嫌侵犯相关明星艺人的肖像权。如果涉及直播带货等商业行为，会成为加重情节。

岳屾山解释，只要未经肖像权人同意，在直播中通过技术手段把自己的脸换成了明星的脸，就是对明星肖像的侵权。根据不同情况，承担的后果可能不同。即便只是娱乐，不涉及盈利行为，也属于侵权。如果把明星肖像用于带货直播，属于是商业行为，在赔偿数额上一定会给予考虑。如果主观恶性、过错程度比较大，且因此获利，赔偿数额可能会更高。

记者注意到，一些使用换脸技术的直播并不会直接提到相关明星艺人的名字，但也不会主动声明或者否认。岳屾山认为，该行为涉嫌欺诈或是虚假宣传，让公众误以为就是明星在带货。如果货品本身质量不好，或者主播在带货过程中说的话或行为导致公众对被换脸的明星产生负面评价，明星可以主张名誉权的侵权责任。

AI技术存在滥用风险

务必保持防范意识

为规范人工智能发展，去年12月，《互联网信息服务深度合成管理规定》正式发布，明确了合成数据和技术管理规范。其中提到： 深度合成服务提供者对使用其服务生成或编辑的信息内容，应当添加不影响使用的标识。提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认。

近期，也有平台和企业发布了“关于人工智能生成内容的平台规范暨行业倡议”，明确禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等，一经发现，平台将严格处罚。

对于个人而言，除了在形形色色的“明星脸”中保持清醒，避免陷入虚假宣传，更重要的是面对花样翻新的AI诈骗，必须保持防范意识。

保护信息，提高警惕。 不要轻易透露自己的身份证、银行卡、验证码等信息，不要轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等；

多重验证，确认身份。 如果有人自称“熟人”“领导”等通过社交软件、短信以各种理由诱导汇款，或涉及网络转账交易行为时，务必通过电话、见面等多途径核验对方身份，不要未经核实随意转账汇款；

再次强烈提醒大家

如不慎被骗或遇可疑情形

请注意保存证据

并立即拨打96110报警！