教38.2万网友在线学反AI诈骗

在“3·15”即将到来之际，3月13日晚，封面新闻官方微博邀请到了@四川网警的网络安全专家、“超级头脑”创始人@AI超级头脑_张泽伟、北京安剑律师事务所律师@周兆成律师，以及热度很高的“换脸父亲事件”当事人孙歌，与封面新闻主播丹黎一起聊了聊关于AI换脸技术的应用，并为大家普及AI反诈知识。当晚直播共吸引38.2万网友在线观看。

四川网警网络安全专家：视频时可要求对方掐脸、捏鼻子

大家日常接触到的AI换脸换声技术，是比较初级的AI诈骗手段吗？四川网警的网络安全专家张警官介绍，最近几年，人工智能等互联网技术日新月异，各种新技术、新应用层出不穷，像换声换脸技术就是人工智能最直接的产物，通过声音和图像视频等素材样本，运用人工智能计算进行深度合成伪造，以假乱真。当前，不法分子的诈骗技术也愈发复杂，当其非法获取受害人的家庭、工作、社会关系、轨迹习惯等个人信息后，将进行全方位画像，利用换脸、换声技术冒充亲戚、朋友等熟人，对目标实施定向诈骗行为，极大地提高了新型AI诈骗的欺骗性和成功率。

谈到目前常见的一些AI诈骗手法，张警官介绍，就公安机关办理的案件来看，AI诈骗常用的手法主要有这几种：第一种是AI拟声，即用克隆的声音实施诈骗。第二种是AI换脸，骗子通过网络搜集目标亲友的照片、视频信息后，用“AI换脸”伪装成目标受害人亲友，通过聊天软件与受害人视频聊天实施诈骗。此外，诈骗犯罪分子还会通过AI技术筛选目标人群。例如，在一些金融诈骗案例中，工作人员发现，犯罪嫌疑人会利用AI技术去筛选经常在网上浏览投资信息的人员作为潜在诈骗目标，最后通过套路和剧本演绎，精准实施投资类诈骗。

直播中，掐脸、捏鼻子等辨别方式引起了大家的热议。“超级头脑”创始人张泽伟说：“随着技术的发展，它的这些漏洞都会被修复，建议大家要求对方做捏成‘猪鼻子’等一些AI不易做到的动作，或制定一些只有家人才知道的暗号，这是最保险的。”

张警官尤其谈到，要注意个人信息和隐私数据的保护。AI换脸或者声音合成技术，前提是要搜集受害人的声音和图片视频资料。日常生活中要保护好个人隐私安全，使用正规软件，防止自己的聊天信息、身份信息泄露，同时要尽可能减少社交媒体上自己的照片和声音的曝光。

“换脸父亲事件”当事人孙歌：“复活”亲人一定要谨慎

在谈及使用AI技术“复活”亲人的感受时，孙歌表示，“现在后台有上万人问我使用的是哪款软件，如何使用，但我不会告诉他们，并会劝解对方，如果没有非常成熟的心智和必须使用的理由，建议不要轻易尝试这个方法，因为我在使用时，经历了非常大的心理伤害，见到离世亲人的视频画面时，会很崩溃。”

对于AI在生活中的应用，孙歌认为，科技始终是一把双刃剑，不管如何发展，都应该以人为本。

孙歌“换脸父亲”安慰奶奶的故事感动无数网友，也令嘉宾们非常理解。“超级头脑”创始人张泽伟是一位90后，他从2022年开始从事人工智能行业，为普通人定制“AI数字人”，甚至在一年内完成653个订单，平均一单几千元到1万元不等。

张泽伟说，他制作的第一个“AI数字人”的初衷与孙歌的经历类似。目前“超级头脑”所接触的客户，主要就是这一类型。目前，张泽伟和团队也在为一些渐冻症患者免费制作数字分身。

律师自曝曾被伪造数字分身使用AI技术应注意侵权问题

对于普通人，周兆成提醒网友要时刻保持警惕心，注意隐私安全，如果想“复活”亲人，应该更加理性，切勿过于沉溺于悲伤之中。“用AI技术复活亲人可以看作是追思，但我们也应该看到这始终是一个虚拟形象，代替不了生活。”他说。