近日,包头警方发布一起利用AI人工智能实施电信诈骗的典型案例,福州市某科技公司法人代表郭先生,在与好友视频聊天时,被对方以借用账户转账为由,10分钟内骗走了430万元。事后才发现,视频中的好友其实是骗子利用AI换脸和拟声技术伪造的。收到福州市公安局的外协请求后,包头市公安局与蒙商银行配合,紧急启动资金监控追踪,成功拦截了该诈骗账户内的336.84万元被骗资金。并向福州市公安局警方提供了剩余款项93.16万元资金流出信息,为进一步追查该案剩余资金提供了重要线索。
AI换脸和拟声技术是人工智能技术在图像和语音领域的重要应用之一,它们可以通过深度学习算法,从大量数据中提取特征,并生成逼真的图像和语音。正常情况下,AI换脸和拟声技术可以为我们带来极大的便利,但如果被不法分子利用,则可能造成严重后果。
相比传统的电信诈骗,AI诈骗更加隐蔽和逼真,骗子通过AI技术分析公众发布在网上的各类信息,快速地筛选出目标人群,再利用AI换脸和拟声技术,与受害人进行视频通话,让受害人无法辨别真伪。由于AI换脸和拟声技术生成的内容很难被检测和辨认,受害人往往在事后才发现被骗,并且难以找到证据和线索。
面对AI对网络安全提出的新挑战,国内头部网络安全技术供应商如深信服、360等已采取行动,深入布局生成式人工智能模型安全的各个方面。
对个人来说,面对日益猖獗的AI诈骗,应该增强自身安全意识和防范能力,避免成为AI诈骗的受害者。这里为大家提供几个小技巧防范、识别AI诈骗:
1、注意互联网上个人隐私保护,特别是涉及需面部识别、声音录制的信息收集需求,要格外注意识别。
2、保持充分警惕,当遭遇对方提出互联网交易的时候,建议可以进行多重身份的交叉验证,如通过语音、视频已经无法确认其身份,可以通过询问双方共同知晓的信息来辨别,特别是一些小事,例如,双方近期一次吃饭的时间、餐厅等,这些信息无法通过AI伪造。
3、真假信息掺半,可以在聊天中适当地掺一些明显虚假的信息,看对方是否怀疑或者指出错误:比如询问一位对方虚构好友的近况,或者虚构两人共同的经历等;如果对方顺着你提供的假信息去说,那么对方很有可能是AI诈骗。
4、视频可以让对方多做鬼脸,因为AI换脸在面部表情变化迅速、挤眉弄眼的时候,可能会出现失效、失真的情况。
5、不贪图小利或同情心。不要轻信熟人给你介绍的投资理财项目、中奖信息、紧急救助等,并要求你转账汇款。如果有疑问或感觉异常,要及时报警求助;
如不慎被诈骗,应及时报警,配合相关部门的监控追踪,还有希望挽回损失。
今年4月11日,国家网信办起草了《生成式人工智能服务管理办法》(征求意见稿),提出AI内容必须真实准确,禁止非法获取、披露、利用个人信息和隐私、商业秘密。在AI技术飞速发展日益普及的今天,国家的立法会越来越完善,以深信服为首的网络安全公司也将肩负起社会责任,推动AI技术在反诈领域的运用。
标签：
