趣头条 ( ) • 2024-03-20 09:14

近日,一起由人工智能“多人换脸”技术引发的巨额诈骗案件震惊全球。据香港警方披露,诈骗分子利用尖端的深度伪造技术,成功从一家跨国公司在港分部骗取了高达2亿港元的资金。

在这起离奇案件中,受害公司的职员接到声称来自该公司英国首席财务官发起的视频会议邀请,并在看似正常的会议流程中按照指示进行多次转账操作。然而,当真相揭开时,令人瞠目的是,这场视频会议中的其他“参会人员”竟然是通过AI换脸技术伪造的虚拟形象,仅受害人一人是真实的参与者。

诈骗分子精心策划,首先从公开网络平台下载目标人物视频,利用先进的深度学习算法对人脸图像进行识别和特征提取,然后将这些面部特征与诈骗者的人脸无缝融合,同时模拟出高层人员的声音,最终呈现出足以乱真的虚假视频通话场景。尽管该员工起初对此类秘密交易存疑,但经过视频沟通后被迷惑,最终掉入圈套。

为防范此类高科技诈骗手段,中国网络空间安全协会专家薛智慧建议公众采取以下措施:在视频对话中要求对方做出特定动作,如挥手,以测试面部的真实性;提问只有真人才能回答的问题来验证身份;针对疑似假冒的身份,通过多种渠道核实其真实性,例如直接电话联系或询问亲友。

中国科技大学网络空间安全学院执行院长俞能海强调,民众应提高对生物信息保护的重视程度,并养成良好的网络安全习惯。例如,在日常生活中加强个人生物特征数据的安全防护,谨慎授权应用访问声音、图像等敏感信息,避免登录不安全网站以防病毒侵入。

陈纯青警司提醒广大市民,虽然科技日新月异,但防范诈骗的关键始终在于保持高度警惕和求证意识。面对层出不穷的高科技欺诈手法,我们必须明白,“眼见不一定为实”,尤其是在深伪技术日益发达的时代,任何社交平台上的信息都需加以查证确认,以免落入骗子的圈套之中。

随着“AI换脸”技术的不断成熟和普及,诈骗分子利用其实施犯罪的手法日益复杂且难以察觉。警方指出,此次案件中,骗子在视频过程中甚至设计了策略来规避技术漏洞,如避免过多口头交流,转而通过线上即时通讯软件传达指令,从而降低被识破的风险。

为应对这一新型网络诈骗挑战,专家呼吁企业加强内部管理,提高员工对深度伪造等技术的认知,并强化信息安全培训,确保员工具备识别可疑情况的能力。同时,企业应建立健全多层级审批制度,特别是涉及大额资金转账时必须经过多重验证和确认。

此外,监管部门也需加大对此类新型高科技犯罪的研究与打击力度,推动相关法律法规的更新和完善,加强对AI技术滥用的监控与治理。社会各界需要共同努力,构建起防范AI诈骗的坚固防线,既保护个人财产安全,也为科技进步营造一个健康、有序的发展环境。

陈纯青警司再次强调,无论科技如何发展,公众自身的防骗意识始终是第一道防线。他表示:“市民应当时刻保持警惕,面对任何要求转账或透露个人信息的要求,务必核实对方身份,即便是看似熟悉的人或权威机构也不能掉以轻心。”只有当每个人都成为自身网络安全的第一责任人,才能有效抵御层出不穷的高科技欺诈手段,让AI换脸诈骗无处遁形。

在全球范围内,AI换脸技术的滥用已经引发了广泛关注。各国政府、科研机构和企业正联手应对这一挑战,通过技术研发升级反制手段,同时加强国际合作,共同打击利用AI技术进行犯罪的行为。例如,科技公司正在研发更精准的深度伪造检测技术,以期能够在第一时间识别出虚假内容。

另外,专家建议各大通讯平台和视频会议软件提供商应积极采取措施,提升产品安全防护能力,如加入生物特征实时检测功能,对参与视频通话的用户进行身份验证,防止此类诈骗案件的发生。同时,鼓励用户在使用过程中启用多重身份验证机制,提高账户安全性。

社会各界还应加大对网络安全知识的普及力度,教育公众如何识别并防范AI换脸诈骗,增强全民网络素养。从学校教育到社区培训,确保不同年龄段的人都能了解这类新型欺诈手段的特点与防范方法,从而降低被骗风险。

面对AI换脸诈骗的威胁,我们必须构建起法律监管、技术创新、公众教育三重防护体系,让高科技真正服务于人类社会的发展进步,而不是成为不法分子牟利的工具。在这个数字化时代,我们每个人都是网络生态链中的一环,唯有携手共进,才能守护好我们的信息空间,让真实世界与虚拟世界和谐共生。