科技

业内人士称,只要有足够的图像、音频素材,不法分子就可以通过人工智能换脸软件、合成声音软件伪造虚拟形象,实施。这种欺骗性高,常常令人防不胜防,稍不留神,就会落入分子设置的陷阱中。

因此,当大家遇到这种情况时,一定要保持冷静的头脑,在进行有关转账之前要通过打电话的方式和自己的亲人和朋友确认。另外在电话确认之前千万不可按照微信、QQ中的提示进行有关操作。

据了解,这两年中国已经出现的多起利用AI换脸的案件中,甚至有不法分子利用人工智能“深度伪造”冒充领导干部行骗。

为了遏制AI的发展势头,国家互联网信息办公室于8月8日发布了《人脸识别技术应用安全管理规定(试行)(征求意见稿)》,旨在提升人脸识别技术的规范应用与合规水平。

此外,国家网信办已审议通过的《生成式人工智能服务管理暂行办法》也将于8月15日起开始施行,这表明我国在相关领域的规定正在逐步完善。

同时,国家公安机关已经联合国家重点实验室等单位,开展人脸识别与检测技术安全测评,覆盖了境内用户量大、问题隐患突出的即时通讯、网络直播、网络社交、电商平台、金融支付等重点APP。这项工作能够帮助及时发现人脸识别验证系统存在的风险隐患,并通报运营主体升级安全保护措施和人脸识别算法,这将有助于遏制该类犯罪的发展势头。

目前,也有一些科技公司正加强对图像、声音伪造技术的反制研究。专家们表示,加强AI安全技术应用研发,将AI技术应用于犯罪识别、预警、对抗中,就可以实现以“白”AI对抗“黑”AI。

据悉,国家还将持续推进个人身份信息尤其是人脸等身体数据信息泄露的治理,这也将对AI换脸起到很大的抑制作用。

在AI时代已经来临的情况下,我们对AI的滥用和个人信息泄露问题不能放任不管,只有让监管跟上技术发展的步伐,AI技术才能沿着法治的轨道行稳致远。