近日，一起利用AI实施电信诈骗的典型案例在网络上引起热议。诈骗犯通过AI换脸和拟声技术佯装好友，对福州市某科技公司法人代表郭先生实施诈骗，在视频聊天“核实”对方身份后，郭先生10分钟内被骗子骗走430万元。
郭先生并不是AI诈骗受害者的个例。近年来，“AI换脸”“AI换声”等虚假音视频进行诈骗、诽谤行为在网络上屡见不鲜。利用AI技术生成更加逼真的网络视频，制造出更加真实的生活化情景，本应助力产业创意发展，增进人民生活福祉，却“误入歧途”，在“科技赋能美好生活”的前进道路上迷了路。
虚假的音频在网络上大肆传播，是对事实的扭曲，更是对每一位公民权利的侵害。据了解，新骗局来袭后，诈骗成功率接近100%。窃取网友视频合成到不雅视频中、使用AI换脸与语音转换技术生成公司领导面孔、制造与“好友”视频假象再对受害人进行敲诈勒索，让无数人掏空口袋，心也凉了半截。换脸的视频、相似的音色被误用的人工智能让人们放松戒备，让骗子有机可乘，更让人与人之间的信任变得无比薄弱，人与人之间的情感链接变得无比脆弱。
AI诈骗之所以屡屡频发，一方面是因为AI行业应用边界模糊，换脸换音技术“来去自由”，让AI诈骗有“用武之地”；一方面是反诈术、识别诈骗方法有限，面对魔高一尺，没有反诈科技设备让我们道高一丈。另一方面是普通百姓的反诈骗意识不够强，甄别骗术的“慧眼”还需擦亮。
因此，相关部门要树立AI行业深度融合规范，标高行业准入门槛，明确技术的“底线”与“红线”，从政策、法律层面限制其应用场景以及相关领域，让AI有真正的用武之地。而作为研发单位，需始终坚守技术安全，加强技术管理，确保不被不法分子用于非法领域；注重反电信网络诈骗的科技装备的研发，将AI诈骗限制在行业门槛之外；同时，强化与执法部门、网络公共平台的协作，共筑防范诈骗安全基石。最后，个人应主动了解人工智能潜在的风险隐患，提高隐私保护以及安全意识。日常生活中，不轻易提供人脸、指纹等个人生物信息给他人，更不要在网上过度公开上传有关自己及家人的动图、视频等，让不法分子无机可乘。
在人工智能快速发展的道路上，各种各样的AI产品化了妆，披上了新外衣，变了新模样，但人们对美好生活追求的初衷从未改变。面对AI带来的机遇与挑战，我们要明确边界，亮出底线，让AI回归“正道”，为美好生活助力。
稿源：荆楚网（湖北日报网）
作者：谭慧（宜昌夷陵）
责编：丁楚风
