东湖评论：眼见未必为实，AI时代更要多个心眼

都说“耳听为虚，眼见为实”，可在人工智能（AI）快速发展的今天，这句话恐怕要打个问号了。一张静态照片，瞬间就能生成逼真的动态人脸视频，几句简单话术，就能靠着AI换脸伪装成你熟悉的人，这项本应赋能生活、点亮创新的技术，如今却被不法分子钻了空子，沦为诈骗牟利的“帮凶”。

近期，央视曝光的“AI换脸”黑产链令人警醒。受害者李女士怎么也没想到，视频通话里热情寒暄的“老同学”，竟是不法分子用AI换脸伪造的。对方以急需资金周转为由步步诱导，李女士险些被骗走40万元。所幸警方紧急止付，成功拦截。李女士并非个例。如今网络上正形成一条隐形的黑色产业链，上游窃取人脸信息，中游培训换脸技术和诈骗话术，下游实施诈骗、敲诈勒索。人脸信息被明码标价，换脸教程随手可查，个人信息安全面临前所未有的挑战。

AI乱象丛生，治理刻不容缓。公安部等部门连续多年开展“净网”专项行动，捣毁一批个人信息交易平台。近期，中央网信办、工业和信息化部、公安部会同相关部门，再次部署开展新一轮个人信息保护系列专项行动，聚焦App、软件开发工具包等服务产品，紧盯教育、交通、卫生健康、金融等重点领域，重点整治违法收集、滥用个人信息的行为。这些行动释放出一个明确信号，治理AI乱象，制度与技术必须共同发力。

守牢制度底线，给技术应用装上“刹车”。去年9月，上海徐汇区法院一审判决一起AI涉黄案，两名开发者分别获刑四年和一年半。这是司法层面首次对违法提供AI服务者追究主要刑事责任，给所有从业者敲响了警钟。今年4月10日，五部门联合出台《人工智能拟人化互动服务管理暂行办法》，明确划出七条“红线”，让AI发展有了清晰的行为边界。制度的作用，就是让违法者付出代价，让观望者知难而退。

筑牢技术防线，给制度落地找好“抓手”。AI犯罪门槛低、藏得深、传得快，光靠事后追惩远远不够，必须用技术对抗技术。数字水印、生成内容标识、敏感内容自动识别等技术正在加速落地，能给AI生成内容加上“隐形标记”，实现精准识别、全程追踪，一旦发现违规内容，就能及时预警、快速阻断。如果每一段AI视频都能被追根溯源，那么犯罪分子的生存空间就会被大大压缩。

AI时代，每个人都要多留个心眼，靠咱们刷手机、接视频时多一分警惕，时刻提防不要被一张假脸、几句假话给忽悠了，也得靠制度提前布防、靠技术坚实防护。唯有制度与技术“两条腿走路”，AI才能跑得又快又稳当，让群众享受技术便利的同时也能守牢安全底线。

稿源：荆楚网（湖北日报网）

作者：沈明（武汉市武昌区“昌言家”团队、区委政研室）

责编：丁玥