东湖评论：莫让“数据投毒”污了人工智能的“源头活水”

人工智能正以前所未有的深度融入社会生活，从智慧城市的交通调度、AI家教辅导，到生产线智能质检，其带来的变革清晰可见。然而，伴随技术普及，一种名为“数据投毒”的新型风险正悄然侵蚀“数智大厦”的安全根基。国家安全部多次发布专项提示，明确提出：人工智能训练数据中存在大量虚假、虚构、偏见性内容，正通过“数据投毒”行为干扰模型训练，威胁AI安全。

“数据投毒”通俗来讲，如果把AI比喻成人类的话，训练数据就相当于食材，食材腐败变质，最终训练出来的AI人类就会出现认知方面的误差，“数据投毒”主要出现在数据采集、标注环节。基础数据一旦受污，其危害将直接体现在公众日常使用的各类AI服务中。更为严重的是，应用于医疗、金融、行政决策的AI若被“投毒”，后果不堪设想。这些风险并非理论推演，而是基于数据污染客观规律产生的现实威胁。尤其值得警惕的是，被污染模型生成的不当内容流入互联网后，又可能成为后续模型的训练数据源，形成“污染代际传递”，不断放大长期风险。面对“数据投毒”这一隐蔽而深刻的挑战，仅有警惕远不足够，更需构建贯穿数据全生命周期的协同治理体系，防微杜渐。

数据源头清澈，模型输出方能清朗。我国《网络安全法》《数据安全法》《生成式人工智能服务管理暂行办法》等已为数据安全奠定法律框架。关键在于压实企业主体责任，严格落地法规。相关企业，尤其在金融、医疗、教育、交通等关键领域，必须建立严格、透明、可追溯的数据采集、标注、清洗与审核机制，对数据来源合法性、内容准确性进行穿透式核查，从源头杜绝“毒数据”流入

提升技术防御能力是关键支撑。数据投毒手段日益隐蔽复杂，需依靠技术力量主动防御。产业界与学术界应加大投入，积极探索前沿防御技术，并将安全评估嵌入模型开发全流程。平台企业需定期对模型进行“健康体检”和“压力测试”，构建灵敏预警与高效应急响应机制，确保一旦发现异常输出，能迅速定位、阻断传播并修复模型。

凝聚社会共治是坚实基础。 安全防线需要全民共建，各领域部门在推动AI发展的同时，应勇担安全责任，完善数据筛查与模型评估流程。政府、媒体、学校需携手提升公众数字素养，普及AI原理与风险，引导用户在使用时保持审辨思维，不轻信盲从。尤其在获取重要信息或做关键决策时，主动多方核实；发现AI生成不当内容，积极通过反馈渠道举报，使亿万用户成为守护数据清朗生态的“吹哨人”。

人工智能发展前景光明，但安全是基石，规范是自由的前提。国家安全部门警示对全社会的严肃提醒。唯有政府、企业、科研机构与民众同心同向，筑牢从数据源头到应用终端的每一道防线，以“图之于未萌，虑之于未有”的远见，及时化解细微风险，方能确保人工智能真正安全、可靠、向善地服务于高质量发展与人民美好生活。

稿源：荆楚网（湖北日报网）

作者：翟世赟（武汉市江汉区“西北湖学社”团队、新华街道）

责编：袁莉莉