陆国安部警惕「AI投毒」 实施意识形态渗透
随著AI日益发达,北京当局也开始警惕可能带来的风险。大陆国安部指出,通过恶意数据污染AI模型的「AI投毒」不仅扰乱商业秩序、影响信息传播,更会危害国家安全。大陆国安部因此要求AI运营者严格核查语料来源,建立可追溯机制。
大陆国安部微信公众号21日发文指出,所谓「数据投毒」是指通过向AI大模型训练数据中注入伪装成正常样本的恶意数据,实现削弱模型性能、降低准确性的攻击方法,常被用于恶性市场竞争,甚至可能涉及间谍活动,日益呈现出链条化、隐蔽化、跨境化特征。
文章列出「数据投毒」的三大类型:
一、源头污染AI认知体系。不法分子借助GEO(生成式引擎优化)工具批量、高权重生成虚假内容,如虚构产品介绍、虚假测评、恶意对比信息等,定向投放至各类网络平台。AI大模型在训练与检索增强生成阶段会自动抓取网络信息,少量虚假内容经迭代学习后就能固化为「标准答案」,最终输出失真结果。
二、模型投毒:隐蔽植入恶意操控后门。该方式更具隐蔽性与危害性,不法分子会通过模型微调、插件植入、接口篡改,在模型权重中嵌入触发式恶意指令。模型日常运行并无异常,但遇到特定关键词、产品类别时会自动输出预设虚假信息,可定向操控榜单、误导专业认知,难以被常规审核识别,对政务、医疗、金融等关键领域AI应用构成直接威胁。
三、滋生蔓延:产业链日趋完整。当前AI「投毒」已形成完整黑灰产业链,从技术开发、内容生成、帐号注册到批量投放、刷量控评、榜单操控环环相扣,部分链条呈现跨境特征,极易被境外势力利用。
大陆国安部指出,「AI投毒」不仅侵害消费者权益、扰乱市场秩序,还可能造成三大系统性、长期性危害:
一、危害政治安全与意识形态安全。大陆国安部称,境外反华敌对势力可能通过GEO滥用渠道批量输出虚假信息与政治谣言,歪曲事实,「攻击抹黑我党和政府」,误导社会认知、扰乱舆论生态,对中国实施意识形态渗透,威胁国家安全与社会稳定...






