发布日期:
人工智能赋能国家认知安全体系构建：网络生态治理的创新路径
■侯淑花 娄立原
2026年是习近平总书记提出总体国家安全观12周年，4月15日将迎来第十一个全民国家安全教育日。当前人工智能技术取得了飞速的发展，深度重塑了信息生产与传播逻辑。国家认知安全是非传统安全的核心维度之一，其作用边界已由物理域、信息域逐步拓展至认知域。认知域是人类开展感知、认知、决策与实践行动的心理空间和思维体系，囊括价值观、文化信仰、意识形态等精神内核，认知战也随之成为大国竞争中影响群体认知导向的重要手段。习近平总书记强调：“要把捍卫国家政治安全摆在首位，坚定维护国家政权安全、制度安全、意识形态安全；加强网络安全、人工智能安全等方面工作。”面对智媒时代认知风险的系统性演化，我国亟须以人工智能赋能网络生态治理，构建“技术—社会—制度—国际”四位协同的国家认知安全防护体系。
一、智媒时代国家认知安全的风险图景
人工智能驱动下，认知安全风险已在信息传播全链条形成结构性嵌入。内容生成环节，AIGC技术让虚假信息呈现规模化、拟真化、低成本的特征，深度伪造内容不断模糊真实与虚构的边界，还能通过叙事优化引导公众形成特定认知框架。渠道分发环节，算法推荐与用户固有认知偏见形成“反馈—强化”的闭环，以流量为导向推送情绪化内容，进一步加剧信息茧房与群体极化现象。受众反馈环节，用户情绪数据被算法精准捕获，并反向塑造网络内容生态，在“反馈—学习—放大”闭环中推动舆论场从理性讨论逐渐滑向情绪动员。这三重风险环环相扣，让认知操纵从偶发事件演变为嵌入日常传播结构的系统性威胁，对社会主流价值认同与公共共识凝聚构成严峻挑战。
二、人工智能赋能网络生态治理的三维路径
（一）技术治理：筑牢认知安全的算法根基
技术治理的核心是聚焦智能体认知逻辑的可解释性与公平性，智能体具备独立自主的感知、规划与决策能力，其认知黑箱问题是技术治理的关键。大力推广可解释人工智能（XAI）技术，让内容生成与算法推荐逻辑透明可溯，实现监管机构与公众的有效监督。建立健全训练数据审核与偏见检测机制，从源头规避数据偏向性引发的算法歧视，确保算法价值导向契合主流意识形态。构建算法动态优化模型，优先推荐权威、理性、多元的内容，结合语义分析与事实核查技术筛选优质信息，引入负面反馈机制降低极端、虚假内容推荐权重，让系统依据社会反馈持续校准认知偏差，将技术工具转化为认知安全的防护屏障。
（二）社会治理：培育公众认知免疫力与韧性
社会治理的关键是弥合不同群体的“数智鸿沟”，引导技术服务商与网络平台践行技术向善理念。借助AI交互工具与生成式人工智能的自然语言优势，降低智能技术使用门槛，保障弱势群体平等获取信息的合法权利。广泛开展沉浸式认知安全教育，通过模拟认知操纵场景提升公众识别能力，激活心理防御机制。强化公众心理调适训练，引导公众建立稳定价值坐标系，增强对情绪化、极端化内容的理性辨析力。主流媒体发挥核心作用，用AI分析公众认知需求，加大主流价值优质内容供给，引导技术服务商将主流价值嵌入研发全流程，推动平台提高优质内容推荐权重，共建理性网络认知环境。
（三）制度治理：完善法治化协同监管体系
制度治理需加快完善法治化协同监管体系，将智能传播认知域治理提升至国家安全战略高度。稳步推进《人工智能法》立法，明确生成式AI与推荐算法的责任与导向，进一步厘清认知操纵、深度伪造等新型网络安全威胁的法律界定标准与处罚细则。压实网络平台的主体责任，推动其从流量导向的运营逻辑转向安全优先逻辑，成为国家认知安全的核心“把关人”。将“清朗”“净网”专项整治行动制度化，精准打击“网络水军”“深度伪造”等各类网络违法犯罪行为。建立跨部门的协同监管机制，依托人工智能实现认知安全风险监测、预警、处置的全链条闭环管理，在重大舆情中快速抢占解释权与主导权。
三、深化国际合作：共建全球认知安全共同体
（一）推动规则标准协同，夯实治理基础
我国需积极参与联合国、G20等框架下的人工智能全球治理对话，牵头制定内容标识、溯源认证等国际技术标准，反对个别国家的算法垄断行径，构建兼容并包的人工智能全球治理规则体系。为AI生成内容嵌入不可篡改的“数字指纹”，推动显性标识、隐性水印等强制性规范实现国际通用，保障人工智能生成内容在国际传播中的全程可追溯性。针对涉及深度伪造技术的高风险AI模型，参照战略物资与军品管理标准实施严格的进出口管制和应用审查，严防此类模型沦为认知战武器，规避全球治理碎片化问题，从源头阻断外部认知风险的渗透。
（二）强化执法技术协作，提升应对效能
携手各国构建跨国“认知威胁”情报共享与联合研判平台，将情报共享范围拓展至模型、算法、传播内容等多个维度，依托国际刑警组织共享AI诈骗话术、合成音视频指纹等涉网犯罪信息，搭建全球性认知病毒特征库，重点打击利用AI实施的跨境认知操纵、深度伪造等犯罪行为。推动认知安全反制技术研发的开源共享，支持国际科研机构合作攻关内容鉴伪、情绪识别等关键技术，探索建立电子证据跨境快速调查机制，提升跨境取证与联合执法的效率。将认知安全纳入现有国际执法合作机制，形成常态化的联合执法行动能力，同时为技术能力薄弱的发展中国家提供技术援助与能力建设支持，避免其沦为网络犯罪的“安全洼地”。
（三）搭建多元对话平台，凝聚价值共识
依托世界互联网大会等多边交流平台，积极倡导“平等、包容、互鉴”的网络治理观，坚决反对算法霸权与价值观强加的行为，推动构建平等的网络对话机制。促进不同文明在网络空间的对话与互鉴，以“数智华流”等跨文化交流载体为依托，借助人工智能讲好中国故事，消解因文化误读引发的认知隔阂。着力缩小全球智能发展鸿沟，让人工智能技术发展红利惠及广大发展中国家，培育全球公众的认知韧性，推动构建政府、企业、学界、民间社会共同参与的全球认知安全治理共同体，以文明交流消解认知冲突，践行网络空间命运共同体理念。
人工智能既是认知安全挑战的变量，更是治理创新的增量。我们必须坚持发展与安全并重、自主与开放并举的原则，将技术赋能、社会培育、制度保障与国际合作有机统一，推动人工智能从认知安全的风险源转化为防护盾。唯有如此，方能筑牢国家认知安全的坚固防线，持续营造清朗的网络空间，为推进国家安全体系和能力现代化、建设更高水平的平安中国注入坚实动能，也为全球数字文明发展贡献中国智慧与中国方案。
【作者侯淑花系贵州师范学院文学与传媒学院学生；作者娄立原系贵州师范学院文学与传媒学院副教授】
2026年是习近平总书记提出总体国家安全观12周年，4月15日将迎来第十一个全民国家安全教育日。当前人工智能技术取得了飞速的发展，深度重塑了信息生产与传播逻辑。国家认知安全是非传统安全的核心维度之一，其作用边界已由物理域、信息域逐步拓展至认知域。认知域是人类开展感知、认知、决策与实践行动的心理空间和思维体系，囊括价值观、文化信仰、意识形态等精神内核，认知战也随之成为大国竞争中影响群体认知导向的重要手段。习近平总书记强调：“要把捍卫国家政治安全摆在首位，坚定维护国家政权安全、制度安全、意识形态安全；加强网络安全、人工智能安全等方面工作。”面对智媒时代认知风险的系统性演化，我国亟须以人工智能赋能网络生态治理，构建“技术—社会—制度—国际”四位协同的国家认知安全防护体系。
一、智媒时代国家认知安全的风险图景
人工智能驱动下，认知安全风险已在信息传播全链条形成结构性嵌入。内容生成环节，AIGC技术让虚假信息呈现规模化、拟真化、低成本的特征，深度伪造内容不断模糊真实与虚构的边界，还能通过叙事优化引导公众形成特定认知框架。渠道分发环节，算法推荐与用户固有认知偏见形成“反馈—强化”的闭环，以流量为导向推送情绪化内容，进一步加剧信息茧房与群体极化现象。受众反馈环节，用户情绪数据被算法精准捕获，并反向塑造网络内容生态，在“反馈—学习—放大”闭环中推动舆论场从理性讨论逐渐滑向情绪动员。这三重风险环环相扣，让认知操纵从偶发事件演变为嵌入日常传播结构的系统性威胁，对社会主流价值认同与公共共识凝聚构成严峻挑战。
二、人工智能赋能网络生态治理的三维路径
（一）技术治理：筑牢认知安全的算法根基
技术治理的核心是聚焦智能体认知逻辑的可解释性与公平性，智能体具备独立自主的感知、规划与决策能力，其认知黑箱问题是技术治理的关键。大力推广可解释人工智能（XAI）技术，让内容生成与算法推荐逻辑透明可溯，实现监管机构与公众的有效监督。建立健全训练数据审核与偏见检测机制，从源头规避数据偏向性引发的算法歧视，确保算法价值导向契合主流意识形态。构建算法动态优化模型，优先推荐权威、理性、多元的内容，结合语义分析与事实核查技术筛选优质信息，引入负面反馈机制降低极端、虚假内容推荐权重，让系统依据社会反馈持续校准认知偏差，将技术工具转化为认知安全的防护屏障。
（二）社会治理：培育公众认知免疫力与韧性
社会治理的关键是弥合不同群体的“数智鸿沟”，引导技术服务商与网络平台践行技术向善理念。借助AI交互工具与生成式人工智能的自然语言优势，降低智能技术使用门槛，保障弱势群体平等获取信息的合法权利。广泛开展沉浸式认知安全教育，通过模拟认知操纵场景提升公众识别能力，激活心理防御机制。强化公众心理调适训练，引导公众建立稳定价值坐标系，增强对情绪化、极端化内容的理性辨析力。主流媒体发挥核心作用，用AI分析公众认知需求，加大主流价值优质内容供给，引导技术服务商将主流价值嵌入研发全流程，推动平台提高优质内容推荐权重，共建理性网络认知环境。
（三）制度治理：完善法治化协同监管体系
制度治理需加快完善法治化协同监管体系，将智能传播认知域治理提升至国家安全战略高度。稳步推进《人工智能法》立法，明确生成式AI与推荐算法的责任与导向，进一步厘清认知操纵、深度伪造等新型网络安全威胁的法律界定标准与处罚细则。压实网络平台的主体责任，推动其从流量导向的运营逻辑转向安全优先逻辑，成为国家认知安全的核心“把关人”。将“清朗”“净网”专项整治行动制度化，精准打击“网络水军”“深度伪造”等各类网络违法犯罪行为。建立跨部门的协同监管机制，依托人工智能实现认知安全风险监测、预警、处置的全链条闭环管理，在重大舆情中快速抢占解释权与主导权。
三、深化国际合作：共建全球认知安全共同体
（一）推动规则标准协同，夯实治理基础
我国需积极参与联合国、G20等框架下的人工智能全球治理对话，牵头制定内容标识、溯源认证等国际技术标准，反对个别国家的算法垄断行径，构建兼容并包的人工智能全球治理规则体系。为AI生成内容嵌入不可篡改的“数字指纹”，推动显性标识、隐性水印等强制性规范实现国际通用，保障人工智能生成内容在国际传播中的全程可追溯性。针对涉及深度伪造技术的高风险AI模型，参照战略物资与军品管理标准实施严格的进出口管制和应用审查，严防此类模型沦为认知战武器，规避全球治理碎片化问题，从源头阻断外部认知风险的渗透。
（二）强化执法技术协作，提升应对效能
携手各国构建跨国“认知威胁”情报共享与联合研判平台，将情报共享范围拓展至模型、算法、传播内容等多个维度，依托国际刑警组织共享AI诈骗话术、合成音视频指纹等涉网犯罪信息，搭建全球性认知病毒特征库，重点打击利用AI实施的跨境认知操纵、深度伪造等犯罪行为。推动认知安全反制技术研发的开源共享，支持国际科研机构合作攻关内容鉴伪、情绪识别等关键技术，探索建立电子证据跨境快速调查机制，提升跨境取证与联合执法的效率。将认知安全纳入现有国际执法合作机制，形成常态化的联合执法行动能力，同时为技术能力薄弱的发展中国家提供技术援助与能力建设支持，避免其沦为网络犯罪的“安全洼地”。
（三）搭建多元对话平台，凝聚价值共识
依托世界互联网大会等多边交流平台，积极倡导“平等、包容、互鉴”的网络治理观，坚决反对算法霸权与价值观强加的行为，推动构建平等的网络对话机制。促进不同文明在网络空间的对话与互鉴，以“数智华流”等跨文化交流载体为依托，借助人工智能讲好中国故事，消解因文化误读引发的认知隔阂。着力缩小全球智能发展鸿沟，让人工智能技术发展红利惠及广大发展中国家，培育全球公众的认知韧性，推动构建政府、企业、学界、民间社会共同参与的全球认知安全治理共同体，以文明交流消解认知冲突，践行网络空间命运共同体理念。
人工智能既是认知安全挑战的变量，更是治理创新的增量。我们必须坚持发展与安全并重、自主与开放并举的原则，将技术赋能、社会培育、制度保障与国际合作有机统一，推动人工智能从认知安全的风险源转化为防护盾。唯有如此，方能筑牢国家认知安全的坚固防线，持续营造清朗的网络空间，为推进国家安全体系和能力现代化、建设更高水平的平安中国注入坚实动能，也为全球数字文明发展贡献中国智慧与中国方案。
【作者侯淑花系贵州师范学院文学与传媒学院学生；作者娄立原系贵州师范学院文学与传媒学院副教授】
