您的当前位置: 首页安全动态安全新闻 ≡ 正文
安全新闻

AI安全成为国家级战略:世界人工智能大会推动AI安全进入新阶段

编辑:时间:2026/09/03点击数:

2026年7月17日至20日,世界人工智能大会(WAIC)在上海举行。如果说前几届WAIC的主题是”AI能做什么”,今年这届的主题更像是”AI怎么管”。而”管”的核心,落在了安全两个字上。 

这不是一句空话。一天之内,从国家最高信号到产业技术落地,AI安全的全链路被一次性打通:国家主席讲话定调、5份政策文件密集发布、产业头部企业集体亮出AI原生安全产品、学术界拿出全链路安全验证体系。这种密度,在历届WAIC中前所未有。


一、国家级高度:习近平主席的四句话”

开幕式上,习近平主席发表主旨讲话,提出4点意见。其中第二点直接指向安全——“强化风险意识,确保安全可控”。原话是:“要高度重视人工智能引发的各类内生和衍生风险,推动构建法律法规、技术监测、风险预警、应急响应体系,筑牢安全底线,防范滥用恶用,确保人工智能始终处于人类控制之下。”

这句话信息量极大。拆开来看,至少包含五层意思:

• “内生和衍生风险”——不只是AI本身的bug,还包括AI被滥用后衍生出的次生风险

• “法律法规、技术监测、风险预警、应急响应”——四套体系并行,不是单靠技术或单靠法律

• “筑牢安全底线”——底线思维,不是弹性建议

• “防范滥用恶用”——既防无意失误,也防有意作恶

• “始终处于人类控制之下”——这是总纲,所有具体措施的落脚点

更值得注意的是紧跟其后的另一句:“共同反对在人工智能领域泛化国家安全概念、把本国安全凌驾于他国安全之上的做法。”这句话指向的是当前全球AI治理中的碎片化趋势——部分国家以安全为由搞技术封锁、标准壁垒。中国在这里亮明态度:安全要讲,但不能变成霸权工具。


二、政策密集落地:7份文件一天发布

如果说主席讲话是“定调”,那么同一天密集发布的7份安全相关文件就是“施工图”。这是WAIC 2026最不同于往届的地方——安全不再是论坛上的讨论话题,而是变成了可执行的政策文本。

7份文件覆盖了从顶层设计到技术标准的完整链条:

发布文件/成果

发布场合

核心内容

主席声明(七大安全条款)

开幕式

构建法律法规、技术监测、风险预警、应急响应体系;分类分级管理;反对泛化国家安全概念;大模型加装护栏

《智能体互信互联互操作全球合作倡议》

主论坛

智能体全生命周期安全治理框架;约束自主联网、跨平台数据调取权限;全球协同防范自动化网络攻击

《人工智能合作发展行动计划》

主论坛

八大行动含安全治理协作板块;推动全球AI网络安全标准互通、漏洞信息共享、跨境数据安全流转规则统一

《中国人工智能安全承诺框架》

主论坛

企业AI数据防护、网络基础设施安全、模型投毒防御强制指引

《前沿AI风险管理框架》2.0版

安全论坛

全生命周期治理升级;覆盖高性能推理模型、轻量级开源模型、智能体、具身智能、脑机接口

《前沿AI风险监测平台》2.0版

安全论坛

实时监测前沿AI风险,2.0版升级监测维度和响应速度

《通用型AI智能体L1-L5分级安全框架白皮书》

安全论坛

L1基础级到L5全自主级五级递进式安全分级;梯度适配各类应用场景

表1:WAIC 2026安全相关发布一览

其中最值得关注的,是《智能体互信互联互操作全球合作倡议》。这是全球首个专门针对智能体安全的合作倡议,三条核心要求直击要害:把安全嵌入智能体研发部署运维全生命周期;约束智能体自主联网和跨平台数据调取权限、全程行为可追溯;全球协同防范智能体发起自动化网络攻击、爬虫窃取数据、诱导内网越权访问。

为什么这份倡议重要?因为智能体(Agent)和大模型不是一回事。大模型回答问题,智能体执行任务。一个能自主联网、自主调用工具、自主决策的AI,其安全风险跟一个只会聊天的AI完全不在一个量级。这份倡议相当于给智能体时代立了规矩。


三、技术标准:智能体L1-L5分级安全框架

如果说政策文件解决的是“要不要管”的问题,那么《通用型AI智能体L1-L5分级安全框架白皮书》解决的就是“怎么管”的问题。这份白皮书构建了L1到L5五级递进式智能体安全分级体系,层级清晰、梯度适配各类应用场景。

图2:通用型AI智能体L1-L5分级安全框架

五级划分的逻辑很清晰:

•L1基础级:守住行业基本合规底线,具备基础安全防护能力

•L2进阶级:强化安全管控能力,具备基础安全防护与审计能力,可抵御常规安全风险

•L3自主级:具备全生命周期安全防护体系,可抵御中高级安全威胁

•L4高自主级:在L3基础上增加动态风险评估和实时熔断机制

•L5全自主级:最高等级,要求可信执行环境和零信任架构

这个分级框架的妙处在于:它没有一刀切。不同应用场景的智能体,可以对应不同安全等级。一个客服聊天机器人可能L2就够了,但一个能操作工业控制系统的智能体,必须达到L4甚至L5。图中标注的“控制权交接临界点”在L3和L4之间——过了这条线,人类控制度低于自主度,安全架构必须发生质变。

这跟清华大学发布的《智能体安全研究报告2026》中的能力成熟度分级高度一致:L1只读、L2受限工具、L3半自动、L4闭环自治、L5高保证自治。学界和产业界在分级思路上已形成共识。


四、产业共识:AI带来三大全新网络安全威胁

WAIC 2026不只是政策发布平台,也是产业共识形成的场域。本届大会上,来自安全厂商、AI企业、研究机构的参与者形成了明确共识:AI带来了三类传统网络安全框架无法覆盖的全新威胁。

图3:AI三大新威胁维度对比(评分越高=威胁越严重)


第一类:模型侧网络攻击。提示词注入、模型越狱、数据投毒——黑客通过网络远程篡改大模型的输出逻辑。这不是传统意义上的“黑掉系统”,而是“骗过AI”。攻击面从代码层转移到了语义层,传统防火墙完全无效。

第二类:智能体自主联网风险。这是最全新的一类。自主智能体可以自动爬取内网文件、对外传输敏感数据、批量发起网络扫描。一个被恶意指令操控的智能体,行为模式像极了内部威胁,但它不是人,传统内网监控识别不了。在雷达图上,这类威胁的“防御难度”和“监管空白度”都接近满分。

第三类:关键基础设施新型攻击。攻击者利用AI生成定向恶意代码、伪造业务流量,渗透电力、工业互联网、政务内网。影响范围满分、攻击复杂度接近满分——这是后果最严重的一类。主席讲话中特别点名“电力、金融、交通等关键基础设施”,对应的就是这一类。


五、产业破局:从打补丁”到内生安全”

威胁变了,防御方式也必须变。WAIC 2026上,安全厂商和AI企业集体展示了一个思路转变:从“事后打补丁”走向“事前内生安全”。

360:AI重构攻防,漏洞对抗进入机器速度时代

360创始人周鸿祎在会后表示:“不发展才是最大的不安全。”这句话点出了一个关键:安全不是发展的对立面,而是发展的基础设施。360现场展示了“智能体蜂群防御系统”——自动化扫描企业内网AI节点漏洞、拦截越狱和提示词注入攻击;以及“全场景AI安全网关”——统一管控企业所有大模型和智能体的对外网络流量,封堵数据外传通道。

周鸿祎的判断是:漏洞攻防已经从“人工时代”进入“机器速度时代”。人类安全团队的反应速度跟不上AI攻击的速度,必须用AI防AI。

奇安信:AI原生安全产品全家桶

奇安信展区拿出了四款AI原生网络安全产品:AI安全网关(企业AI统一网络入口,解决第三方接口数据泄露)、代码安全智能体Qcode Agents(自动挖掘研发内网代码漏洞)、安全运营数字员工(7×24小时监控内网AI节点异常联网)、智能体安全运行平台(限制智能体访问核心数据库和工业控制系统)。四款产品覆盖了从网络入口到代码层到运行时的完整链路。

上海AI实验室:书安”基座与SafeWork体系

上海AI实验室发布“书安”AI安全基座平台,涵盖“孪生演练平台、智能验证矩阵、数据进化飞轮”三大核心模块。这不是某个具体产品,而是一个全链路安全验证体系——可复现、可评估、可进化。其SafeWork安全技术栈对AI风险进行“评估-训练-基座-应用-验证”全方位风险管理,推动从“让AI变得安全”向“打造安全的AI”转变。

这句话值得细品。“让AI变得安全”是外挂式安全——训练完模型再打补丁。“打造安全的AI”是内生式安全——从架构设计阶段就把安全嵌入进去。这个理念转变,跟主席讲话中“推动构建法律法规、技术监测、风险预警、应急响应体系”的思路完全一致。蚂蚁密算则从另一侧切入,其发布的HOP 3.0用“双态融合”让智能体执行更可控,密态计算则守住数据流通安全——已通过等保四级认证,并获浙江省科技进步一等奖。


六、全链路贯通:从国家信号到场景落地

把上面这些信息拼在一起,会发现WAIC 2026做了一件前所未有的事:在一天之内,把AI安全的全产业链路打通了。

图4:WAIC 2026安全产业链全链路贯通

五个层级,层层递进:国家信号定调(主席讲话)→ 政策框架立规(7份文件)→ 技术标准定标(L1-L5分级)→ 产业方案落地(360/奇安信/上海AI实验室/蚂蚁密算)→ 场景应用赋能(电力/金融/政务/工业互联网)。

这条链路的关键在于“贯通”。往年AI安全的讨论,往往停留在某一层——要么政策层要求,要么技术层发论文,要么产业层推产品,各层之间缺乏衔接。WAIC 2026第一次让五层同频共振:政策有技术标准支撑,技术标准有产业方案兑现,产业方案有场景需求牵引。


七、三个判断

判断一:AI安全已从可选动作”变成规定动作”。

主席讲话+7份文件+L1-L5分级标准,三重信号叠加,意味着AI安全不再是企业“做了更好”的加分项,而是“必须做”的合规底线。《中国人工智能安全承诺框架》已经对企业AI数据防护、网络基础设施安全、模型投毒防御作出强制指引。下一步,配套监管措施和执法细则大概率会跟进。

判断二:智能体安全是下一个主战场。

大模型安全是2024-2025年的焦点,但大模型本质上是“被动响应”——你问它答,风险相对可控。智能体不同,它能自主行动。一个能自主联网、自主决策、自主执行的AI,其安全风险呈指数级上升。《智能体互信互联互操作全球合作倡议》和《L1-L5分级安全白皮书》同时发布,说明决策层已经看清:智能体时代的安全问题,跟大模型时代不是一个量级。360的“智能体蜂群防御”、奇安信的“智能体安全运行平台”、上海AI实验室的“书安”系统,产业界已经提前卡位。

判断三:用AI防AI”成为产业共识。

周鸿祎说“漏洞攻防已经从人工时代进入机器速度时代”,这句话点出了本质:AI攻击的速度远超人类反应速度,传统的人工安全团队模式已经扛不住了。360的蜂群防御、奇安信的安全运营数字员工、上海AI实验室的孪生演练平台,本质上都是用AI对抗AI。这不是技术路线选择,而是唯一的生存策略。就像主席讲话说的——“确保人工智能始终处于人类控制之下”,但实现这个目标的方式,恰恰是让AI帮人类管住AI。

WAIC 2026传递的最强信号,不是某一份文件或某一个产品,而是“密度”本身。一天之内,从国家最高信号到产业技术落地,五层链路全部打通,七份文件密集发布,三大新威胁形成共识,L1-L5分级标准正式落地。这种密度说明一件事:AI安全已经不是“未来的问题”,而是“现在的问题”。

正如习近平主席在讲话最后引用的那句古语——“明者因时而变,知者随事而制。”AI技术发展越是一日千里,安全治理越要精准把握。WAIC 2026,也许会被后来者标记为AI安全从“讨论阶段”进入“施工阶段”的转折点。

Copyright © 2019-2022.  南京农业大学信息化建设中心  All rights reserved.
地址:江苏省南京市玄武区卫岗1号  邮编:210095  电话:86-25-84396018