苏州市股票杠杆信息中心 AI大模型重构安全攻防：人还没反应过来，智能体已经出手了

在2026全球数贸会·西湖论剑大会上，AI安全成为重要议题。

过去几个月，AI大模型安全事件时有发生，风险正在快速外溢。比如，OpenAI智能体协同入侵Hugging Face、Anthropic的Claude模型在测试中未授权访问3家机构系统等。

据海外机构今年9月发布的一份AI行业报告，89.5%的组织在过去12个月中遭受过生成式AI相关的安全入侵，较2025年的75.1%显著上升；88.4%的组织报告至少发生过一起与AI代理相关的泄露/入侵事件。

随着AI技术的发展，网络安全发生了显著变化。AI系统大模型越来越多参与系统的生成、任务理解、作出决策并执行动作，其正在改变信息系统的构成、行为方式、对抗模式和治理对象。

老牌股票配资

以对抗模式为例。西湖论剑大会多位嘉宾提到，网络安全其实也是一种对抗，目前的对抗模式由以前的人为主体转变为以Agent为主，Agent自主决策、自主执行。

元股证券:ygzq.hk

此外，安全系统的边界也在呈动态变化，行为路径的不确定性增强了，人机交互下留给人类的干预窗口正在收窄。在Agent自主执行场景下，人类可能还来不及理解，没有时间介入、没有手段介入，这也使得系统面临着更大的风险。

大模型与智能体技术的出现，也正在推翻并重构传统的安全防御范式。

中国工程院院士吴世忠表示，“系统的内生风险超越了外延攻击，现在最大的危险不再仅仅是黑客入侵，可能还有算法本身的不可解释性、偏见、幻觉以及被诱导后的越权执行，也就是恶意行为。安全的核心变成了对智能系统怎么样校准、怎么样对齐。”

安恒信息研究院院长王欣在接受第一财经记者采访时也表示，这两年AI大模型的发展已经打破了“攻防平衡”。他提到，原来攻击者和防御者的能力水平差不多，这意味着攻击者实施犯罪的成本也会比较高。

这一系列变化直接引起了网络安全市场的调整。比起传统网络安全，目前AI安全需求迎来了高增长，已经有不少企业正在布局。

据IDC预测，中国人工智能安全收入将从2025年的44.1亿元增长至2030年的340.3亿元，五年复合增速约50.5%。作为对照，中国网络安全整体市场2024-2029年复合增速仅约8.9%，2026年整体规模约800亿元。AI安全市场的预计增速显著高于网络安全行业整体。

王欣介绍称，近两年企业端对于AI安全问题也越来越重视。他提到，原来的安全业务主要是围绕人为核心的检测和防御，未来可能会转向以AI为核心。

吴世忠认为，AI时代的博弈已经升级为“掌握了AI的人”在数字空间的较量，网络安全行业需要学习并掌控AI。

“从时间上来看，要从事后响应变成时间真空级的预测。”吴世忠表示，在毫秒级的时间窗口内，AI要在海量的网络噪音中精准捕捉到极其隐蔽的攻击前兆，在高级可持续威胁还没有形成的时候就能完成精准的预判甚至可能拦截，这将打破过去先被攻击、后补漏洞的滞后性。

安恒信息已经在进行相关业务的探索。记者注意到，西湖论剑大会现场发布了将为政企单位提供全天候智能防护的“X安全数字员工”，以及推动安全能力智能化生产与普惠化服务的“安全Token工厂”。

“过去的安全能力输出方式主要是由人提供服务，安全Token工厂是在高质量数据集基础上建立大模型智能体，之后再通过Token化的方式给千行百业提供服务。”王欣介绍，安全工厂之后将采用Token消耗的方式收费，倾向于解决具体的安全任务。

举报 第一财经广告合作，请点击这里此内容为第一财经原创，著作权归第一财经所有。未经第一财经书面授权，不得以任何方式加以使用，包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。如需获得授权请联系第一财经版权部：banquan@yicai.com 文章作者

胡淑娟

原创精选 相关阅读 壹快评｜盖茨、奥尔特曼、马斯克，为何都在担忧这件事

科技界、学界响起的安全预警，不是要给AI发展踩下急刹车，而是要为狂奔的技术系上安全带。

10313 昨天 20:08 马斯克终于交卷：Grok 4.7跑分很强，实测却翻车了？

口碑两极分化。

8 40073 09-22 12:15 从“说错话”到“做错事”，AI安全焦点正在转移

行业需要为行为控制、安全对齐与评估范式提前修路。

11398 09-21 20:41 陶冬：沃什爬出一个坑，跌入另一个坑

市场未来加息风险的评估缺少锚定，资金先走为敬。

13723 09-21 10:35 三人团队、一个Claude，攻破OpenAI内部代码库

传统依靠系统复杂性和专业人才门槛建立起来的防线正在面临新的压力苏州市股票杠杆信息中心。

7 11460 09-18 13:03 一财最热 点击关闭