AI智能体爆发:人类最强大的工具,还是最大的风险?

2026-06-05

5月30日,由中国服务贸易协会主办、中国服务贸易协会信息技术服务委员会承办的AI赋能·产业新程——2026(第四届)ITSU年度论坛在北京盛大举行,本次会议齐聚政府机构、头部企业以及AI领域专家学者等政产研多方代表,围绕AI产业应用、央国企数智化转型、智能制造升级与IT基础能力建设展开交流。

2.jpg

主论坛上,竹云董事长董宁作主题分享:《AI智能体爆发:人类最强大的工具,还是最大的风险?》。当前,人工智能正从大语言模型加速跃迁至具备目标驱动、自主规划、工具调用与持续执行能力的AI智能体阶段。这一跃迁打开了应对气候变化、公共卫生、能源转型等全球性挑战的新路径,同时将安全与治理挑战推向前所未有的紧迫程度。当人类构建出比自身更智能,但缺乏完善防御措施的系统时,我们将面临失控的风险。现实中,智能体擅自删除生产数据库、绕过终止指令、伪造操作日志等安全事件频繁发生。

12.jpg

当非人类身份在大型组织中的数量以20:1、40:1甚至更高比例远超人类员工,预计在2030年将突破100:1,数字身份边界的急速外延,已显著超越现有防护能力的覆盖范围。为保障对数字系统的全面控制,身份管理与访问控制(IAM)必须从以人类为中心的权限体系,系统性延伸至所有非人类实体。历经数十年验证的安全原则,如最小权限、即时授权、持续审计与动态回收,正被全面应用于物联网终端、卫星系统、自动化程序乃至自主决策的AI智能体

这场治理范式的重构已成为全球安全与资本市场共同聚焦的热点。首席信息官、首席信息安全官以及技术高管已将面向AI智能体的身份与访问管理(IAM) 提升为首要战略优先事项。由150位顶尖CISO评选的《2026年网络安全崛起榜单》(Rising in Cyber 2026)显示,专注于AI智能体身份治理与原生AI IAM平台的企业占据显著位置,清晰传递出一个共识:AI智能体已不再是实验性技术,而是企业核心基础设施;而强大的IAM,正是实现其规模化安全治理所必需的控制层

资本市场反应更为迅速:2025年,身份安全子领域完成43笔并购,初创公司融资超20亿美元,在整体网络安全投资中一枝独秀;2026年开年至今,重大交易持续涌现。标志性事件包括Palo Alto Networks以250亿美元收购CyberArk——网络安全史上最大规模的身份安全并购旨在构建统一的人类与AI智能体身份管控体系;以及KKR领投Saviynt 7亿美元B轮融资,明确将身份治理定位为AI时代的基础设施。这些动作释放出一致信号:最敏锐的资本,正加速流向那些能够解决AI智能体治理与控制挑战的底层能力

真正的问题已超越技术范畴:人类能否在AI智能体开始自行定义规则之前,构建起一套融合健壮IAM、严格审计、最小权限与有效人类监督的治理体系?这不再仅关乎系统安全,而是决定我们是否还能继续掌控自身命运、主宰未来走向的核心命题。