在ISC.AI 2026大会上，360集团首席科学家兼高级副总裁潘剑锋指出，AI漏洞挖掘技术已从备受质疑发展为对安全人员形成实质性挑战。他强调，这一转变并非预示行业人才危机，而是推动安全体系向更高维度演进的契机。针对智能体特有的安全风险，潘剑锋提出"驾驭AI不确定性"的治理框架，为应对新型威胁提供系统性解决方案。
传统安全防御体系正面临计算范式变革带来的根本性冲击。潘剑锋分析称，确定性计算主导的传统软件时代，人类通过抽象建模将现实世界转化为机器可处理的规则。但大模型技术使计算逻辑发生逆转——机器开始直接理解模糊的人类意图，这种从确定到不确定的转变虽然赋予AI强大的推理能力，却也催生了前所未有的安全风险。相同输入可能触发不同处理路径的特性，使得智能体的行为结果具有不可预测性。
应对策略需从被动防御转向主动管控。360提出的三层治理体系包含：输入层通过恶意意图识别引擎构建第一道防线，采用"以模治模"策略，利用专项训练模型解析隐藏攻击指令；推理层部署世界认知模型提供决策锚点，通过建立现实世界运行规律的知识库，约束模型推理过程；执行层运用环境孪生沙箱技术，对智能体操作进行实时监控与异常回滚，确保行为边界可控。数据优势成为该体系的核心竞争力，360整合的搜索日志、攻防案例和合规数据形成的语料库，使开源模型安全性提升10%-30%。
市场格局将呈现专业化分工特征。潘剑锋预测，安全能力将成为智能体产品的标准配置，但不会形成单一垄断格局。类似手机行业生态，头部企业占据基础市场的同时，垂直领域将涌现大量专业安全服务商。他特别指出，AI厂商无法取代专业安全公司，因为安全防御高度依赖攻防经验积累和行业知识沉淀。不过，AI技术正在重塑行业准入标准，具备算法优化能力和数据资产的企业将获得竞争优势。
