业界热议AI安全护栏升级路径

近年来，人工智能(AI)技术快速发展，相关安全问题也引发各界关注。接受中国证券报记者采访的网络安全专家和企业高层表示，传统网络安全工作应融入AI能力，从被动防御升级为主动防护。此外，企业在融入AI能力的过程中，应确立安全先行、自主可控的建设原则，掌握数据安全与业务发展的主动权。

关注安全漏洞

近日，OpenAI在官网发布安全事件调查报告，披露其内部模型在评测期间发生的一起自主突破隔离环境的安全事件。

报告显示，这项测试的核心目的是检验模型能否识别安全漏洞，并将漏洞转化为可执行的攻击手段。测试过程中，尽管模型被部署在与外网物理隔离的沙箱测试环境中，但它通过投入大量推理算力，持续寻找访问开放互联网的路径，随后在程序包注册表缓存代理中发现了零日漏洞，并逐步抵达访问互联网的节点，最终尝试从人工智能开源平台Hugging Face生产数据库中直接获取测试答案。这一活动被Hugging Face的安全团队与智能体检测并阻止。

OpenAI在该事件中得出结论——“AI正在加速漏洞的发现和利用”。

中国信息通信研究院人工智能研究所安全治理部主任石霖对记者表示，过去行业谈论AI安全，大多聚焦于模型生成虚假信息、违规内容等层面；而本次事件中，模型仅为达成测试高分的单一目标，在无任何人工额外指令干预的前提下，自主挖掘零日漏洞、串联完整攻击链路、突破物理隔离环境、入侵第三方生产系统。这意味着具备自主决策、工具调用能力的AI智能体，已经拥有对现实数字世界造成实质破坏的能力，AI安全风险从“说错话”演变为“做错事”。

与此同时，事件也暴露了当前信息基础设施存在的安全短板与脆弱性。石霖认为，当前安全防护体系高度依赖已知的攻击方式，对AI可能带来的未知攻击方法和漏洞暴露风险认知存在明显局限，导致网络安全攻防两端的能力出现失衡。

OpenAI也在报告中表示，模型安全举措必须跟上模型发展进程。高级网络能力的开发必须与更强的保障措施和防御工具同步推进。

改变工作模式

在网络安全领域，渗透测试是一种常用的防护手段：通过主动对系统进行安全检测，模拟黑客攻击思路与手段，提前发现漏洞。如今，这一安全防护手段正在被AI技术改写。

绿盟科技集团CTO、高级副总裁叶晓虎对记者表示，从行业看，近年来利用AI技术进行网络攻击的事件在增加。同时，AI工具使得网络攻击的成本降低、速度提升。由于攻击链条变得复杂，传统依靠人工来进行网络防守、渗透测试已经无法达到防护要求，需要借助AI工具。

叶晓虎说：“网络安全是一项对抗性的工作，新的技术会带来新的应对手段。”他表示，结合AI基座模型，融入网络安全行业的专业知识库，加上Harness框架(智能体约束框架)，形成的网络安全智能体工具可以投入实际应用。而在实际应用上，借助AI工具，还可以积累渗透测试数据，形成可复用的经验，将渗透测试变成一项常态化、持续性的工作。

同时，AI大模型还增加了渗透测试的主动性。绿盟科技集团技术专家刘红涛表示，过去基于静态检测规则，渗透测试过程中如遇到系统防护措施，会因阻断而无法达成渗透目标；而结合大模型推理能力，在渗透测试当中也会分析防护机制的薄弱性，尝试绕过以发现更深层的安全风险隐患。

AI技术应用将降低传统网络安全工作的成本。刘红涛表示，传统模式下开展一次渗透测试通常需要数天时间，针对复杂系统的测试周期更是长达十余天，单次投入成本高达数万元。而依托AI技术，当前单系统渗透测试的Token(词元)消耗量约为3000万至8000万，测试成本大幅压缩为数百元至数千元，让高频次、常态化的主动安全防御成为可行方案，也缓解了专业工程师人才供给不足的痛点。

刘红涛认为，AI赋能渗透测试的落地应用，将彻底颠覆传统网络安全服务模式。奇安信安全专家表示，用AI应对AI，已经成为安全行业的共识，通过代码安全智能体、AI安全网关等工具，行业正通过AI技术赋能传统网络安全。

设置护栏至关重要

在这次OpenAI模型导致的安全事件中，Hugging Face在官方复盘中表示，其最初尝试使用商业模型API进行事件分析，但请求受到安全策略限制，未能完成相关分析。随后，团队转而在本地基础设施部署由中国公司智谱开发的开源模型GLM-5.2，完成了整个取证分析流程。

Hugging Face在复盘中建议，企业应提前准备能够在本地基础设施运行的模型，以便在安全事件等关键场景下开展分析工作，同时保障敏感数据留存在企业环境内。

业内人士认为，这一案例反映出，随着AI逐步进入企业核心业务流程，企业越来越关注模型在真实生产环境中的部署能力、工程可用性以及完成复杂任务的能力。

奇安信安全专家认为，企业落地AI应用，需摒弃“先上线、后补漏洞”的传统思维，而应确立安全先行、自主可控的建设原则。AI并非普通应用软件，而是具备自主决策、独立执行能力的数字化主体，相当于企业的“数字员工”。对此，企业需参照人员管理标准，为AI工具建立专属身份认证、细化权限分级、明确行为规范，清晰划定AI可执行操作与禁止操作的安全红线。

同时，企业应摒弃单一防护模式，构建“人防+技防”协同的纵深防御体系，搭建从云端到终端、从网络到数据的立体防御网。在数据安全层面，企业应坚持核心数据本地化原则，针对核心数据与敏感业务，优先采用本地化AI部署方案，实现核心数据本地留存、不外泄，掌握数据安全与业务发展的主动权。