乐测科技圈热点AI-CN.TOP
更新于 2026年8月3日
每日更新 · 正式数据
首页 / 开发者生态 / AI模型与技术

开放AI安全联盟首批工具瞄准智能体审计

Open Secure AI Alliance计划围绕智能体身份、隔离、审计和漏洞处理共享开放工具,首批项目已包括NOOA等研究框架。

乐测科技圈热点编辑部已完成多源核验

联盟搭起台,标准还在路上

NVIDIA在7月27日公布Open Secure AI Alliance,试图把芯片、云计算、企业软件、网络安全和开源社区的工具整合到AI智能体防护中。首批参与者包括Microsoft、Cisco、Cloudflare、CrowdStrike、Hugging Face、IBM、Red Hat、Linux Foundation等机构。联盟提出的目标是开发和共享开放技术,用于识别、修复和披露软件及AI系统中的漏洞。成员数量和行业覆盖面较大,但联盟成立本身并不等于统一标准已经完成。

联盟把安全对象从“模型”扩展到完整智能体栈。一个智能体除了语言模型,还包含连接模型与外部系统的运行框架、身份、权限、工具调用、隔离环境、日志、评测和防护规则。企业真正部署时,风险往往来自组件之间的连接:智能体是否拿到超出任务需要的权限,能否调用敏感工具,输入是否诱导其执行错误动作,日志能否还原决策过程,以及多个模型和代理协作时谁负责阻断异常。

首批公开项目不是单一产品。NVIDIA提供NVIDIA Labs Object-Oriented Agent(NOOA)研究框架,目标是帮助智能体运行框架与模型衔接,使行为更容易测试、追踪、审计和治理。HPE参与的SPIFFE/SPIRE用于零信任身份和工作负载验证;Hugging Face贡献Safetensors安全模型权重格式;IBM与Red Hat的Lightwell涉及开源供应链中的签名补丁;Microsoft的MDASH使用多模型智能体扫描和验证可利用漏洞。它们覆盖身份、模型格式、补丁、扫描和运行框架等不同层面。

NVIDIA和Linux Foundation都强调开放工具的可检查性。Linux Foundation认为,模型权重和运行框架可观察、可测试,有助于独立评测、红队测试和共享修复;同时也承认开放权重存在被修改、滥用和难以追踪的风险。开放并不会自动带来安全,仍需要严格评测、基础设施防护、治理规则和人工监督。联盟的实际价值取决于能否把这些原则转化为代码、接口、测试套件和持续维护。

联盟还以近期安全事件说明防守方需要在自有基础设施运行和调整模型,但相关案例主要由联盟发起方用于说明立场,不能单独证明开放方案一定优于封闭方案。企业可能同时采用开放与封闭模型,关键是权限、数据和审计能力能否跨供应商工作。如果各成员项目采用不同许可证、日志格式、身份体系和漏洞流程,联盟仍可能只是工具集合,而不是可组合的防护栈。

目前能够确认的是成员名单、联盟目标和一批已经点名的开源项目;尚未明确的包括正式治理架构、兼容性认证、版本路线、漏洞披露责任和长期资金安排。OpenAI、Google和Anthropic没有出现在首批名单中,也意味着联盟暂时不能代表所有主要模型提供者。后续要看主流智能体框架和企业客户是否真正采用相关接口,而不是只看参与机构数量。

智能体的风险,不只来自模型

AI智能体不只是模型,还包含身份、权限、运行框架、日志和防护规则。不同产品若采用彼此不兼容的审计与隔离方式,企业很难统一检查工具调用和数据访问。联盟试图解决的正是这些跨平台问题。

一堆开源工具,能不能拼成防线

现阶段可以确认的是,多家成员已提供身份验证、安全模型格式、补丁签名和多模型扫描等项目。它们能否组合成稳定的开放防护栈,要看后续接口、许可证、测试方法和版本维护。

安全投入会流向哪里

机会主要落在AI身份、权限管理、运行隔离、可观测性、漏洞扫描和安全评测等企业服务。智能体接入更多内部系统后,这些能力可能从可选工具变为部署条件;能够跨模型、跨云并提供清晰审计证据的产品更有机会形成持续需求。

影响也可能是双向的。共同标准有助于联盟成员扩大生态,却可能削弱封闭接口的差异化,并推动基础功能开源化。商业价值更可能集中在托管服务、企业集成、持续监控和响应能力。判断机会应看代码维护、兼容认证、客户部署与续费,而不是联盟名单;本段不构成对参与公司的投资建议。

三家头部厂商缺席的分量

成员名单很长,但OpenAI、Google和Anthropic未出现在首批名单中。联盟因而不能代表所有主要模型供应商。若缺少明确治理和兼容测试,各项目仍可能各自运行,难以形成共同标准。

下一步,先看代码和兼容性

重点包括技术委员会和治理规则、首批代码仓库的维护频率、漏洞披露流程,以及主流智能体框架是否实际采用相关接口。

专题:AI模型与技术

#AI安全#开源软件#智能体#Linux基金会