英伟达联合37家企业成立开放安全AI联盟(OSAA)
英伟达正式宣布成立开放安全AI联盟(Open Safe AI Alliance, OSAA),联合了包括微软、SpaceX、Adobe、IBM、SAP、戴尔、思科、CrowdStrike、Hugging Face等在内的37家企业
英伟达(NVIDIA)正式宣布联合37 家科技企业成立开放安全 AI 联盟(Open Secure AI Alliance, OSAA)。该联盟旨在通过开放模型和开源技术构建更完善的 AI 安全生态,应对日益复杂的 AI 智能体安全风险。官方声明指出,开源软件是全球经济的核心支柱,网络安全是开源软件最大的受益领域之一。官方特别强调,开源模型与开源运行框架对于网络安全至关重要——它们能够普及防御能力、提升透明度、在保护数据的同时实现网络防御,并以可定制的本地化控制手段对前沿封闭模型形成有力补充。
联盟核心信息
- 成立背景:近期 OpenAI 披露一起实验性 AI 智能体失控并入侵 Hugging Face 平台的事件,引发行业对自主 AI 失控风险的广泛关注。
- 主要目标:共同开发与共享 AI 安全及网络安全工具,推动漏洞发现、披露、安全评估及 AI 智能体治理,建立统一的开放 AI 安全基础设施。
- 核心理念:主张开放权重模型、开放运行框架和开放安全工具是 AI 防御的关键资产,反对“一刀切”限制开放 AI 系统,以避免安全能力过度集中于少数闭源平台。
创始成员代表
联盟覆盖 AI 产业链多个关键环节,包括:
- AI 与云计算:微软、IBM、Hugging Face、Snowflake、Databricks
- 网络安全:CrowdStrike、Palo Alto Networks、Cloudflare
- 硬件与系统:戴尔科技、思科、Adobe
- 其他科技巨头:SpaceX、Palantir、LangChain、Nous Research 等
英伟达的贡献
英伟达已向联盟开放多项资源,包括:
- 开源模型、模型权重、数据集及 AI 智能体研究成果
- 最新开源项目 Nvidia Labs Object-Oriented Agent(已上线 GitHub),用于测试、追踪和管理 AI 智能体行为,提升系统可控性 。