英伟达联合微软等科技公司成立开放安全AI联盟旨在提高网络安全防御能力

英伟达创始人黄仁勋日前宣布联合微软等公司成立开放安全人工智能联盟(Open Secure AI Alliance)，该联盟的主要目标是提高网络安全防御水平，27 家创始成员包括英伟达、微软、Linux 基金会、SpaceX、戴尔、Cloudflare 等。而 OpenAI 和 Anthropic 等公司并没有参与该联盟。

成立该联盟的直接原因就是抱抱脸被黑：

早前开放人工智能模型和数据集托管平台抱抱脸 (Hugging Face) 遭到未知 AI 智能体发起的自主攻击 (这个 AI 智能体属于 OpenAI)，抱抱脸在发现异常后准备使用前沿人工智能模型进行安全审计和取证，但因为频繁触发网络安全防御边界导致无法使用。

最终抱抱脸在本地集群部署来自中国人工智能公司智谱发布的开源人工智能模型 GLM-5.2 并完成对攻击者的 17000 余次操作分析和取证，可以说如果没有开源人工智能模型，仅靠人工执行取证和安全分析将会严重影响效率。

英伟达在新闻稿中表示，开放安全 AI 联盟依托 Linux 基金会和 OpenSSF 社区的工作，将致力于利用开放技术修复和披露漏洞。开放安全 AI 联盟则提到抱抱脸攻击案例，这可能也是英伟达发起开放安全联盟的直接原因。

合作伙伴为联盟贡献不同要素：

英伟达及其部分合作伙伴正在积极为开放安全 AI 联盟贡献不同功能要素，英伟达表示，该联盟将提供开放模型、模型权重、数据和新型智能体框架以加速新型网络安全工具和技术的开发。

HPE 惠普企业将提供可用于加密验证 AI 智能体和服务的标准和方法，抱抱脸将提供名为 Safetensors 的安全格式来存储 AI 模型权重，微软、SpaceXAI、IBM 和红帽也将提供开源 AI 技术等。

开放安全 AI 联盟还呼吁各国政府与企业展开积极合作，共同投资开放的人工智能基础设施。即监管机构应将开放模式视为防御性资产而非负债，因为封闭式前沿人工智能系统会削弱防御能力，将权力集中在少数封闭的提供商手中。

更多相关技术内容咨询欢迎前往并持续关注好学星城论坛了解详情。

想高效系统的学习Python编程语言，推荐大家关注一个微信公众号：Python编程学习圈。每天分享行业资讯、技术干货供大家阅读，关注即可免费领取整套Python入门到进阶的学习资料以及教程，感兴趣的小伙伴赶紧行动起来吧。

发表于 1天前
阅读 ( 6 )
分类：行业资讯

英伟达联合微软等科技公司成立开放安全AI联盟旨在提高网络安全防御能力

你可能感兴趣的文章

相关问题

0 条评论

作家榜 »

英伟达联合微软等科技公司成立开放安全AI联盟 旨在提高网络安全防御能力

你可能感兴趣的文章

相关问题

0 条评论

作家榜 »

英伟达联合微软等科技公司成立开放安全AI联盟旨在提高网络安全防御能力