Google 去年推出了安全人工智能框架（SAIF）要保障 AI 安全性，创建于此架构之上，Google 组成了新联盟「AI 安全联盟」（CoSAI），推进全面的安全措施，以解决 AI 风险问题。

各大科技巨头都加入此联盟，包括：Amazon、Anthropic、思科、IBM、Intel、微软、NVIDIA、OpenAI、PayPal、Wiz、Chainguard、GenLab、Cohere。

计划旨在通过开源方法、标准化框架和工具，指导开发者能够创建安全的 AI 系统。 CoSAI 将着重于关注 AI 的安全开发、集成、部署和运行，降低模型被盗、数据下毒、prompt injection 攻击、大规模滥用等风险。

CoSAI 初期的工作包括制定 AI 系统的软件供应链安全性规范，从根本上确保 AI 代码是用安全可靠的软件所创建，并追踪 AI 软件的建构情况以尽早发现问题。

同时，CoSAI 也会打造保障措施或框架，来辨识和应对出现的 AI 安全威胁，让防御者们准备好面对不断变化的资安领域。联盟还打算创建一本规范手册，定义如何开发 AI 并确保其被安全使用，并提供清单和记分卡来指导从业者进行评估。

CoSAI 将创建一个项目管理委员会来推进和管理联盟整体的计划，并创建一个由来自学术界和业界的 AI 专家组成的技术指导委员会，监督各工作流程。

外媒认为，CoSAI 中包含许多大公司的组成是把双面刃，优点是能确保联盟不缺乏资源，但也会产生联盟成员保护自身 AI 利益而产生偏见的问题，联盟的决策到时可能需更加透明化，来降低有偏见的疑虑。

：Jocelyn
：Sherlock

本文初稿为 INSIDE 使用 AI 编撰；快加入 INSIDE Google News 按下追踪，给你最新、最 IN 的科技新闻！