Google 去年推出了安全人工智慧框架（SAIF）要保障 AI 安全性，建立於此架構之上，Google 組成了新聯盟「AI 安全聯盟」（CoSAI），推進全面的安全措施，以解決 AI 風險問題。

各大科技巨頭都加入此聯盟，包括：Amazon、Anthropic、思科、IBM、Intel、微軟、NVIDIA、OpenAI、PayPal、Wiz、Chainguard、GenLab、Cohere。

計畫旨在透過開源方法、標準化框架和工具，指導開發者能夠創建安全的 AI 系統。 CoSAI 將著重於關注 AI 的安全開發、整合、部署和運行，降低模型被盜、資料下毒、prompt injection 攻擊、大規模濫用等風險。

CoSAI 初期的工作包括制定 AI 系統的軟體供應鏈安全性規範，從根本上確保 AI 程式碼是用安全可靠的軟體所建立，並追蹤 AI 軟體的建構情況以儘早發現問題。

同時，CoSAI 也會打造保障措施或框架，來辨識和應對出現的 AI 安全威脅，讓防禦者們準備好面對不斷變化的資安領域。聯盟還打算創建一本規範手冊，定義如何開發 AI 並確保其被安全使用，並提供清單和記分卡來指導從業者進行評估。

CoSAI 將建立一個專案管理委員會來推進和管理聯盟整體的計畫，並建立一個由來自學術界和業界的 AI 專家組成的技術指導委員會，監督各工作流程。

外媒認為，CoSAI 中包含許多大公司的組成是把雙面刃，優點是能確保聯盟不缺乏資源，但也會產生聯盟成員保護自身 AI 利益而產生偏見的問題，聯盟的決策到時可能需更加透明化，來降低有偏見的疑慮。

：Jocelyn
：Sherlock

本文初稿為 INSIDE 使用 AI 編撰；快加入 INSIDE Google News 按下追蹤，給你最新、最 IN 的科技新聞！