Sign in

Member Benefits

Get Demands

View Business Cards

Exclusive Service

Noble Identity

AS LOW AS 1.5U /DAY

OpenAI研究人員Jan Leike離職,批評OpenAI已不再以安全為優先

Share

2024-05-21

OpenAI內部負責發展超智慧AI管理方案的超級對齊團隊主管相繼離職,包括OpenAI共同創辦人Ilya Sutskever以及另一名研究人員Jan Leike,更有媒體報導OpenAI已經解散成立不到一年的超級對齊團隊,懷疑OpenAI是否已不再以發展安全AI為優先原則

他認為應該要把更多的資源用在下一代模型的安全性、監控、對抗魯棒性、超級對齊、機密性及社會影響等相關議題,但過去幾個月該團隊一直在逆勢中掙扎以獲取運算資源。Leike指出,打造比人類更聰明的機器於本質上就是一項危險的工作,代表全人類的OpenAI肩負著巨大責任,OpenAI必須成為一家以安全為優先的通用人工智慧(AGI)公司。

Brockman及Altman也聯名對Leike的看法作出了回應,表示已經提高了對AGI所帶來風險與機會的認識,號召AGI的國際治理,並協助創立了評估AI系統災難性風險的科學;同時也替日益強大之AI系統的安全部署奠定了基礎;未來還會不斷提升安全工作以應對每個新模型的利害關係。

不過,這兩位OpenAI的共同創辦人也坦承,第一次就要確保新技術的安全性並不容易,也沒有可用來引導AGI路徑的劇本,相信實證可以幫助指引前進的方向,他們非常重視自己的角色也會謹慎看待對OpenAI行動的回饋意見。

今年才成立的AI問責聯盟(Coalition for AI Accountability)則發動了一項連署行動,指出OpenAI從一非營利機構轉向至快速擴展AI模型,其高階管理團隊在監督與問責上一再出現失敗,對於像AI這類重要及危險的技術來說,並不適用於某些科技公司受到讚揚的「打破常規及快速行動」態度。要求OpenAI成立一個由AI安全及公民領導者組成的非營利董事會;確保其非營利組織不受營利子公司的財務影響;向非營利組織、監管機構及學術界建立早期存取模式;擴大專注於安全及道德的內部團隊並賦予否決權;以及對OpenAI的產品承擔明確的法律責任。

Disclaimer:
Details
HUIDU.io

GROWTH DRIVEN GLOBAL PTE. LTD. 202618650K

101 THOMSON ROAD, #28-03A, UNITED SQUARE, SINGAPORE 307591

Copyright 2026 HuiDu