登录

会员权益

获取需求

查看名片

专属客服

尊贵标识

VIP低至1.5U/天

十多名OpenAI及DeepMind员工签署公开信,期望获得警告AI风险的权利

分享

支付動態

2024-06-05

在OpenAI前研究员Daniel Kokotajlo召集下,十多名AI产业工作者签署公开信,要求AI业者正视员工有对AI风险示警的发言权利

Kokotajlo表示,他在加入OpenAI时,曾经希望随着系统变得更强大,会在安全研究上投入更多的资金,但OpenAI从未有此转变,意识到此事的同事开始离职,他不是第一个,也不会是最后一个。此外,在他离职的时候,OpenAI要求他签署一份协议,阻止他批评公司,若不签署就会失去他的OpenAI股权。

Kokotajlo认为,AI系统并非普通软件,它们是从大量数据中学习的人工神经网络,对于这些系统的运作、可能超越人类智能,或是能否具备与人类一致的利益,都有许多的未知,与此同时,相关技术几乎缺乏监督,反而是由AI企业自治,而经济动机与对技术的兴奋,不时令这些业者快速行动并打破常规。

最后决定拒绝签署噤声协议的Kokotajlo强调,让研究人员噤声并使他们害怕报复是危险的,因为他们是目前唯一能够警告公众的人。

免责声明:
详情

Please Play Responsibly:

Casino Games Disclosure: Select casinos are licensed by the Malta Gaming Authority. 18+