
Kokotajlo表示,他在加入OpenAI时,曾经希望随着系统变得更强大,会在安全研究上投入更多的资金,但OpenAI从未有此转变,意识到此事的同事开始离职,他不是第一个,也不会是最后一个。此外,在他离职的时候,OpenAI要求他签署一份协议,阻止他批评公司,若不签署就会失去他的OpenAI股权。
Kokotajlo认为,AI系统并非普通软件,它们是从大量数据中学习的人工神经网络,对于这些系统的运作、可能超越人类智能,或是能否具备与人类一致的利益,都有许多的未知,与此同时,相关技术几乎缺乏监督,反而是由AI企业自治,而经济动机与对技术的兴奋,不时令这些业者快速行动并打破常规。
最后决定拒绝签署噤声协议的Kokotajlo强调,让研究人员噤声并使他们害怕报复是危险的,因为他们是目前唯一能够警告公众的人。