AI安(an)全越来使人担忧，OpenAI正在解散其“AGI Readiness”团队。
该团队就OpenAI处置惩(cheng)罚日趋强大的人工智能的能力以及世界经(jing)管该技术(shu)的准备环境向公司提供建议(yi)。
又一安(an)全团队被解散
周三，AGI Readiness高(gao)等照(zhao)料(liao)Miles Brundage宣布离开OpenAI。
他在OpenAI事情了六年多，是OpenAI长时间政策研讨员、AGI准备事情高(gao)等照(zhao)料(liao)，也是OpenAI所剩无几(ji)坚持(chi)遏制人工智能风险(xian)的老员工之一。
Brundage表(biao)示，离开的首(shou)要原因是机遇成本太高(gao)了，他认为他的研讨在外部会更有影响力，他想要淘汰私见，他已经(jing)完成了他在OpenAI的目标。
通用人工智能（AGI）追求让AI在广泛的使命上到达或(huo)超(chao)过(guo)人类智力。Brundage指出：“OpenAI和其他任何前沿(yan)实验(yan)室都没有准备好，世界也没有准备好。”
去职后，Brundage设计成立自己的非营利构造，或(huo)者到场一个(ge)现有的非营利构造，专注于(yu)人工智能政策研讨和倡导(dao)。
根据Brundage泄漏，AGI Readiness前团队成员将被重新分派到其他团队。
对此，OpenAI谈(tan)话人表(biao)示：
“我们完整支持(chi)Brundage在行业之外进行政策研讨的决定(ding)，并对他的贡献深表(biao)感谢。
他设计全力以赴(fu)进行人工智能政策的独立研讨，这使他有机遇在更大范(fan)围(wei)内(nei)发生(sheng)影响。
我们相(xiang)信(xin)，在新职位上，他将继续进步行业和当局决议(yi)质量的尺度。”
这已经(jing)没有是OpenAI第一次解散与AI安(an)全相(xiang)关的团队，让民众对AI技术(shu)快速的进展感触担忧。
本年5月，OpenAI解散了其超(chao)级对齐团队，而该团队客岁才成立。
OpenAI称，该团队专注于(yu)“迷(mi)信(xin)和技术(shu)突破，以指导(dao)和控制AI零碎，防止它们“变得没有听话”。
本年7月，OpenAI将高(gao)等安(an)全主管Aleksander Madry重新分派到一个(ge)专注于(yu)人工智能推理的职位，只管OpenAI称Madry在他的新职位上仍将从事核心(xin)的人工智能安(an)全事情。
随后，专制党参议(yi)员给OpenAI首(shou)席实行官(guan)Sam Altman发了一封信(xin)，询问“OpenAI如何办理新出现的安(an)全成绩”。
比年来，OpenAI的职员流失更加频(pin)繁，公司的多位高(gao)管相(xiang)继去职，。
OpenAI团结创始人、已去职的Jan Leike更是直(zhi)指：“建造比人类更聪明的呆板素质上是一种危(wei)险(xian)的实验(yan)，OpenAI代表(biao)全人类肩负着(zhe)巨大的责任。但在过(guo)去几(ji)年里，安(an)全文化(hua)和流程(cheng)已经(jing)让位于(yu)闪亮的产品。”
同时，OpenAI正在转型成一家营利性(xing)企业。
10月初，OpenAI以1570亿美(mei)元的估值完成了新一轮融资，其中包含从浩繁投资公司和大型科技公司筹集的66亿美(mei)元。它还获得了40亿美(mei)元的轮回信(xin)贷额度，使其总流动性(xing)超(chao)过(guo)100亿美(mei)元。
别的，该公司预计本年营收为37亿美(mei)元，亏损约(yue)50亿美(mei)元。
需要注重的是，本年6月，一群(qun)OpenAI的现任和前任员工发表(biao)了一封公开信(xin)，表(biao)达了对AI快速进展的担忧，指出该行业缺乏羁系。
公开信(xin)写道：“人工智能公司有强大的财务效果来幸免有效的羁系。”