OpenAI首席科学家：尚无实验室解决AI对齐与监控问题，应设共享安全门槛

來源報導重點

PANews 9月8日消息，OpenAI首席科学家Jakub Pachocki在题为《An Alien Mind》的文章中表示，基于内部研究结果，他强烈预计当前AI进步速度可能延续至递归式自我改进阶段，未来数年系统或出现幅度相当甚至更大的能力跃升，并越来越多地推动自身研发。 Pachocki称，目前没有任何实验室已在AI对齐与监控方面取得足够进展，能够长期以最高速度负责任地扩展模型；在建立共同安全门槛前，他预计并希望自愿放缓将成为常态，未来AI发展也应被各国政府列为国际协调的优先事项。OpenAI将继续研究对齐和监控技术、建设防御系统，并在必要时单方面暂停进一步扩展。