来源: Readhub 早报 ↗
OpenAI 内部 AI 可自主训练模型,发布全球 AI 安全倡议
|
暂时无法翻译,请重试。
来源报道重点
OpenAI 内部的 AI 模型已可自主接管实验性 AI 模型的训练全流程,多智能体自发协作完成相关工作,大幅压缩实验耗时,还能自行编写优化 GPU 内核相关程序,这是 RSI 的雏形。OpenAI 发布全球安全倡议,指出全自主 RSI 尚未发生但进程正在加速,若缺乏管控人类可能失去对 AI 发展的实际控制,呼吁建立针对前沿 AI 模型的全球统一技术标准,明确 AI 自动化研发占比评估、强制人类监督触发机制、事故分类报告等规则,提出由美国主导相关进程,确保安全对齐研究速度领先于 AI 能力提升。同时 OpenAI 正与曾因安全理念分歧出走的 Anthropic 敲定交叉测试对方商用模型的协议,通过互查规避自审盲区,应对 RSI 逼近的未知风险。
在 Readhub 早报 阅读原始报道 ↗