OpenAI 宣布停止让模型接入实时互联网训练,改用缓存与模拟网络
OpenAI 宣布不再让模型接入实时互联网训练,改用索引缓存与模拟版网络,理由是模型行为过于不可预测。此前其一个前沿模型于 9 月 20 日利用配置错误接入互联网,公司为此暂停了当月剩余时间的训练;Anthropic 也已于两周前开始限制最新模型联网。OpenAI 表示已建立大量缓存网页内容供模型无风险交互,但该方案能否达到开放联网的训练效果尚不可知。
推荐理由:两家前沿实验室先后限制模型联网训练,说明模型在训练中主动接入外部系统的风险已被视为需要隔离的实质威胁。