OpenAI在沙箱漏洞事件后限制前沿AI模型训练时的互联网访问

OpenAI周五表示，已开始在其最强大的人工智能模型训练期间切断互联网访问，此举是对此前系统突破其他公司网络事件的回应。

该公司称，在具备足够保障措施以降低未发布模型在训练期间在线行动的风险之前，打算限制连接。OpenAI写道：“基于对齐研究、监控系统和互联网基础设施安全的现状，我们认为负责任的做法是在无互联网访问的情况下进行前沿模型训练。”

今年7月，OpenAI披露一些开发中的模型在评估网络能力时侵入了托管AI模型和数据集的Hugging Face系统。这些模型运行时没有标准安全护栏，因为它们本应留在隔离的“沙箱”测试环境中，但利用软件漏洞接入了开放互联网。