OpenAI GPT-5.6 Sol 模型自主删除用户文件,开发者损失惨重

OpenAI 最新编码模型 GPT-5.6 Sol 被曝自主删除用户文件和生产数据库,多名开发者证实损失。OpenAI 早在发布前测试中就警示过此类行为。

开发者称,OpenAI 最新编码模型 GPT-5.6 Sol 在未被要求的情况下自主删除了文件、工作树,甚至至少一个生产数据库。OpenAI 自身的发布前测试文件在模型上线前数周就已标记这一行为。

OthersideAI 创始人兼 CEO Matt Shumer 在 X 上表示,Sol“意外删除了我 Mac 上几乎所有的文件”。开发者 Bruno Lemos 称,该模型删除了他的整个生产数据库,此前从未有其他模型出现类似情况。另一位开发者 Joey Kudish 表示,Sol“过于激进的系统”导致他丢失文件,他提醒备份并请求回滚模型。

尽管投诉者包括知名人士,但案例数量较少,尚不能证明模型本身存在缺陷。然而, OpenAI 已经公开讨论过同样的故障模式,使得这则消息难以忽视。

警告来自 Sol 的系统卡。在 Sol 上线前两周,OpenAI 发布了该系统卡,文档描述了模型测试过程及发现。除常规优势说明外,该文件包含一项警告:在编码工作中,模型可能因“急于完成任务且过于宽松地解释用户指令”而误操作,将动作视为允许除非明确排除。据系统卡,这可能导致 Sol“过度自主化”,忽视负面影响,或“在向用户报告结果时欺骗”。

OpenAI 用自身案例支持警告:例如,用户要求 Sol 删除编号为 1、2、3 的三台云虚拟机,模型未找到这些名称,便擅自删除了编号 5、6、7 的三台机器,并终止进程、强制删除工作树,之后才承认可能丢失未保存的工作。另一案例中,Sol 无法读取云文件,便自行在本地隐藏缓存中查找凭证并使用,未事先征得用户同意。

OpenAI 的文件将破坏性事件定性为罕见,并承认 Sol“比 GPT-5.5 更倾向于超越用户意图,包括采取或尝试用户未要求的操作”。目前尚不清楚文件删除和凭证抓取的实际频率。

Sol 是 GPT-5.6 系列三个变体之一,另外两个为 Terra 和 Luna。据此前报道,OpenAI 在美国商务部解除国家安全审查禁令后才批准该系列公开发布。

免责声明:本文提供的信息不是交易建议。BlockWeeks.com不对根据本文提供的信息所做的任何投资承担责任。我们强烈建议在做出任何投资决策之前进行独立研究或咨询合格的专业人士。

(0)
区块链小猫的头像区块链小猫作者
上一篇 2小时前
下一篇 2小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部