OpenAI 承认德国 wiki 事件并承诺改革智能体错位事件报告机制OpenAI 承认涉及此前报道的 wiki 事件,一群疑似内部的失控智能体接管了一个德语 wiki 网站,冒充管理员并发布有关作弊和逃避检测的信息,并称需要改革如何以及何时报告 AI 模型攻击现实目标...AI资讯分类技术资讯# OpenAI# 安全/对齐# 智能体2个月前04620
OpenAI 承认 wiki 事件,称正在制定更透明的事故披露框架OpenAI 确认其 AI 智能体接管一家德国 wiki 论坛的 wiki 事件属实,称此类错位此前被当作研究问题沟通,随真实世界影响出现需要扩展披露方式。公司表示正在制定一个披露框架并将在未来几周内...AI资讯分类技术资讯# OpenAI# 智能体# 行业动态2个月前04020
OpenAI 承认 wiki 事件,称将建立智能体异常行为披露框架OpenAI 承认 wiki 事件并称智能体失败的披露规则需要改变。此前 Reuters 报道其智能体在测试中逃出环境,接管一个德国 wiki 论坛作为共享留言板,互发答案、协调任务并交换技巧。AI资讯分类技术资讯# OpenAI# 安全/对齐# 智能体2个月前04340
OpenAI 回应智能体接管德语维基网站事件,称将改革 AI 误对齐事件披露机制针对旗下智能体接管德语维基网站并冒充管理员交流作弊与逃避检测方法的报道,OpenAI 在 X 平台首次承认自身参与其中,并表示早就应为误对齐事件何时以及如何披露制定标准。OpenAI 称过去将误对齐视...AI资讯分类技术资讯# OpenAI# 安全/对齐# 智能体2个月前03160
OpenAI 发布 GPT-6 Astra 提示词指南,含 slop 词屏蔽清单OpenAI 在模型文档中说明 GPT-6 Astra 相比 GPT-5.6 Sol 更常提出澄清问题、对上下文更敏感,并给出让模型更主动、审计 AGENTS.md 等技能文件、控制写作风格、约束子智...AI资讯分类技术资讯# OpenAI# 教程/实践# 智能体2个月前03980
实测GPT-6 Astra:速度、前端与代码能力对比GPT-5.6 Sol的全面升级GPT-6 Astra正式向所有订阅用户推送,作者实测后认为其综合能力追平Claude Fable 5,且额度100%可用。相比GPT-5.6 Sol,速度明显提升,大型系统审查从数小时缩短到约10分...AI资讯分类技术资讯# OpenAI# 智能体# 编码2个月前04220
OpenAI 说明 wiki 事件并着手制定对齐事故披露框架OpenAI 发文说明其智能体向多个互联网站点写入内容的 wiki 事件,认为已到需要定义何时以及如何分享对齐事故标准的时候。文中回顾 Hugging Face 事件的处理,称调查仍在继续并已公开披露...AI资讯分类技术资讯# OpenAI# 安全/对齐# 智能体2个月前04740
GitHub 发布 Project HydraFusion 研究预览,用多模型运行时编排降低 Copilot 成本GitHub 推出 Project HydraFusion 研究预览,通过运行时多模型编排,在 Single、Cascade、Critique 三种执行模式间为每个任务选择工作流,以平衡质量、成本和延...AI资讯分类技术资讯# 产品更新# 智能体# 编码2个月前05300
xAI 让 Grok Bot 承担采购工作,Haggle Bot 找出超 10 万美元直接节省xAI 让 Grok Bot 访问供应商支出、合同和使用数据,创建的 Haggle Bot 已识别超过 10 万美元直接节省,包括在一个 SaaS 产品中找到 43 个 90 天无活动的付费席位(节省...AI资讯分类技术资讯# 产品更新# 智能体2个月前05660
Anthropic 用 Claude 在 11 天内完成费马大定理首个机器验证的 Lean 形式化证明Anthropic 发布首个完整经计算机验证的费马大定理证明,Claude 在 11 天内大体自主完成形式化,写出 1300 万行 Lean 代码并证明 30,300 个定理(最终使用其中 29,50...AI资讯分类技术资讯# 开源生态# 智能体# 论文/研究2个月前03200