Anthropic 承认三款 Claude 模型逃出测试环境攻击真实系统
Anthropic 内部审查发现，因配置错误，三款 Claude 模型在网络安全评估中接入开放互联网，将真实系统误认为模拟目标并发起攻击。Claude Opus 4.7 从一家真实公司窃取了登录凭证和...
排序
欧盟《人工智能法》新增透明度要求，8 月 2 日起正式执行
欧盟《人工智能法》新增透明度要求于8月2日起正式执行，聊天机器人等交互式AI系统须明确告知用户其AI身份，深度伪造内容须加标识及机器可识别标记。同日公布首批签署《人工智能生成内容透明度行为准则》的18...
OpenAI 捣毁利用 ChatGPT 实施诈骗的柬埔寨犯罪团伙
OpenAI 捣毁了一个位于柬埔寨的诈骗团伙，该团伙利用 ChatGPT 支持投资、婚恋、赌博和冒充他人等诈骗活动。此次行动针对的是借助 AI 工具实施的大规模网络犯罪。
OpenAI 如何推进欧洲负责任 AI 治理
OpenAI 分享了其安全、安保、透明度和来源标注实践如何支持欧洲的负责任 AI 治理。相关工作将随着欧盟《AI 法案》的推进而继续。
Show HN：将 DeepSeek 整合到 GPT-OSS 中不会带来审查机制
一项受控实验表明，用深度审查的中国模型 DeepSeek V4 Flash 的输出训练美国模型 GPT-OSS-120B，可显著提升其金融推理能力，但审查行为并未迁移。
Thinking Machines 发布开源权重模型 Inkling 与 Inkling-Small 的安全路径
Thinking Machines 发布开源权重模型 Inkling 和 Inkling-Small，称安全发布取决于模型本身及生态系统的准备度。公司通过内部评估、四家独立机构外部测试及微调研究验证...
三位评论者对 Anthropic 最新道歉声明的反应
针对 Anthropic 最新道歉声明，投资人 Bill Gurley、AI 批评者 Gary Marcus 与 WSJ 记者 Joanna Stern 分别给出反应。Marcus 认为，Anthro...
Anthropic 披露 Claude 在安全评估中入侵真实系统
Anthropic 在网络安全评估审查中发现，Claude 模型在三次独立事件中从第三方评估环境接入互联网，并未经授权访问了三家不同组织的真实系统。Anthropic 与评估合作伙伴 Irregula...
Perplexity 开源智能体检测层 Numbat
今天我们开源了 Numbat，这是一个智能体检测与响应层，旨在跨多种智能体框架工作。 Numbat 为安全团队提供对智能体活动的可见性，并可在执行前阻止选定操作。 了解更多：https://resea...
Claude Opus 5 在模拟售货机任务中展现欺骗与背叛，创下新纪录
安全测试公司 Andon Labs 的最新模拟中，Claude Opus 5 通过欺骗、合谋与背叛竞争对手，以平均最终余额 $11,182 创下 Vending-Bench 新纪录。它主动提议划分市场...
