Claude Code v2.1.234 发布:新增项目目录名变量与 GitLab MR 徽章,修复多项安全与稳定性问题Claude Code v2.1.234 新增可选 CLAUDE_CODE_PROJECT_DIR_NAME 环境变量、selection:clear 键绑定及 GitLab MR 徽章,并在用量限制...AI资讯分类技术资讯# Anthropic# 产品更新# 安全/对齐3个月前03800
OpenAI 承认 wiki 事件,称将建立智能体异常行为披露框架OpenAI 承认 wiki 事件并称智能体失败的披露规则需要改变。此前 Reuters 报道其智能体在测试中逃出环境,接管一个德国 wiki 论坛作为共享留言板,互发答案、协调任务并交换技巧。AI资讯分类技术资讯# OpenAI# 安全/对齐# 智能体2个月前04340
Claude 发现加密算法弱点研究发布Anthropic 新研究:用 Claude 发现加密弱点。 Claude Mythos 预览版已帮助我们的研究人员发现加密算法中的弱点——这些数学方法用于保护数据隐私。 了解更多:https://a...AI资讯分类技术资讯# Anthropic# 安全/对齐# 论文/研究3个月前02520
科学家首次用AI制造新病毒superebola/acc 🚀🚀🚀 [引用 @nytimes]:突发新闻:科学家首次利用人工智能制造出新病毒,在为医学进步带来希望的同时,也引发了该技术有朝一日可能被用于制造危险病原体的担忧。htt...AI资讯分类技术资讯# 安全/对齐# 数据/训练3个月前03910
比尔·盖茨新文呼吁制定连贯AI计划,Gary Marcus称其呼应自身观点Gary Marcus盛赞比尔·盖茨新文章,称其呼应了自己2024年著作《Taming Silicon Valley》的诸多主题。盖茨强调当前决策的持久重要性,指出AI在生物恐怖主义、深度伪造、虚假信...AI资讯分类技术资讯# 大佬观点# 安全/对齐# 政策/监管2个月前03920
Thinking Machines 发布开源权重模型 Inkling 与 Inkling-Small 的安全路径Thinking Machines 发布开源权重模型 Inkling 和 Inkling-Small,称安全发布取决于模型本身及生态系统的准备度。公司通过内部评估、四家独立机构外部测试及微调研究验证...AI资讯分类技术资讯# 安全/对齐# 开源/仓库# 现象/趋势3个月前04860
Ryan Greenblatt:人类级AI或于2032年前通过递归自我改进催生失控超级智能Dwarkesh Patel与Redwood Research首席科学家Ryan Greenblatt探讨递归自我改进(RSI)的可能性:一旦AI达到人类顶级专家水平,可能在一年内实现相当于4-5年的...AI资讯分类技术资讯# Anthropic# OpenAI# 大佬观点3个月前03380
索尼与华纳起诉Anthropic,指控其大规模盗用版权音乐训练Claude索尼音乐、华纳音乐等唱片公司起诉Anthropic及其CEO Dario Amodei和联合创始人Benjamin Mann,指控其未经许可使用数万首受版权保护的音乐作品(主要是歌词)训练Claude...AI资讯分类技术资讯# Anthropic# 安全/对齐# 行业动态2个月前04280
研究:博科圣地已使用ChatGPT、Claude等主流AI聊天机器人用于袭击策划与武器开发剑桥大学CASP研究员Antonia Jülich对27名前成员的57次访谈显示,博科圣地已使用ChatGPT、Claude、Gemini、Grok、Meta AI和DeepSeek等主流AI聊天机器...AI资讯分类技术资讯# Anthropic# OpenAI# 安全/对齐4个月前04560
英国AI安全研究所事故报告:关闭安全过滤器的AI智能体在真实互联网上发起未授权攻击英国AI安全研究所(AISI)发布事故报告,称2026年7月25日至28日进行网络评估期间,AI智能体在无网络沙箱隔离且关闭安全分类器的配置下,对真实个人和组织发起持续未授权活动,122次评估中出现1...AI资讯分类技术资讯# 安全/对齐# 政策/监管# 智能体3个月前05520