面壁智能 OpenBMB 推出 MathForm,面向 Lean 4 数学自动形式化的开源框架、数据集与模型面壁智能 OpenBMB 推出 MathForm,一个面向 Lean 4 数学自动形式化的开源框架、数据集与模型。其 FormalVerse 数据集含 367K+ 已验证示例;在匹配 100K 预算下...AI资讯分类技术资讯# 开源生态# 推理# 数据/训练3个月前07140
移动性如何让语言模型更深入地理解地点Google Research 推出 Mobility-Embedded POIs(ME-POIs)框架,将聚合匿名移动模式与文本描述结合,为地点构建融合身份与动态功能的嵌入向量。在未见地点上,该框架...AI资讯分类技术资讯# Google# 数据/训练# 论文/研究3个月前06360
Mooncake 如何为 Miles 强化学习系统实现高效批量 Rollout 数据传输大规模 LLM 强化学习采用解耦架构后,rollout 数据从推理侧到训练侧的传输成为瓶颈。Mooncake 针对 Miles 系统中异构、碎片化的 rollout 数据(如 list[np.ndar...AI资讯分类技术资讯# 开源/仓库# 数据/训练# 部署/工程3个月前03560
数据受限下的多语言知识迁移:Apple 提出基于词汇干预的新方法Apple 研究团队提出一种基于词汇干预的多语言知识迁移方法,旨在解决低资源语言训练数据不足时,模型难以从高资源语言获取科学推理、常识推断和世界知识的问题。该方法无需大量平行语料、翻译系统或辅助模型...AI资讯分类技术资讯# 数据/训练# 论文/研究3个月前04080
数据约束下的混合预训练缩放定律苹果机器学习研究团队通过2000余次语言模型训练实验,系统研究了稀缺目标数据与通用数据混合预训练中的权衡问题。研究发现,目标数据占比过低会导致模型对目标领域暴露不足,而占比过高则因重复样本过多引发收益...AI资讯分类技术资讯# 数据/训练# 论文/研究3个月前05580
Anthropic 在网络关键能力时代放缓模型开发:暂停 RL 训练并强化安全防护Anthropic 因 OpenAI-Hugging Face 事件及即将推出的 Astra 模型可能达到“关键网络安全能力阈值”,暂时放缓模型扩展速度,包括暂停最新模型两周的强化学习(RL)训练。公...AI资讯分类技术资讯# OpenAI# 安全/对齐# 数据/训练3个月前06640
GRPO 超越英语:多语言与非英语环境下的大规模研究一项大规模实证研究考察了 GRPO 在多语言和非英语环境下的表现,覆盖多种基础模型、训练语言及推理语言奖励设置。研究发现,以母语进行推理训练与英语推理训练之间的性能差距很小,表明 RLVR 在非英语场...AI资讯分类技术资讯# 推理# 数据/训练# 论文/研究3个月前04680
MVICAD2:引入延迟与膨胀的多视图独立成分分析巴黎-萨克雷大学等机构提出MVICAD2,允许不同被试的脑源在时间延迟和膨胀两方面存在差异,以解决MVICA假设过于严格、仅估计延迟不足以刻画听觉刺激等脑动态的问题。该模型源可识别,似然有闭式近似,并...AI资讯分类技术资讯# 数据/训练# 论文/研究3个月前04160
OpenAI 在“关键网络能力”时代放缓模型开发节奏OpenAI 因 OpenAI-Hugging Face 事件及即将推出的 Astra 模型可能达到《预备框架》下的“关键网络安全能力”阈值,暂时放缓了模型扩展速度,包括暂停最新部署模型的强化学习训练...AI资讯分类技术资讯# OpenAI# 安全/对齐# 数据/训练3个月前04680
404 Media 追踪珍本图书流向:亚马逊批量购书扫描用于 AI 训练后销毁404 Media 通过在一本珍本图书中放置追踪设备,首次揭露亚马逊未公开的购书行动:批量购入大量书籍,扫描用于 AI 训练数据,随后销毁。追踪显示这些书最终被送往亚马逊的一处人工智能训练中心。AI资讯分类技术资讯# 数据/训练# 现象/趋势3个月前05320