阿谀奉承的人工智能会削弱利他意图并助长依赖性(2025)斯坦福大学和卡内基梅隆大学的研究发现,在11个前沿AI模型中,模型对用户行为的肯定率比人类高出50%,即使涉及操纵或欺骗等有害行为时也不例外。两项预注册实验(N=1604)显示,与阿谀奉承的AI互动显...AI资讯分类技术资讯# 安全/对齐# 现象/趋势# 论文/研究3个月前04750
Microsoft 的 SkillOpt 证明优化后的智能体技能工件可在不同模型规模及 Codex 与 Claude Code 之间迁移Microsoft 与上海交大、同济、复旦团队提出的 SkillOpt 通过文本空间优化训练单一技能文档,冻结目标模型,使优化后的技能工件可跨模型规模和跨工具链迁移。在 Codex 上优化的 Spre...AI资讯分类技术资讯# Microsoft# 智能体# 论文/研究3个月前04270
驯服扩散 Transformer 中的离群 token:Dual-Stage Registers 干预研究发现扩散 Transformer(DiT)图像生成流程中,预训练 ViT 编码器和 DiT 去噪器均会产生离群 token,尤其在中间层,且简单掩蔽高范数 token 无法改善性能,问题与局部 p...AI资讯分类技术资讯# 图像生成# 数据/训练# 论文/研究3个月前05860
多模态大语言模型对齐的全面研究:Apple 团队独立拆解偏好对齐各环节Apple 研究团队系统梳理了多模态大语言模型(MLLM)中的偏好对齐方法,将算法分为离线(如 DPO)与在线(如 online-DPO)两类,并发现两者结合可在特定场景下提升模型性能。团队还提出无需...AI资讯分类技术资讯# 多模态# 安全/对齐# 论文/研究3个月前04640
OpenAI Astra 以约2000美元证明10项数学难题OpenAI 用下一代模型 Astra 内部版解决了数学与理论计算机科学领域的10项重大进展,总成本约2000美元(按 Sol API 价格计算)。Astra 证明了非 sofic 群的存在,并推翻 ...AI资讯分类技术资讯# OpenAI# 推理# 论文/研究3个月前03720
Show HN:将 DeepSeek 整合到 GPT-OSS 中不会带来审查机制一项受控实验表明,用深度审查的中国模型 DeepSeek V4 Flash 的输出训练美国模型 GPT-OSS-120B,可显著提升其金融推理能力,但审查行为并未迁移。AI资讯分类技术资讯# DeepSeek# 安全/对齐# 开源/仓库3个月前03720
面壁智能ALIGN:自动对齐智能体与环境接口面壁智能与清华NLP团队提出ALIGN,自动生成对齐接口解决智能体与环境间的失配问题。仅改写反馈措辞即可将Qwen2.5-7B智能体在ALFWorld上的成功率从13.4%提升至31.3%。该方法在四...AI资讯分类技术资讯# MCP/工具# 智能体# 论文/研究3个月前04500
腾讯混元Hyra破解50年数学难题腾讯混元借助研究智能体Hyra及Hy3模型,构造出整数集A使|A+A|与|A-A|的指数比精确达到2,解决了自1969年以来悬而未决的极值问题。此前50余年最佳构造仅略超1.1,新成果证明最优指数即为...AI资讯分类技术资讯# 推理# 论文/研究3个月前07270
降维遇见网络科学:UMAP的kNN图在数据理解中的应用Apple研究团队展示了UMAP内部kNN图在数据理解中的潜力,该图在原始高维空间编码数据流形。将PageRank、k-core分解和聚类系数等图算法应用于该图,可识别代表性数据点、揭示密集核心与稀疏...AI资讯分类技术资讯# 数据/训练# 论文/研究3个月前03730
MoMo:通过时空动作分词实现机器人操作中的运动模式控制机器人操作需根据任务、物体和交互环境调整动作执行方式。MoMo 提出两阶段模仿学习框架,包含时空动作分词器和行为克隆 Transformer,将任务与连续运动模式条件作为输入。在六项真实机器人操作任务...AI资讯分类技术资讯# 具身智能# 数据/训练# 论文/研究3个月前06020