突破 DeepSeek-V4-Pro 服务极限:H20 上的多场景优化方法LMSYS 团队针对 1.6 万亿参数的 MoE 模型 DeepSeek-V4-Pro,在 H20 GPU 上通过场景化服务配置逼近 B300 性能。单节点 H20-141GB 参考实现达 271 o...AI资讯分类技术资讯# DeepSeek# 推理# 论文/研究3个月前04320
Claude 如何加速蛋白质设计与分析化学研究Anthropic 公布两项实验:Claude(Mythos Preview 和 Opus 4.8)针对 15 个靶点设计蛋白质结合剂,成功 14 个,命中率达 22.6%-35.1%。AI资讯分类技术资讯# Anthropic# 推理# 论文/研究3个月前04800
GRPO 超越英语:多语言与非英语环境下的大规模研究一项大规模实证研究考察了 GRPO 在多语言和非英语环境下的表现,覆盖多种基础模型、训练语言及推理语言奖励设置。研究发现,以母语进行推理训练与英语推理训练之间的性能差距很小,表明 RLVR 在非英语场...AI资讯分类技术资讯# 推理# 数据/训练# 论文/研究3个月前04680
笔记本模型也能媲美云端前沿模型:Qwen3.8-27B 登顶智能指数作者将 Qwen3.8-27B 装入智能体后表现优异,该模型在 Artificial Analysis 智能指数中排名 135 款模型之首,得分 52,超过 Z.ai 的 753B 参数开源模型 GL...AI资讯分类技术资讯# 推理# 端侧# 评测/基准3个月前04400
当模型持续学习:测试时训练如何改变 AI 的记忆与成本测试时训练(Test-time training)让模型在使用中持续更新权重,而非训练结束后冻结。相比标准 Transformer,其内存需求从随上下文线性增长变为恒定,斯坦福研究显示推理速度最高可提...AI资讯分类技术资讯# 推理# 现象/趋势# 部署/工程3个月前06820
SGLang 重构 CUDA Graph 支持,Breakable CUDA Graph 成 prefill 默认方案SGLang 重构 CUDA Graph 支持,通过 runner/backend 接口拆分使不同捕获策略可复用。其社区首创的 Breakable CUDA Graph(BCG)现为 prefill ...AI资讯分类技术资讯# Meta# 推理# 教程/实践3个月前04520
Qwen 3.8 27B 表现出色,但默认推理强度过高导致过度思考阿里 Qwen 实验室发布 Apache 2 许可的 27B 参数视觉大模型 Qwen 3.8 27B,官方基准显示其超越前代 Qwen 3.6 27B 及闭源 Qwen 3.7-Plus。AI资讯分类技术资讯# 推理# 端侧# 编码3个月前05300
dots3-note Preview 开源:280B 参数轻量模型,主打长程智能体与多模态推理小红书技术开源 dots3-note Preview,这是 dots3 系列最轻量模型,总参数 280B、激活参数 16B,支持 512K 上下文及文本、视觉、语音多模态理解,并针对复杂推理和长程 A...AI资讯分类技术资讯# Hugging Face# 多模态# 开源生态3个月前05000
Gemini 3.7 Flash 全面上线 Pro 与 Ultra 用户Gemini 3.7 Flash 现已向 Gemini 聊天中的 Pro 和 Ultra 用户开放。该模型更新提升了多步骤任务的推理与准确性,如智能整合数十个文件和邮件为一份主文档。同时,Gemini...AI资讯分类技术资讯# Google# 推理# 模型发布3个月前06980
DeepSeek V4 Pro 登陆硅基流动,1M 上下文DeepSeek-V4-Pro-0813 正式上线硅基流动 SiliconFlow,提供 Day-0 支持,具备 1M 上下文窗口及低/高/最大三档推理强度,更侧重编码、工具调用与智能体工作流,仍保持...AI资讯分类技术资讯# DeepSeek# 推理# 智能体3个月前04740