SGLang 重构 CUDA Graph 支持,Breakable CUDA Graph 成 prefill 默认方案SGLang 重构 CUDA Graph 支持,通过 runner/backend 接口拆分使不同捕获策略可复用。其社区首创的 Breakable CUDA Graph(BCG)现为 prefill ...AI资讯分类技术资讯# Meta# 推理# 教程/实践3个月前04520
IFM 发布 K2 Horizon 六款开源模型,覆盖 0.9B 到 375B-A23B 并开放完整训练生命周期IFM 发布 K2 Horizon 模型系列,共六个模型:375B-A23B、36B-A4B、32B、7B、3.7B 和 0.9B,均以 Apache 2.0 开源,其中 0.9B、3.7B 和 7B...AI资讯分类技术资讯# 开源生态# 推理# 数据/训练2个月前05040
千问功能上新:推出思考研究、定时任务、办公助理、语音通话等多项新功能,并支持 Qwen3.8-MAX千问今日上线多项新功能,并支持最新旗舰模型 Qwen3.8-MAX。其中“思考研究”在原“深度思考”基础上升级,强化复杂推理与工具调用;“定时任务”可预设执行时间自动完成行业简报梳理等周期工作;“办公...AI资讯分类技术资讯# 产品更新# 推理# 智能体3个月前03900
NVIDIA 扩展 Vera Rubin 推理能力,Groq 3 LPX 全面投产支持智能体系统NVIDIA 宣布 Vera Rubin NVL72 扩展快速 token 生成能力,以支持智能体系统。其机架级系统 NVIDIA Groq 3 LPX 已全面投产,旨在通过 AI 工厂各层协同工作来...AI资讯分类技术资讯# 产品更新# 推理# 智能体2个月前05780
Thomas Wolf 认为 AI 数学尚未被解决,Navier-Stokes 结果更像反例搜索而非完整证明Hugging Face 联创 Thomas Wolf 回应 OpenAI 用下一代模型(强于 GPT-6 Astra)的 agent 群组证明 Navier-Stokes 千禧年问题猜想为假的结果...AI资讯分类技术资讯# OpenAI# 大佬观点# 推理2个月前04040
Theory Ventures 三周年:AI 如何重塑软件栈与风投定义Theory Ventures 合伙人 Tomer Tunguz 发文总结 AI 带来的市场巨变。新模型每 41 天发布一次,公司达 1 亿美元收入速度创纪录。AI 压缩时间导致风投阶段定义失效,种子...AI资讯分类技术资讯# 安全/对齐# 开源生态# 推理4个月前05140
SGLang 宣布 Day-0 支持 NVIDIA Nemotron 3.5 LightningSGLang 宣布对 NVIDIA Nemotron 3.5 Lightning 提供 Day-0 支持,该开源模型为 30B 总参数、3B 激活参数的混合专家架构,支持最长 1M token 上下文...AI资讯分类技术资讯# 推理# 智能体# 模型发布3个月前03120
Claude Fable 5.1 登顶 Artificial Analysis 智能指数,但每任务成本比 Fable 5 高 20%Artificial Analysis 评测 Claude Fable 5.1,其在 max effort 下得 66 分登顶 Artificial Analysis Intelligence Ind...AI资讯分类技术资讯# Anthropic# 推理# 智能体2个月前04520
GPT-5.6 如何推进性价比前沿OpenAI 为 GPT-5.6 的 Luna 和 Terra 版本推出更低定价,以更高效的模型帮助企业大规模部署 AI 工作流。AI资讯分类技术资讯# OpenAI# 推理# 模型发布3个月前04120
当模型持续学习:测试时训练如何改变 AI 的记忆与成本测试时训练(Test-time training)让模型在使用中持续更新权重,而非训练结束后冻结。相比标准 Transformer,其内存需求从随上下文线性增长变为恒定,斯坦福研究显示推理速度最高可提...AI资讯分类技术资讯# 推理# 现象/趋势# 部署/工程3个月前06820