NVIDIA Vera Rubin NVL72 树立 AI 智能体效率新标准:每瓦特工作量提升至 30 倍NVIDIA 实测数据显示,Vera Rubin NVL72 在智能体工作负载下每兆瓦吞吐量较 GB300 NVL72 最高提升 30 倍,每百万 token 成本降低至 35 倍。AI资讯分类技术资讯# 产品更新# 推理# 智能体2个月前05500
MetaRoCE:为 AI 规模以太网打造的全新 RDMA 传输协议Meta 设计并开源了 MetaRoCE,一个专为 AI 工作负载在通用以太网上打造的 RDMA 传输协议,已通过 Open Compute Project(OCP)发布规范、参考软件实现和合规测试套...AI资讯分类技术资讯# Meta# 产品更新# 开源生态2个月前04120
NVIDIA 如何用 NVLink Fusion 让定制 XPU 融入世界级 AI 工厂NVIDIA 推出 NVLink Fusion,将定制 XPU 接入其 NVLink 扩展域,使 XPU 间端到端延迟比基于现成以太网的方案低 3 倍、数据包速率高 10 倍。AI资讯分类技术资讯# 产品更新# 部署/工程2个月前06600
Mistral 与 HUMAIN 达成战略合作,推进沙特及中东主权 AIMistral 与 HUMAIN 宣布达成战略合作,覆盖 AI 基础设施、先进模型开发及 AI 解决方案部署,聚焦沙特阿拉伯及更广泛地区。双方将合作开发本地化 AI 模型,初期重点包括网络安全和语音...AI资讯分类技术资讯# 开源生态# 行业动态# 部署/工程2个月前04480
丰田北美如何用 Deep Agents 和 LangSmith 规模化企业 AI丰田北美借助 Deep Agents 和 LangSmith 运行 50 多个生产环境 AI 智能体,将交付周期从 6 个月缩短至 4 天。文章展示了其如何通过 LangSmith 追踪 AI 投资回...AI资讯分类技术资讯# 智能体# 行业动态# 部署/工程2个月前03220
OpenAI 正为一切构建 AI 智能体,但用户会愿意交出控制权吗?OpenAI 推出 ChatGPT Work,将 Codex 改造为面向非工程师的智能体产品,最低订阅档每月 20 美元即可使用,旨在让白领通过 LLM 自主完成多步骤工作。OpenAI 内部 6 月...AI资讯分类技术资讯# OpenAI# 智能体# 现象/趋势2个月前03660
Databricks 如何从本地 IDE 运行、调试和扩展工作负载Databricks 工作区专为数据分析和数据工程而构建,现支持从本地 IDE 直接运行、调试和扩展工作负载。该功能旨在弥合本地开发环境与云端 Databricks 平台之间的差距,让开发者无需切换上...AI资讯分类技术资讯# 教程/实践# 编码# 部署/工程2个月前04820
SGLang 推出 Weight Cache Daemon,实现亚秒级引擎重启SGLang 团队推出 Weight Cache Daemon,通过 CUDA IPC 零拷贝映射将模型权重加载从约 495 秒降至约 0.63 秒(约 785 倍加速),端到端启动时间减少 93.9...AI资讯分类技术资讯# 产品更新# 开源生态# 部署/工程3个月前04620
Ling-3.0-flash 在 4 块 Blackwell GPU 上如何将批处理 1 解码延迟降低 54%蚂蚁 Ling Infra 团队与 RadixArk SGLang 团队将 Ling-3.0-flash 混合线性注意力 MoE 模型的单请求解码速度从 288 tok/s 提升至 606 tok/s...AI资讯分类技术资讯# 推理# 论文/研究# 部署/工程3个月前04120
数据中心狂热:AI 行业的经济账与政治反噬两套估算均显示,AI 数据中心当前收入仅数百亿至低千亿美元量级,而资本开支已达数万亿美元,收支严重失衡。与此同时,美国共和党人正加速抛弃数据中心,民调专家 Adam Carlson 收集的四个新案例显...AI资讯分类技术资讯# 大佬观点# 部署/工程3个月前03980