英伟达联合六大机构融资5000亿美元建AI工厂英伟达宣布与Apollo、BlackRock、Blackstone、Brookfield、Goldman Sachs和KKR合作,建立独立融资平台,动员超5000亿美元第三方资本支持AI基础设施建设。AI资讯分类技术资讯# 行业动态# 部署/工程3个月前04020
Mooncake 如何为 Miles 强化学习系统实现高效批量 Rollout 数据传输大规模 LLM 强化学习采用解耦架构后,rollout 数据从推理侧到训练侧的传输成为瓶颈。Mooncake 针对 Miles 系统中异构、碎片化的 rollout 数据(如 list[np.ndar...AI资讯分类技术资讯# 开源/仓库# 数据/训练# 部署/工程3个月前03560
Infer-forge:围绕 SGLang 的 Harness、Loop 与 Graph 工程Infer-forge 是一套围绕 SGLang 推理优化的内部工程系统,通过 MonoRepo、Harness、Task Loop 与 Task Graph 四种结构,将部署点约束链(模型、SLO...AI资讯分类技术资讯# 推理# 智能体# 论文/研究2个月前06720
不会代码也能做产品:一份从0开始的Vibe Coding保姆级教程本文面向零代码用户,提供一套使用国产大模型(Kimi、GLM、Qwen等)从零开发并上线产品的完整流程。核心步骤包括购买Coding Plan、下载官方Agent编程产品、注册域名与服务器并同步做IC...AI资讯分类技术资讯# MCP/工具# 教程/实践# 部署/工程4个月前04270
在单颗 AMD MI300X 上运行 DeepSeek V4 Flash一个开源仓库提供了在单颗 AMD MI300X 上生产运行 DeepSeek-V4-Flash-0731 的完整配置与补丁,无需额外量化或权重卸载。该 304B 参数模型在 192 GB HBM 上实...AI资讯分类技术资讯# DeepSeek# 开源/仓库# 端侧3个月前04900
Cursor 推出 builds:云智能体启动速度提升至 3 倍Cursor 推出 builds 功能,在后台持续准备就绪的开发环境副本,让云智能体启动时无需从零搭建,响应速度最高提升 3 倍。内部环境启动快 10 倍,首个 token 生成快 3 倍;智能体始终...AI资讯分类技术资讯# 产品更新# 智能体# 编码3个月前07560
NVIDIA Vera Rubin NVL72 树立 AI 智能体效率新标准:每瓦特工作量提升至 30 倍NVIDIA 实测数据显示,Vera Rubin NVL72 在智能体工作负载下每兆瓦吞吐量较 GB300 NVL72 最高提升 30 倍,每百万 token 成本降低至 35 倍。AI资讯分类技术资讯# 产品更新# 推理# 智能体2个月前05500
Google Cloud 教你用 Cloud Run instances 以每月 $5.70 搭建常驻 AgentShir Meir Lador 在 Google AI 开发者博客介绍如何用 Cloud Run instances 以每月 $5.70(1 vCPU、1Gi 内存、共享 CPU)在云端 24/7 运...AI资讯分类技术资讯# Google# 教程/实践# 智能体2个月前04980
开源引擎可在任何 M 系列 Mac 上以 2 GB 内存运行 Gemma 4 26B一个开源引擎让 Gemma 4 26B 模型能在任何 M 系列 Mac 上运行,仅需 2 GB 内存。该项目已发布在 GitHub 上,大幅降低了本地运行大语言模型的硬件门槛。AI资讯分类技术资讯# 开源/仓库# 端侧# 部署/工程3个月前03620
Meta 广告排序的多阶段序列模型:从用户序列到 LLM 式扩展定律Meta 推出多阶段序列模型,将离线用户建模与在线排序解耦,并采用密集 token 化与目标感知注意力,使序列学习具备可预测的 LLM 式扩展定律。该架构已为 Instagram 转化率带来 6% 的...AI资讯分类技术资讯# Meta# 产品更新# 数据/训练3个月前02180