AirLLM 实现单块 4GB GPU 运行 70B 模型推理AirLLM 项目支持在单块 4GB 显存 GPU 上运行 70B 参数大模型推理,无需多卡或大规模显存配置。该项目已开源,相关讨论在 Hacker News 上获得 103 点热度,引发社区关注。AI资讯分类技术资讯# 开源/仓库# 端侧# 部署/工程3个月前03000
持续学习时代的 8 个预测持续学习将颠覆现有 AI 监管与对齐范式:模型不再“训练后部署”,而是每日基于数百万次工作会话更新权重,因此监管应转向月度或季度风险检查,而非部署前一次性评估。技术对齐需解决权重持续更新下的越狱与恶意...AI资讯分类技术资讯# 大佬观点# 部署/工程3个月前05230
Tom Tunguz 分析 4 万亿美元 AI 数据中心债务浪潮Tom Tunguz 分析称,未来五年美国数据中心容量将从 25 吉瓦增至 70 吉瓦,全球建设成本约 5 万亿美元,其中约 4 万亿美元需靠债务融资,相当于美国公司债市场扩容 34%,并超过全球私募...AI资讯分类技术资讯# 现象/趋势# 部署/工程2个月前05360
Cloudflare 如何用软件工厂将 Astro 的 GitHub issue 数降至零Cloudflare 在 Astro 仓库上运行自动化 triage 流水线,通过隔离的 AI 子代理复现、诊断并修复 bug,将开放 issue 从 200 多个降至约 30 个,预计下月归零。该流...AI资讯分类技术资讯# 开源/仓库# 开源生态# 智能体3个月前04760
RingCentral 如何用 ChatGPT Work 和 Codex 构建 AI 原生工作流RingCentral 通过全员发放 ChatGPT Work 和 Codex,推动从工程到运营的 AI 原生开发,其 AI-Native Challenge 让数千名员工(含非技术人员)交付了可运行...AI资讯分类技术资讯# OpenAI# 行业动态# 部署/工程3个月前03980
Firetiger 团队加入 CursorFiretiger 团队正式加入 Cursor。该公司构建面向生产环境的智能体,可监控发布、捕获回归、调查事件并将发现反馈给编码智能体。Firetiger 由 Rustam Lalkaka 和 Ach...AI资讯分类技术资讯# 智能体# 行业动态# 部署/工程3个月前02640
AI 框架(Harness)对模型性能的影响超过模型本身:GPT-5.5 在 Cursor 上得分 87.2%,比 Codex 高 25.7 个百分点Endor Labs 测试发现,同一模型在不同框架(Harness)上性能差异巨大:OpenAI 的 GPT-5.5 在原生 Codex 框架上功能正确率为 61.5%,在 Cursor 上达 87...AI资讯分类技术资讯# Anthropic# OpenAI# 大佬观点3个月前03580
开源引擎可在任何 M 系列 Mac 上以 2 GB 内存运行 Gemma 4 26B一个开源引擎让 Gemma 4 26B 模型能在任何 M 系列 Mac 上运行,仅需 2 GB 内存。该项目已发布在 GitHub 上,大幅降低了本地运行大语言模型的硬件门槛。AI资讯分类技术资讯# 开源/仓库# 端侧# 部署/工程3个月前03020
Hugging Face 发布 LFM2.5 系列 DSpark 草稿模型,推理速度最高提升 3.18 倍Hugging Face 发布 LFM2.5 系列三款模型的 DSpark 草稿模型检查点,通过投机解码在不改变输出质量的前提下,GPU 吞吐最高提升 3.18 倍,端侧最高 2.87 倍。草稿模型约...AI资讯分类技术资讯# 推理# 模型发布# 部署/工程3个月前05560
英伟达联合六大机构融资5000亿美元建AI工厂英伟达宣布与Apollo、BlackRock、Blackstone、Brookfield、Goldman Sachs和KKR合作,建立独立融资平台,动员超5000亿美元第三方资本支持AI基础设施建设。AI资讯分类技术资讯# 行业动态# 部署/工程3个月前04020