GPT-5.6 构建者指南:如何以更低成本实现前沿智能体性能GPT-5.6 模型家族以更低成本实现前沿级智能体性能,并新增推理持久化、原生多智能体编排和程序化工具调用等 API 能力。在 ARC-AGI-3 上,启用保留推理和压缩后,Sol 得分从 13.3...AI资讯分类技术资讯# MCP/工具# OpenAI# 推理3个月前03860
阿里开放 Qwen3.8-2.4T-A95B 模型权重:2.4T MoE、激活 95B、原生 256K 上下文阿里 Qwen 团队正式开放 Qwen3.8-2.4T-A95B 模型权重,这是 Qwen-Max 级别模型首次开源。模型总参数 2.4T,每个 Token 激活 95B,原生支持 262,144 T...AI资讯分类技术资讯# 开源生态# 推理# 模型发布3个月前04860
微软首发自研推理模型MAI-Thinking-1我们的首个推理模型 MAI-Thinking-1 从零开始构建,现已在 Microsoft Foundry 上线。为团队点赞!更多详情如下。AI资讯分类技术资讯# Microsoft# 推理# 模型发布3个月前04620
空货架还是丢钥匙?Google 研究:Recall 是参数化事实性的瓶颈Google Research 提出知识画像框架,发现前沿 LLM(如 Gemini3、GPT-5)的事实编码接近饱和,但回忆(recall)能力不足,多数事实错误源于“丢钥匙”而非“空货架”。该框架...AI资讯分类技术资讯# Google# 推理# 论文/研究3个月前02960
NVIDIA 推出 Nemotron 3.5 Lightning,加速本地智能体任务NVIDIA 发布 Nemotron 3.5 Lightning,一款可定制的开源 30B 混合专家(MoE)模型,专为常驻智能体设计。相比同类开源模型,其 token 生成速度最高提升 4 倍,任务...AI资讯分类技术资讯# 推理# 模型发布# 端侧3个月前04380
SGLang 宣布 Day-0 支持 NVIDIA Nemotron 3.5 LightningSGLang 宣布对 NVIDIA Nemotron 3.5 Lightning 提供 Day-0 支持,该开源模型为 30B 总参数、3B 激活参数的混合专家架构,支持最长 1M token 上下文...AI资讯分类技术资讯# 推理# 智能体# 模型发布3个月前03120
Ling-3.0-tiny 正式开源:1.3B 激活参数如何进入真实任务蚂蚁百灵开源 Ling-3.0-tiny,一款总参数 7.9B、推理时仅激活 1.3B 参数的原生混合推理模型,同步提供 BF16、FP8 和 INT4 三个版本。AI资讯分类技术资讯# 开源生态# 推理# 智能体3个月前04500
研究人员发现可读取ChatGPT等模型加密推理过程的API漏洞Alexander Panfilov团队发现OpenAI、Anthropic、Google等主要AI提供商API存在漏洞,可读取推理模型的加密思考过程。扫描约7000条公开会话发现62个API密钥、3...AI资讯分类技术资讯# Anthropic# OpenAI# 安全/对齐3个月前04680
Apple Silicon 与 macOS 虚拟机:借助 Llama.cpp 实现 11–16 倍的 LLM 推理加速研究团队为 macOS 虚拟机中的 Metal 能力查询构建进程级兼容层,使 llama.cpp 能选用更新的 Metal 内核。在 M1 Ultra 上,TinyLlama 1.1B 的提示处理速度...AI资讯分类技术资讯# 推理# 论文/研究# 部署/工程3个月前06420
统一 Radix 缓存:为混合模型前缀缓存构建单一树结构LMSYS 团队提出 Unified Radix Cache,用单一 token 键控 radix 拓扑统一管理混合模型的 FULL、SWA 和 MAMBA 组件缓存,各组件独立执行路径、滑动窗口和检...AI资讯分类技术资讯# 推理# 论文/研究# 部署/工程3个月前03660