smevals:用于评测模型、提示词与评测框架的小型评测套件smevals 是 Simon Willison 与 Prime Radiant 实验室合作开发的新工具,用于跨不同模型配置运行小型评测套件并对结果打分。它支持通过 uvx smevals run 对...AI资讯分类技术资讯# 开源/仓库# 评测/基准3个月前05260
Thinking Machines 发布开源权重模型 Inkling 与 Inkling-Small 的安全路径Thinking Machines 发布开源权重模型 Inkling 和 Inkling-Small,称安全发布取决于模型本身及生态系统的准备度。公司通过内部评估、四家独立机构外部测试及微调研究验证...AI资讯分类技术资讯# 安全/对齐# 开源/仓库# 现象/趋势3个月前04860
在 M1 Max 上运行 2.8T 参数的 Kimi K3:Deltafin 项目实现 0.0687 token/s 推理Deltafin 项目成功在 64 GB M1 Max 上运行了 2.8T 参数的 MoE 模型 Kimi K3,当前中位推理速度为 0.0687 token/s(14.6 秒/token)。完整安装...AI资讯分类技术资讯# 开源/仓库# 推理# 端侧3个月前04720
开源引擎可在任何 M 系列 Mac 上以 2 GB 内存运行 Gemma 4 26B一个开源引擎让 Gemma 4 26B 模型能在任何 M 系列 Mac 上运行,仅需 2 GB 内存。该项目已发布在 GitHub 上,大幅降低了本地运行大语言模型的硬件门槛。AI资讯分类技术资讯# 开源/仓库# 端侧# 部署/工程3个月前03620
腾讯混元开源 AngelSpec 投机解码框架腾讯混元开源端到端投机解码框架 AngelSpec,支持训练与部署。在 Hy3-A21B 模型上,其 DFly 方案相比自回归解码实现 1.98–2.40 倍端到端加速,吞吐量比 DFlash 高 1...AI资讯分类技术资讯# 开源/仓库# 推理# 部署/工程3个月前04500
Microsoft 发布 MAI-Cyber-1-Flash:5B 活跃参数的网络安全模型,驱动 MDASH 在 CyberGym 上达到 95.95%Microsoft 发布 MAI-Cyber-1-Flash,一款 137B 总参数(5B 活跃参数)、256k 上下文窗口的稀疏 MoE 网络安全模型,是 MAI-Code-1-Flash 的微调版...AI资讯分类技术资讯# Microsoft# 安全/对齐# 开源/仓库3个月前02680
OpenAI 发布 Codex 安全 CLI 与 SDK更多开源福利。我们刚刚发布了一个 CLI 和 TypeScript SDK,用于查找、验证和修复代码中的安全漏洞。扫描仓库、审查变更、随时间追踪发现,并在 CI 中运行安全检查。 https://gi...AI资讯分类技术资讯# OpenAI# 开源/仓库# 编码3个月前06310
Kimi 发布视觉感知基准 PerceptionBenchKimi.ai 发布 PerceptionBench,一个从当前前沿模型在 42 个基准上的失败模式中归纳出的视觉感知基准。该基准将视觉感知拆解为 10 种原子能力,并构建了 3000 道验证题,每道...AI资讯分类技术资讯# Hugging Face# 多模态# 开源/仓库3个月前04680
SGLang 和 Miles 为月之暗面 2.8T 参数 Kimi K3 模型提供发布当日支持SGLang 和 Miles 为月之暗面开源的 2.8T 参数模型 Kimi K3 提供发布当日支持,分别负责推理和 RL 训练。K3 采用 69 层 KDA 线性注意力与 24 层 MLA 交错的混...AI资讯分类技术资讯# 开源/仓库# 推理# 部署/工程3个月前02860
用AI Skill自动生成可协作HTML PPTVista 基于 bento PPT 改造了一个 Skill,输入内容或主题即可自动生成可编辑、在线演示并支持协作的 HTML PPT。安装指令为 npx skills add joeseesun/q...AI资讯分类技术资讯# MCP/工具# 开源/仓库# 教程/实践3个月前02960