Liquid AI 发布 LFM2.5 系列 QAD Q4_0 量化检查点,恢复 97% 精度损失Liquid AI 发布基于量化感知蒸馏(QAD)训练的 LFM2.5-230M、350M、1.2B-Instruct 和 2.6B 四款 Q4_0 GGUF 检查点,在保持原生 Q4_0 内存与速度...AI资讯分类技术资讯# Hugging Face# 模型发布# 端侧3个月前05540
Soup v0.72.4:在4 GB显存笔记本GPU上微调8B模型Soup 推出 v0.72.4,支持在配备 4 GB 显存的笔记本 GPU 上通过 QLoRA 微调 8B 模型,无需 SSH 或云服务。AI资讯分类技术资讯# 产品更新# 开源生态# 数据/训练3个月前05350
K-Search 将 CUDA 内核优化经验迁移至 Apple Silicon MLX,性能接近专家水平伯克利 Sky Lab 团队基于 K-Search 框架开发了 CUDA 到 MLX 的结构化翻译层,使 AI 驱动的内核搜索能自动将 NVIDIA GPU 上积累数十年的内核优化知识迁移至 Appl...AI资讯分类技术资讯# 推理# 端侧# 论文/研究3个月前05320
Qwen 3.8 27B 表现出色,但默认推理强度过高导致过度思考阿里 Qwen 实验室发布 Apache 2 许可的 27B 参数视觉大模型 Qwen 3.8 27B,官方基准显示其超越前代 Qwen 3.6 27B 及闭源 Qwen 3.7-Plus。AI资讯分类技术资讯# 推理# 端侧# 编码3个月前05300
Apple 发布首款折叠屏 iPhone Duo,起售价 $1,999Apple 发布首款折叠屏 iPhone Duo,展开为 7.6 英寸内屏,合盖后为 5.4 英寸外屏,提供 iPhone 上最大显示面积。搭载 A20 Pro 芯片和蒸汽室散热,iPhone 17 ...AI资讯分类技术资讯# 产品更新# 多模态# 端侧2个月前05220
在单颗 AMD MI300X 上运行 DeepSeek V4 Flash一个开源仓库提供了在单颗 AMD MI300X 上生产运行 DeepSeek-V4-Flash-0731 的完整配置与补丁,无需额外量化或权重卸载。该 304B 参数模型在 192 GB HBM 上实...AI资讯分类技术资讯# DeepSeek# 开源/仓库# 端侧3个月前04900
WhatsApp 如何用端到端加密与可验证性构建 Scam Alert 诈骗提醒功能WhatsApp 推出可选功能 Scam Alert,通过端到端加密保护下在设备端运行机器学习模型,识别潜在诈骗消息,且消息内容不会离开设备或自动上报。该功能遵循仅设备端处理、无自动上报、用户控制三大...AI资讯分类技术资讯# Meta# 产品更新# 安全/对齐3个月前04860
在 M1 Max 上运行 2.8T 参数的 Kimi K3:Deltafin 项目实现 0.0687 token/s 推理Deltafin 项目成功在 64 GB M1 Max 上运行了 2.8T 参数的 MoE 模型 Kimi K3,当前中位推理速度为 0.0687 token/s(14.6 秒/token)。完整安装...AI资讯分类技术资讯# 开源/仓库# 推理# 端侧3个月前04720
FastMetal 让 Mac 本地 30 秒生成视频一段 5 秒 480P 视频,完全在 Mac 上生成,耗时 30 秒。无需 CUDA,无需云端,仅占用 3.9 GiB 内存。 FastMetal 将 FastWan-QAD 系列带到 Apple S...AI资讯分类技术资讯# Hugging Face# 开源/仓库# 端侧3个月前04540
腾讯混元将端侧翻译模型 Hy-MT2-1.8B 压缩至 440MB,已落地哔哩哔哩直播弹幕翻译腾讯混元将端侧翻译模型 Hy-MT2-1.8B 通过 2-bit 与 1.25-bit 量化方案压缩至 574MB 和 440MB,翻译质量几乎无损,在 FLORES-200 上优于 Microsof...AI资讯分类技术资讯# Hugging Face# 模型发布# 端侧2个月前04520