Liquid AI 发布 LFM2.5-VL-DSpark 视觉语言模型推测解码草稿模型
影响级别
⚪背景知识
发生了什么
据 Hugging Face 博客 2026 年 9 月 24 日 Liquid AI 投稿,其为视觉语言模型 LFM2.5-VL-3B 发布实验性推测解码草稿模型 LFM2.5-VL-DSpark。草稿新增约 2.795 亿参数,占目标模型 8.9%;官方称端侧解码最高加速 3.13 倍、H100 上 2.66 倍,端到端最高分别为 2.62 倍和 2.27 倍。首日支持 llama.cpp、MLX-VLM 和 SGLang,以 Safetensors 和 GGUF 开放权重,可下载、微调、部署。 [1]
本条涉及:LFM2.5-VL-DSpark、LFM2.5-VL-3B、llama.cpp、MLX-VLM、SGLang
对卖家的影响
- 事实推测解码仅加速解码,不加速视觉编码与前填充;边缘设备算力有限时前填充占时更长,端到端增益受限,官方亦承认。实际收益取决于任务前填充占比,需按自有负载实测。 [1]
- 推断该草稿模型开放权重、无限制下载微调部署,并首日接入 llama.cpp、MLX-VLM、SGLang,降低自建视觉推理的集成门槛。成本影响无法量化,因未提供单位推理成本、硬件价格或许可条款细节。 [1]
一个可执行建议
若已部署 LFM2.5-VL-3B,可用自有视觉任务实测启用草稿前后的端到端延迟,并记录前填充占比。
证伪信号
- 判断 1:若官方或第三方基准显示视觉编码或前填充阶段同步加速,或某硬件端到端增益超过所述上限,则该判断需修正。
- 判断 2:若官方变更许可条款、移除开放权重,或撤下对某一推理栈的支持,则该判断失效。