Hugging Face 博客(含机构投稿)·· 19 天前AI 评分33
LFM2.5-VL-DSpark 发布:为 LFM2.5-VL-3B 加速视觉语言模型推理
Accelerating vision-language models with LFM2.5-VL-DSpark
AI 导读
针对视觉语言模型 LFM2.5-VL-3B,Liquid AI 发布实验性推测解码草稿模型 LFM2.5-VL-DSpark,新增 280M 参数(占目标模型 8.9%),端侧解码最高加速 3.13x、H100 上最高 2.66x,端到端最高分别为 2.62x 和 2.27x。
来源:Hugging Face 博客(含机构投稿) · huggingface.co