热点事件观察中
DualQuant无需校准数据实现四位量化
1 篇报道1 个报道来源2 天前更新
先了解这件事
报道摘要
DualQuant 仅利用模型权重，将权重与激活同时量化至四位精度，在多数受测模型和格式上达到或超过 SmoothQuant 的精度。其面向 MXFP4 和 NVFP4 格式，在 RTX 4090 上运行 Llama-3.1-8B 时，相比 BF16 基线实现2.61倍内存缩减和最高2.46倍吞吐加速。
摘自 Tech Times 科技与产业动态
报道时间线
沿着报道，了解事件的不同侧面。
10月14日
- Tech Times 科技与产业动态原文 ↗DualQuant 无需校准数据实现四位量化，多数测试精度匹配 SmoothQuant
DualQuant 仅利用模型权重，将权重与激活同时量化至四位精度，在多数受测模型和格式上达到或超过 SmoothQuant 的精度。其面向 MXFP4 和 NVFP4 格式，在 RTX 4090 上运行 Llama-3.1-8B 时，相比 BF16 基线实现2.61倍内存缩减和最高2.46倍吞吐加速。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。