Ai2以GPU时间预算改造内部集群调度
影响级别
⚪背景知识
⚠ 风险提示:文中“多出30%算力”是研究员体验描述,不能视为实测扩容或降本比例。
发生了什么
10月9日发布的机构博客称,Ai2为约150名内部研究人员引入GPU时间预算、分层公平分配与时间切片,替换优先级调度器。其集群需求为可用容量的2至3倍,公平分配默认回看7天;需人工介入的维修减少74%。具体上线日期及成本数据未披露。 [1]
本条涉及:NVIDIA H100、NVIDIA B200、NVIDIA B300
对卖家的影响
- 推断瓶颈是内部算力争用与长任务占位。预算计费和可恢复任务重排可能减少空占、改善突发需求的资源分配,但不增加物理容量,也不足以推断云GPU价格或卖家AI工具费用下降。 [1]
一个可执行建议
如需管理共享GPU集群,核验现有训练任务能否保存检查点并在抢占后恢复,以判断时间切片方案是否适用。
证伪信号
- 判断 1:建议在试用前后各两周比较同类任务;若空占时长未降、排队时长反升,则效率改善判断不成立。