Hugging Face Blog·· 1 天前精选AI 评分63
Ai2 介绍基于 GPU 时间预算的集群调度系统以优化高影响力研究
Impactful scheduling for GPU clusters
AI 导读
Ai2 基础设施团队将原有的优先级调度器替换为包含 GPU 时间预算、层级公平共享和时间切片合同的系统,旨在优先支持高影响力研究并保持集群满负荷运行。新机制通过让管理层像投资者一样预先分配算力预算,消除了“公地悲剧”导致的资源囤积和优先级通胀问题。实测数据显示,调试类工作负载的 p90 排队等待时间从约 6 小时降至 5 分钟,且需要人工介入的硬件维修减少了 74%。
推荐理由
原文详细拆解了从优先级调度转向 GPU 时间预算制的架构设计与实测数据,为大规模集群资源管理提供了可复用的公平分配与防滥用方案。
来源:Hugging Face Blog · huggingface.co