慧实习
← 返回首页

大模型平台算力运管与调度系统工程师/专家

小红书 · 北京市,上海市,杭州市 · 社招

信息来源:小红书官方招聘查看原始链接 ↗官方认证薪资面议
立即投递 ↗

AI 摘要智能生成

万卡 GPU 调度系统建设

职位描述

1、万卡 GPU 算力运管:建设平台化,自动化,智能化的GPU资源运管平台和GPU全生命周期的追溯和治理能力 2、万卡 GPU 调度系统建设: 参与大规模 GPU 集群调度系统建设,围绕 Quota、优先级、抢占、弹性伸缩、碎片整理、拓扑感知调度等能力提升资源效率。 3、训推统一调度: 面向大模型训练、后训练、推理服务等不同负载,设计训推统一调度、潮汐混部、在线离线协同和资源弹性策略。 4、资源利用率治理: 建设 GPU 资源利用率分析体系,基于真实负载数据识别低效资源、资源碎片、潮汐空闲和调度瓶颈。 5、LLMOps 平台融合: 参与构建面向大模型训练、微调、推理、部署全流程的 LLMOps 能力,支撑业务千卡预训练和推理服务启动效率和稳定性 6、集群稳定性建设: 与云原生、IDC、网络、存储和业务团队协作,提升大规模 AI 集群的故障恢复能力、资源周转效率和任务稳定性。 7、前沿技术探索: 持续关注 Kubernetes、Volcano、Kueue、Ray、弹性调度等相关技术,探索下一代 AI 资源调度系统。

任职要求

  • Kubernetes

同类岗位推荐