分布式训练研发工程师-27届

AI 摘要智能生成

基于MLU构建异构并行通信库，面向未来低时延

职位描述

基于MLU构建异构并行通信库， 面向未来低时延、高带宽的计算通信需求，实现高性能设备通信加速库； 大规模分布式训练中多机计算、通信和训练性能的优化。

任职要求

• 本科及以上学历，计算机，软件工程，通信等相关专业；
• 熟练掌握 C/C++，有扎实的编程基础、良好的编程风格和工作习惯；
• 熟悉 Python/Shell 等脚本语言；
• 具有良好的团队协作精神，责任心强，能够积极主动地完成相关工作。
• 满足以下一种或多种条件者优先：
• 具备并行程序开发经验，了解 CUDA, OpenMPI, NCCL 等并行程序开发和性能调优经验；
• 掌握计算机系统结构知识和指令流水，有 Pipeline 优化经验；
• 有集合通信算法开发，网络编程，RDMA 编程相关经验；
• 了解 Pytorch/Megatron-LM 等框架分布式执行方式 。
• 注：本岗位设置笔试环节，请留意邮件或短信通知。