大模型训练系统开发实习生-基模

AI 摘要智能生成

负责大语言模型、视频模型、多模态模型的预训练和强化学习框架研发与优化

职位描述

1、负责大语言模型、视频模型、多模态模型的预训练和强化学习框架研发与优化 2、与算法团队深度合作，进行算法与系统的联合设计与优化 3、保持关注行业前沿技术，且有能力和热情开展创新研究 - 深入研究过至少一种机器学习框架（TF/PyTorch）或其他分布式训练框架（Megatron/VeRL等）的底层架构和原理 - 具备开发高性能CUDA kernel的经验 - 有硕士/博士阶段的计算机系统方向研究背景，或在国际顶级系统会议上（OSDI/SOSP/SIGCOMM/ASPLOS/NSDI等）发表过论文 - 有过完整参与LLM训练全过程的经历；有算法系统协同设计的经历

任职要求

• 硕士及以上学历，计算机、软件工程、人工智能等相关专业在读优先
• 熟练掌握Linux环境下的C/C++与Python语言
• 精通以下至少一项的背景知识或经验：分布式训练框架、高性能计算与通信、GPU程序的监控和性能分析等
• 具有独立解决问题的能力，良好的团队合作精神
• 有强烈的工作责任心，较好的学习能力、沟通能力和自驱精神
• 有良好的文档习惯，及时按要求撰写更新工作流程及技术文档