具身智能训练优化工程师(J11051)
边缘计算开发 · 浙江省·杭州市 · 社招
AI 摘要智能生成
面向具身智能模型的预训练与监督微调
职位描述
面向具身智能模型的预训练与监督微调,负责代表性模型在摩尔线程 GPU 平台上的适配、性能优化与稳定性建设。结合客户需求,深入主流开源训练框架,沉淀可复用的训练方案、数据管线和优化能力。 工作职责 1. 完成代表性视觉语言动作模型(VLA)的训练适配、正确性验证与性能基线建设。 2. 深入分析计算、显存、通信和数据加载瓶颈,优化训练吞吐、资源利用率及运行稳定性。 3. 优化混合精度、梯度累积、激活检查点和分布式训练策略,验证优化对数值精度与模型收敛的影响。 4. 优化多模态训练数据管线,包括数据读取、预处理、采样和加载。 5. 深入开源框架源码,通过性能分析、对照实验和最小复现定位问题,协同算子、通信、驱动及框架团队完成优化。 6. 支持重点客户的训练问题排查,将共性需求沉淀为代码改进、训练配置、回归测试和技术文档。 7. 指导实习生开展模型适配、基准测试和文档工作,并负责技术验收。
任职要求
- 任职要求
- 扎实的 Python 编程能力,熟悉 PyTorch,能够独立阅读、修改和调试开源训练代码。
- 理解深度学习训练原理,熟悉自动求导、优化器、混合精度及常见显存优化方法。
- 有多 GPU 训练或训练性能优化经验,熟悉 DDP、FSDP、DeepSpeed 中至少一种方案。
- 能使用性能分析工具、日志和对照实验,区分计算、通信、数据加载及框架调度瓶颈。
- 能验证训练正确性、收敛表现和稳定性,具备完整的问题复现、定位及修复验证能力。
- 能有效使用 AI 编程与分析工具,并通过实验验证生成代码及分析结论。
- 加分项
- 有 VLM、VLA、机器人学习或多模态模型训练经验。
- 有开源训练框架贡献或深度定制经验。
- 有国产 GPU 适配、PyTorch 后端、编译器或 GPU 算子开发经验。
- 有大规模图像/视频数据处理和训练存储优化经验。