顶尖实习-大语言模型算法研究员-MiMo-实习
顶尖实习 · · 实习
AI 摘要智能生成
参与大语言模型的核心技术研发,包括但不限于
职位描述
参与大语言模型的核心技术研发,包括但不限于: 1、预训练优化(数据合成、长上下文建模、训练动力、scaling laws分析); 2、后训练技术(强化学习、奖励模型、推理能力提升); 3、代码生成与理解(自动化数据构建、运行反馈优化); 4、模型架构创新(MoE、高效推理、稳定性优化); 5、 探索AI Agent、长序列推理、在线学习等新兴方向。
任职要求
- 熟悉大语言模型(如Transformer、MoE)的核心原理,具备以下至少一项经验:
- 大规模模型训练(分布式训练、数据优化)
- 强化学习、奖励建模或AI Agent开发
- 代码生成、程序理解或相关领域
- 模型架构优化(如高效推理、长上下文处理)
- 熟练使用PyTorch、DeepSpeed等框架,具备代码实现与调试能力。