安全AGI实验室-大模型推理&训练实习工程师

AI 摘要智能生成

大模型推理优化技术的研究、工程落地实验

职位描述

1.大模型推理优化技术的研究、工程落地实验，包括但不限于，模型量化、模型蒸馏、模型压缩，token&上下文压缩、skill压缩、投机解码、并行解码等优化技术。 2.大模型推理框架的工程优化研究，包括但不限于（sglang、vllm、tensorrt-llm），follow最新的工程落地技术，结合实际的业务场景改进已有的开源框架。 3.大模型训练优化技术的调研，做大模型后训练环节（SFT、RL、AgenticRL）持续迭代和优化，和其他成员配合攻克大模型后训练相关的技术难题。 4.在大模型推理优化、训练优化方面产出相关的论文和开源代码贡献。

任职要求

• 研究生及以上学历，计算机、人工智能相关专业
• 扎实的数学功底和编程能力，熟悉深度学习理论和算法。
• 精通C++、python等常见编程语言。
• 技术热情高，具备很强的技术驱动力和自我管理能力，具有探索和创新精神。
• 在ACM/ICPC的亚洲区以上的级别比赛获奖者优先
• 有重大开源项目贡献者优先。