【飞星计划】AI研究算法工程师-大模型训推框架优化方向(J12669)

AI 摘要智能生成

负责多个领域的大模型推理加速算法在云端和嵌入式场景的研发落地

职位描述

1、负责多个领域的大模型推理加速算法在云端和嵌入式场景的研发落地，包括量化、PD 分离、算子优化、显存优化、推理调度等技术，支撑讯飞主要的云端和嵌入式推理业务，提升用户体验，降低部署成本。 2、负责多个领域的大模型训练方案的工程设计和研发，基于超大规模训练集群，针对不同任务类型构建统一高效的分布式训练系统，联合芯片底座优化训练效率，支撑讯飞各业务大模型的长时稳定训练。 3、负责跟进业界前沿的大模型训练与推理优化技术，包括分布式训推系统优化、模型压缩与量化、多芯片算子优化、系统稳定性保障等方向，结合实际业务需求和硬件特性，推动技术方案落地。 4、负责大模型训练与推理基础设施建设，完善性能分析、自动化调优、稳定性监控、故障定位等工具链，提升大模型训练和推理系统的工程效率与稳定性。

任职要求

• 算法