AI研究算法工程师-大模型训推框架优化方向(J13368)

AI 摘要智能生成

参与新的大模型结构的设计、性能评估

职位描述

1、负责多个领域的大模型推理加速算法在云端和嵌入式场景研发，包括量化、PD分离、算子优化等技术，支撑讯飞主要的云端和嵌入式推理业务，提升用户体验，降低部署成本； 2、负责多个领域的大模型训练方案的设计和研发，基于超大训练集群，针对不同任务设计高效分布式系统，联合芯片底座优化训练效率，支撑讯飞星火大模型的长时稳定训练； 3、负责跟进业界最前沿技术方案（并行技术、量化技术、MoE算法、稳定性保障等），结合实际任务需求和硬件特性，探索业务落地场景； 4、参与新的大模型结构的设计、性能评估，从训练和推理的成本角度参与模型结构设计和优化。

任职要求

• 算法