AI研究院-大模型推理工程师
AI研究院 · · 校招
AI 摘要智能生成
负责大模型推理引擎性能深度优化
职位描述
1、负责大模型推理&训练相关工具生态建设及持续优化,包括大模型训推框架,服务自动化等。 2、负责大模型推理引擎性能深度优化,结合实际业务场景,优化推理策略、调度逻辑,支撑线上业务高并发与低延时需求。 3、负责持续探索业内大模型最佳工程落地实践,引进最新AI coding工具,沉淀全链路skill,持续改进大模型研发落地效能
AI研究院 · · 校招
负责大模型推理引擎性能深度优化
1、负责大模型推理&训练相关工具生态建设及持续优化,包括大模型训推框架,服务自动化等。 2、负责大模型推理引擎性能深度优化,结合实际业务场景,优化推理策略、调度逻辑,支撑线上业务高并发与低延时需求。 3、负责持续探索业内大模型最佳工程落地实践,引进最新AI coding工具,沉淀全链路skill,持续改进大模型研发落地效能