点评技术-训推框架工程师

AI 摘要智能生成

负责训推框架的架构设计与开发，支持搜推模型

职位描述

1. 负责训推框架的架构设计与开发，支持搜推模型、生成式推荐及大语言模型的训练与在线推理，提升框架的性能、稳定性与易用性。 2. 优化分布式训练，解决数据读取、Embedding 访问、GPU 计算、通信及显存等关键瓶颈，在保证训练正确性与收敛效果的前提下，提升吞吐和资源效率。 3. 与算法团队开展模型与系统协同设计，优化算子实现、模型执行与并行策略，兼顾模型效果、训练成本和推理时延。 4. 建设性能分析、故障诊断与恢复能力，完善训推一致性验证，保障系统稳定运行。 5. 跟进 AI Infra 前沿技术，结合业务需求开展技术选型与工程验证，推动有效方案规模化落地。

任职要求

• 算法