云平台开发工程师（AI infra方向）(J14355)

AI 摘要智能生成

深入底层优化大模型（LLM）的训练和推理性能

职位描述

1、深入底层优化大模型（LLM）的训练和推理性能； 2、基于 Kubernetes 等云原生技术，构建统一的大模型训练/推理平台，实现算力资源的智能调度。

任职要求

• 985/211院校，计算机或者人工智能相关专业；
• 具有的Python或Go开发功底和经验；
• 精通 Docker 容器化技术，深入理解 Kubernetes 架构，有大规模计算集群的部署和运维经验；
• 深入了解 NVIDIA GPU 硬件架构及生态（CUDA、TensorRT、cuDNN 等），熟悉常见故障排查。
• 具备以下条件者优先
• 训练优化：熟悉 Megatron-LM、DeepSpeed、Horovod 等分布式训练框架，懂张量并行、流水线并行、ZeRO 优化策略。
• 推理优化：精通 vLLM、TensorRT-LLM、Ollama 等主流推理框架，掌握 KV Cache 优化、连续批处理（Continuous Batching）、PagedAttention 等核心机制。