AI/HPC计算系统架构师—性能分析与顶层架构(J11074)
Arch-Compute · 全国 · 社招
AI 摘要智能生成
对多GPU系统、异构多芯片计算系统的AI性能进行建模与分析
职位描述
职责: -站在计算系统的角度(包括计算单元子系统、SoC芯片、多卡、超节点、数据中心、分 布式集群)对顶层架构、编程模型、指令集、异构系统等进行软硬协同设计。 -对多GPU系统、异构多芯片计算系统的AI性能进行建模与分析 -研究AI/HPC算法、CUDA编程、分析AI/HPC在多GPU系统上的scalable性能、稳 定性、功耗、TCO等问题。 -对接产品经理、客户支持工程师、算法工程师、框架工程师、软件栈工程师,深入理解 客户底层需求、并下沉出架构优化方向及具体的设计需求,制定相关架构的SPEC。
任职要求
- 技能要求:
- 具备计算机系统结构知识,理解GPU架构及多GPU系统架构;
- 理解AI或HPC算法及其在GPU、系统上的部署和运行时数据流;
- 理解现代MoE模型架构、LLM部署、及其在训练、推理集群上的运行原理;
- 了解大模型向GPU系统部署的并行策略,如数据并行、流水线并行、张量并行、专
- 家并行、上下文并行等;
- 能针对大量性能数据进行综合分析、识别计算瓶颈、提出架构建议;
- 具有编程模型、memorymodel、软硬接口、ISA的知识和经验;
- 熟练的C++或PyThon编程、AI编程能力;
- 加分项:能够分析AI模型源代码,并针对目标硬件架构作高层次性能建模;
- 加分项:Megatron、Zero、VERL、vLLM、SGLang等方面的知识或经验
- 加分项:NVSHMEM、NCCL、MPI、PGAS等方面的知识或经验;
- 加分项:PTX、nvcc、CUDAC++、CUTLASS、cuTile、cuBLUS、cuDNN、
- TensorRT、Triton、tileLang、PyTorch等方面的知识或经验;