AI/HPC计算系统架构师—网络与超节点（北京/上海）(J11081)

AI 摘要智能生成

聚焦在scale up域内的通讯协议

职位描述

主要职责： - 站在计算系统的角度（包括计算单元子系统、SoC芯片、多卡、超节点、数据中心、分布式集群）对多GPU系统的顶层架构、编程模型、指令集、异构部署等进行软硬协同设计。 - 聚焦在scale up域内的通讯协议、switch、在网计算、超节点架构进行设计 - 对多GPU系统、异构多芯片计算系统的 AI性能进行建模与分析 - 研究AI/HPC算法、CUDA编程、分析AI/HPC在多GPU系统上的scalable性能、稳定性、功耗、TCO等问题。 - 对接产品经理、客户支持工程师、算法工程师、框架工程师、软件栈工程师，深入理解客户底层需求、并下沉出架构优化方向及具体的设计需求，制定相关架构的SPEC。

任职要求

• 经验要求：
• 硕士+8年以上工作经验，或，博士+5年以上工作经验
• 技能要求：
• 具备计算机系统结构知识，理解GPU架构及多GPU系统架构；
• 熟悉CPU、GPU等处理器的内存管理、地址管理；
• 熟悉主流总线系统、互联协议等；
• 熟悉Message passing、shared memory等多卡编程模型，如MPI、SHMEM、PGAS等；
• 理解AI或HPC算法及其在GPU、系统上的部署和运行时数据流；
• 了解现代MoE模型架构、LLM部署、及其在训练、推理集群上的运行原理；
• 了解大模型向多GPU系统部署的并行策略，如数据并行、流水线并行、张量并行、专家并行、上下文并行等；
• 能针对大量性能数据进行综合分析、识别计算瓶颈、提出架构建议；
• 熟练的C++或PyThon编程、AI编程能力；
• 了解最新的互联技术，如CPO、光交换机等
• 加分项：熟悉现代KV Cache在各种部署场景下在多卡系统的存储管理、部署、与运行时数据流动
• 加分项：能够分析AI模型源代码，并针对目标硬件架构作高层次性能建模；
• 加分项：Megatron、Zero、VERL、vLLM、SGLang等方面的知识或经验
• 加分项：NVSHMEM、NCCL、MPI、PGAS等方面的知识或经验；
• 加分项：PTX、nvcc、CUDA C++、CUTLASS、cuTile、cuBLUS、cuDNN、TensorRT、Triton、tileLang、PyTorch等方面的知识或经验；