AI/HPC计算系统架构师—网络与超节点架构(J11072)

AI 摘要智能生成

聚焦在scaleup域内的通讯协议

职位描述

-站在计算系统的角度（包括计算单元子系统、SoC芯片、多卡、超节点、数据中心、分 布式集群）对多GPU系统的顶层架构、编程模型、指令集、异构部署等进行软硬协同设 计。 -聚焦在scaleup域内的通讯协议、switch、在网计算、超节点架构进行设计 -对多GPU系统、异构多芯片计算系统的AI性能进行建模与分析 -研究AI/HPC算法、CUDA编程、分析AI/HPC在多GPU系统上的scalable性能、稳 定性、功耗、TCO等问题。 -对接产品经理、客户支持工程师、算法工程师、框架工程师、软件栈工程师，深入理解 客户底层需求、并下沉出架构优化方向及具体的设计需求，制定相关架构的SPEC。

任职要求

• 具备计算机系统结构知识，理解GPU架构及多GPU系统架构；
• 熟悉CPU、GPU等处理器的内存管理、地址管理；
• 熟悉主流总线系统、互联协议等；
• 熟悉Messagepassing、sharedmemory等多卡编程模型，如MPI、SHMEM、
• PGAS等；
• 理解AI或HPC算法及其在GPU、系统上的部署和运行时数据流；
• 了解现代MoE模型架构、LLM部署、及其在训练、推理集群上的运行原理；
• 了解大模型向多GPU系统部署的并行策略，如数据并行、流水线并行、张量并行、
• 专家并行、上下文并行等；
• 能针对大量性能数据进行综合分析、识别计算瓶颈、提出架构建议；
• 熟练的C++或PyThon编程、AI编程能力；
• 了解最新的互联技术，如CPO、光交换机等
• 加分项：熟悉现代KVCache在各种部署场景下在多卡系统的存储管理、部署、与运
• 行时数据流动
• 加分项：能够分析AI模型源代码，并针对目标硬件架构作高层次性能建模；
• 加分项：Megatron、Zero、VERL、vLLM、SGLang等方面的知识或经验
• 加分项：NVSHMEM、NCCL、MPI、PGAS等方面的知识或经验；
• 加分项：PTX、nvcc、CUDAC++、CUTLASS、cuTile、cuBLUS、cuDNN、
• TensorRT、Triton、tileLang、PyTorch等方面的知识或经验；