2027校招-大模型推理优化工程师
AI产品线 · 上海市 · 校招
AI 摘要智能生成
探索前沿推理加速技术
职位描述
职位描述 负责LLM/VLM大模型的部署与推理性能优化,系统性降低硬件延迟瓶颈,保障高并发下线上服务稳定性(TTFT与TPOT满足SLA要求)。 探索前沿推理加速技术,推动在新型GPU/NPU等硬件上的落地。
AI产品线 · 上海市 · 校招
探索前沿推理加速技术
职位描述 负责LLM/VLM大模型的部署与推理性能优化,系统性降低硬件延迟瓶颈,保障高并发下线上服务稳定性(TTFT与TPOT满足SLA要求)。 探索前沿推理加速技术,推动在新型GPU/NPU等硬件上的落地。