大模型MaaS 网关研发实习生(练习生)
小红书 · 上海市 · 社招
AI 摘要智能生成
MaaS 网关研发
职位描述
1、MaaS 网关研发: 参与 MaaS 网关架构设计与研发,建设公司统一的大模型 API 服务入口。 2、智能路由: 参与打造兼顾效果、成本与稳定性的智能路由体系,持续提升模型服务的性价比与用户体验。 3、模型服务治理能力建设: 负责模型接入、请求路由、鉴权、限流、配额、TPM / RPM、灰度发布、SLO、用量统计等核心能力。 4、请求调度与稳定性建设: 建设多模型、多租户、高并发场景下的请求调度与服务治理能力,提升模型服务稳定性和资源效率。 5、推理引擎与业务打通: 打通底层推理引擎与上层业务应用,为社区、搜索、审核、企效、AI 应用等场景提供开箱即用的大模型服务能力。 6、开发者体验优化: 持续优化统一 API、SDK、文档、监控、问题诊断和接入流程,提升内部 AI 应用开发效率。 7、成本与效率优化: 与推理、压缩、调度团队协同,持续优化模型调用成本、服务延迟和资源利用率。
同岗多源比价
同一岗位在其他平台/渠道的报价与链接(去重归并:公司+岗位+城市)
小红书官方招聘薪资面议当前来源