Codewave-服务端开发工程师
网易 · 杭州市 · 社招
AI 摘要智能生成
负责流量网关能力建设
职位描述
1、负责 Codewave 智能开发平台 AI 网关与流量网关的架构设计、核心功能开发与持续演进，包括：多模型统一接入层（OpenAI/Anthropic/ 国产大模型等）的协议适配与转换、请求路由与智能调度、流式响应（SSE/WebSocket）的转发与处理； 2、负责流量网关能力建设：南北向 / 东西向流量的统一接入与治理，路由与灰度发布、负载均衡、鉴权认证与安全防护、限流熔断、流量镜像与回放等，保障平台核心业务的稳定接入与流量安全； 3、负责平台核心业务开发：参与 Codewave 智能开发平台核心业务链路（如租户、应用生命周期管理，运营等）的架构设计与研发，推动平台能力的产品化落地与持续迭代； 4、负责网关核心能力建设：Token 计量与计费、配额管理、多级限流、API Key 全生命周期管理、语义 / 结果缓存、模型故障降级与 Failover 机制； 5、负责网关可观测性体系建设：全链路调用追踪、监控告警、成本分析与调用质量评估； 6、攻关高并发、长连接、低延迟场景下的性能与稳定性难题，保障海量 LLM 调用下的服务可用性。