高级智能服务(AI护栏方向)
网易 · 成都市 · 社招
AI 摘要智能生成
负责 AI 应用安全护栏规则设计
职位描述
1. 负责 AI 应用安全护栏规则设计,定义 AI 与人工流转边界、高危场景转人工阈值;制定工具调用约束、权限分级及人工复核机制。 2. 设计多轮对话交互逻辑,管控话术合规红线,维护话术规则,保障输出口径统一合规。 3. 搭建护栏评估体系,通过核心指标完成上线效果量化评估。 4. 复盘线上 Badcase,定位问题根因,推动护栏、工具、知识库迭代落地。
网易 · 成都市 · 社招
负责 AI 应用安全护栏规则设计
1. 负责 AI 应用安全护栏规则设计,定义 AI 与人工流转边界、高危场景转人工阈值;制定工具调用约束、权限分级及人工复核机制。 2. 设计多轮对话交互逻辑,管控话术合规红线,维护话术规则,保障输出口径统一合规。 3. 搭建护栏评估体系,通过核心指标完成上线效果量化评估。 4. 复盘线上 Badcase,定位问题根因,推动护栏、工具、知识库迭代落地。