AI研究院-风控策略运营-合肥
AI研究院 · · 校招
AI 摘要智能生成
风险指标体系搭建与动态监测预警
职位描述
1. 风险指标体系搭建与动态监测预警：搭建适配大模型业务场景的全维度风险指标体系，覆盖内容安全、合规风险、用户风险等核心维度，明确指标口径、监测规则与阈值标准； 建立常态化风险动态监测机制，实时追踪风险水平波动，精准捕捉异常风险信号，及时触发预警响应，为风险防控提供前置决策依据，筑牢大模型安全防线的第一道屏障。 2. 安全链路漏洞排查与风险特征深度挖掘：搭建标准化问题分析机制，系统梳理大模型内容安全全链路流程，精准定位安全防控链路中的漏洞点、薄弱点； 运用归因分析方法，对安全链路问题进行聚类拆解，深度挖掘各类风险的核心特征、触发路径与演化规律，形成结构化风险画像，为精准施策提供数据支撑。 3. 策略执行跟踪与问题闭环解决：全流程跟进大模型内容安全策略的落地执行情况，建立策略执行效果跟踪机制，通过多维度数据监测，敏锐捕捉策略落地偏差、效果衰减等问题； 深入溯源问题本质，联动产品、研发、运营等相关团队，高效协同制定针对性解决方案，推动方案快速落地生效，并建立问题复盘机制，形成风险防控的闭环管理。 4.业务风险指标迭代与策略动态优化：建立业务风险指标的全周期跟踪分析体系，定期结合大模型业务迭代、风险态势变化及监管要求，评估风险指标的合理性与有效性； 基于分析结论持续优化风险指标体系，迭代完善策略规则与防控逻辑，确保风险防控策略始终适配业务发展需求，实现风险管控的精准化、动态化。 5、大模型新兴风险预判与前瞻性策略储备：紧跟大模型技术迭代趋势与行业安全治理动态，预判多模态内容生成、智能交互等场景的新兴安全风险，开展风险预研与策略储备； 建立风险预警响应机制，针对潜在风险快速输出应急策略，助力公司抢占安全防控先机，保障大模型业务在技术创新中始终守住安全底线。