岗位职责:
1. 负责以AI大模型为主内容安全策略的产品设计,构建并优化大模型输出风险内容的审核与过滤机制。
2. 深入理解平台内容管控政策,洞察内容安全风险,提出策略体系防控主链路的改进建议。
3. 结合美团业务不同阶段发展需要及场景特性,设计分层、弹性的防控方案,平衡业务正向价值和安全水位。
4. 协同算法、技术、运营、法务等团队,及时推动策略落地并跟踪监控执行效果。
岗位要求:
1. 本科及以上学历,理工科优先。
2. 熟练掌握SQL。熟悉Python,及常用机器学习算法优先。
3. 3年及以上内容安全从业经验,熟悉审核全链路。有大模型、Agent在垂直领域应用经验者优先。
4. 具备较强的逻辑思维和问题归纳能力,善于将复杂问题拆解为一系列简单问题。能够从宏观视角制定清晰的目标。
岗位亮点:
1. 我们有开放、直接的工作氛围,以逻辑和事实说话,而不是岗位级别和层级,我们尊重知识和常识。
2. 我们有核心的业务场景,你可以全身心地投入安全+人工智能的时代浪潮中,建设业界卓越的内容安全解决方案。