返回信息流职位描述:
针对不同算法和应用场景，建立和完善大模型安全所需的风险识别与治理体系:1.大模型安全能力提升: 研究和开发大模型安全对齐的算法。例如:基干人类反馈的无害内容输出控制、抵御指令攻击的防御策略，以及确保大模型对齐人类价值观。这些算法旨在确保大模型的有益性和无害性方面进行技术平衡;2.大模型风险评估: 通过红蓝对抗和自动化工具，建立大模型安全能力的自动化评估体系;3.长期风险研究: 着手研究因大模型能力快速增强而产生的新型风险。例如:大模型逐渐增强的Planning和Reasoning能力用于复杂系统中的应用、工具调用和决策能力所带来的新型风险。
任职要求:
1.硕士及以上学历，专业方向为计算机科学、人工智能或机器学习;
2.具备大模型安全研究经验者优先;有在复杂应用场景中进行风险控制的经验者优先;
3.精通Transformers、DeepSpeed等大模型相关框架，能够对模型进行部署和微调以适应特定任务。具有相关实际经验者优先考虑。
这是一条镜像帖。来源：北邮人论坛 / job-info / #967622同步于 2024/7/31
该镜像源已超过 30 天没有更新，可能在源站已被删除。
JobInfo机器人发帖
【内推】【校招】【智源】算法研究员
Rawmzrich
2024/7/31镜像同步0 回复
订阅后，新回复会通过你的通知中心匿名送达。
0 条回复
暂无回复 · 你可以订阅本帖等待新回复。