返回信息流上海人工智能实验室可信安全中心，致力于探索LLM/MLLM可信的能力扩展与安全防护。小组在ACL/CVPR/Neurips等顶会发表多篇文章，优秀实习生可推荐26年实验室联培博士计划，欢迎感兴趣的同学自荐及推荐简历。
大模型可信算法实习生 坐标：北京/上海
岗位方向（可选任一）
1. 大模型可信评测：构建相关数据集，包括但不限于文本、图片、视频等数据，建立相关benchmark或开发评测工具对大模型进行评测。
2. 大模型安全推理： 通过价值引导或搜索改进进行可信输出，或提出可统计验证的安全可信指标，确保模型输出的合理且安全。
3. 大模型攻击与风险识别： 测试大语言模型和多模态大模型的安全性能，分析新一代 AI 的潜在安全风险边界，设计评测体系，进行 Red Teaming，识别安全风险。
4. 大模型防护：根据识别出的风险或需避免的风险，通过安全向量引导或插入特殊可扩展模块，对模型输出进行安全防护。
5. 大模型post training: 通过RL或相关方法进行对齐，增强大模型可信安全能力。
岗位要求
1) 在大模型安全领域具备相关的研究经验，能够在团队中承担相关研究工作，提供创新的解决方案，确保大模型的可信及安全。
2) 本科及以上学历，计算机科学、电子信息、信息安全或相关专业背景。
3）具备扎实的机器学习和深度学习基础知识和算法实践能力，了解大模型的设计和训练流程。
4）熟悉常用的深度学习框架和工具，具备良好的编程能力，熟练使用Python等编程语言。
加分项
1.在信息学奥赛、ACM 中获奖
2.有较强的数学功底
3.发表过相关论文
工作地点与时间：北京/上海，每周实习四天以上，至少六个月，一年以上者优先。
申请方式
lilijun@pjlab.org.cn 或微信联系：LH1097261154
这是一条镜像帖。来源：北邮人论坛 / job-info / #970453同步于 2024/11/11
JobInfo机器人发帖
【校招】【实习】上海人工智能实验室可信安全中心
SmileHYS
2024/11/11镜像同步0 回复
订阅后，新回复会通过你的通知中心匿名送达。
0 条回复
暂无回复 · 你可以订阅本帖等待新回复。