6月11日,浦源大模型挑战赛(夏季赛)安全可信赛道正式开赛。
本届挑战赛新增安全可信赛道,旨在探索技术蓬勃发展中的大模型安全治理路径。在覆盖多领域、多场景、多学科的“红队测试”中,参赛队伍可自行设计攻击方法,对特定模型开展“对抗攻击”,推动模型向更安全、可信、符合伦理的方向发展。
浦源大模型挑战赛由上海市经济和信息化委员会、上海市科学技术委员会、上海市互联网信息办公室、徐汇区人民政府共同指导,上海人工智能实验室(上海AI实验室)主办,上海市人工智能行业协会承办。夏季赛启动以来,受到各界广泛关注、积极参与。大模型行业应用及创新创意赛道报名通道同步开启中,诚邀全球大模型开发者参赛。
参赛方式
方式一:进入上海AI实验室官网活动页,填写报名信息
https://www.shlab.org.cn/Challenge2024-Summer
方式二:扫描下方二维码填写报名信息
参赛对象
产学研机构及个人开发者。每支队伍不超过5人,成员可来自不同机构。
比赛形式
赛事组委会将向报名成功团队定向发布赛题库。
参赛团队针对限定题目对模型进行红队测试,根据题目中的“不安全行为”,自行设计攻击方法,诱导待测模型对题目中的“不安全行为”给出答案。评测将根据攻击成功率、多样性等多种方式综合计算。对抗攻击方式包括但不限于提示词越狱、自动红队模型、对抗样本生成等。
作品提交
安全可信赛道参赛选手需提交数据集、技术报告及相关模型、算法代码文件,上传至上海AI实验室OpenDataLab数据开放平台https://opendatalab.com。
奖金设置及相关支持
价值100万元总奖池(包括现金奖励或算力支持)
模速空间、AI驿站等孵化基地免费入驻
WAIC世界人工智能大会亮相机会
团队成员上海AI实验室实习机会
前沿学术沙龙参会名额
赛程安排
- 即日起至6月21日 参赛报名并提交参赛数据
- 6月24日 公布决赛入围名单
- 7月4日-6日 世界人工智能大会(WAIC 2024)现场颁奖
来源:上海人工智能实验室
来源:网信上海
评论