国内首个AI大模型攻防赛启动，设立近 100 万元奖金池

　　9 月 6 日上午，在 2024 Inclusion・外滩大会“以 AI 守护 AI 大模型时代的攻守之道”论坛上，国内首个大模型攻防主题的科技赛事“全球 AI 攻防挑战赛”宣布正式启动。

　　这项赛事聚焦 AI 大模型产业实践，设计了攻、防双向赛道，邀请各路“白帽黑客”(IT之家注：站在黑客立场攻击自己系统以进行安全漏洞排查的程序员)、技术人才分别进行针对文生图大模型“数据投毒”的攻防实战演练，以及金融场景大模型生成内容的防伪检测竞赛。

　　“攻击赛道”聚焦于文生图大模型的实际应用风险问题。参赛选手可通过目标劫持、情景带入、逻辑嵌套等多样化的动态攻击诱导技术，诱发大模型输出风险图像，以此激活大模型的潜在弱点和漏洞，增强大模型生图的安全免疫能力。

　　“防守赛道”则聚焦于 AI 核身中的金融场景凭证篡改检测，以应对日益严峻的 Deepfake 深度伪造及 AIGC 假证风险。大赛提供百万级凭证篡改数据训练集，参赛选手需要研发和训练模型，并利用对应的测试集评估模型有效性，给出数据伪造概率值。

　　该赛事由中国图像图形学会、蚂蚁集团、云安全联盟(CSA)大中华区联合主办，并得到了上海交通大学、浙江大学等 C9 高校及多家产学研组织的支持。

　　赛事设立了近 100 万元奖金池，并邀请了多位学术界和工业界的知名专家担任评委。中国工程院院士、中国图象图形学学会理事长王耀南，云安联盟(CSA)大中华区主席李雨航担任本次大赛的指导委员会专家，来自清华大学、上海交通大学、上海人工智能实验室、中国图象图形学学会等单位的近 30 位知名学者将参与大赛的组织及评审工作。