当接到视频来电时，你能认出屏幕另一端是真人，还是利用AI换脸进行诈骗的不法分子吗？近日，湖北工业大学“多磨剑客-Z团队”凭借项目“反诈专家——基于多模态大模型的多媒体内容鉴伪系统”，在第十九届“挑战杯”全国大学生课外学术科技作品竞赛“揭榜挂帅”专项赛中，获得全国特等奖。
这一团队由湖北工业大学计算机学院5位研究生和5位本科生组成，他们专注于人工智能安全方向研究，自主研发多模态大模型混合架构，能够逐一侦破深度伪造的视频图像、音频和文本。相较相关技术领域前沿方案，这个团队的研发成果将伪造视频图像检测准确率和召回率分别提升了22.6%和6.8%，识别速度平均为403.3毫秒/帧。
“随着网络技术的发展，很多不法分子利用AI换脸等手段进行诈骗，我身边就有朋友曾差点中招。作为信息安全专业的学生，我们有责任为全民反诈做出自己的努力。”团队项目负责人程轲说。
当提到研发思路时，程轲表示，两次参加全国大学生信息安全竞赛获得一等奖的经历为项目打下坚实基础。“在两次比赛中，我们分别针对视频图像深度伪造识别和ChatGPT虚假文本识别研发了不同的检测系统，因此当拿到‘基于大模型的多模态风险内容识别技术研究’的题目时，我们的第一反应就是在前两次的研究成果基础上来构建新的大模型。”
如何在保证技术高效性的同时，还能有效降低成本？这是命题企业关注的重点之一。
只用一个大模型来检测不同伪造形式的方案虽然高效，但也存在部署成本和训练成本过高的缺陷，并不适合企业落地使用。对此，程轲团队采取了“小模型检测，大模型分析调度”的模型构建方式，由成本较低的小模型完成较为复杂的检测，大模型只需统合分析小模型的检测结果，以此既保证模型的平稳运行，又能降低模型的构建和运行成本。
“就好比检察官接到了新案件，各个部门分不同的模块进行解析，检察官根据解析的结果再整体分析案件，效果会事半功倍。”团队中负责系统总体架构和算法设计的宋政说。
获得特等奖对团队来说是意料之外的惊喜。“科研并不是一蹴而就的，要有能从一滩烂泥塑造成型的心态。在备赛过程中，很感谢叶志伟和张吉昕两位老师对我们的悉心指导，这种信任和鼓励成为了我们不断前进的动力。”宋政表示。
“这是我们第一次参加‘挑战杯’，并没有想到能拿到这么高的奖项，但这也说明了好的技术不能停留在纸面，更要考虑落地使用是否可行，成果能否满足企业的需求。”程轲说，后续团队将不断完善方案，争取与企业合作做到实际落地应用。
据悉，“揭榜挂帅”专项赛通过“政企发榜、竞争揭榜”的方式，鼓励青年学生攻克核心技术，促进创新成果转化。今年，56家企事业单位和科研机构发布了前沿选题，共吸引了2.7万余人参赛，收到6500余件作品。湖北工业大学获得奖项18项，其中特等奖2项，总积分榜位居全省第三位、省属第一位。
原文链接：https://app.xinhuanet.com/news/article.html?articleId=fc79c1dcac1d8aa5d581294dcd121c3c×tamp=674
