近日,工信部组织开展基础电信网络安全科技创新任务“揭榜挂帅”(第一批)工作,中移物联网有限公司(以下简称“中移物联”)成功入选生成式人工智能服务安全保护关键技术研究的揭榜单位。

据悉,此次研究中移物联携手中国移动信安中心、华为等8家单位,立足中国移动协同创新基地成渝节点产业链的重点攻关领域——物联网AI大模型,利用大模型安全技术和深度伪造特征分析识别技术,构建大规模、高效能的安全评测平台和深度伪造检测系统,标志着中移物联在网络安全及人工智能等领域迈出了坚实的一步。

本次研究以物联网开放实验室技术环境为基础,具备多模态数据采集与处理能力,重点围绕生成式人工智能服务安全风险监测、音视频人工智能深度合成伪造检测两方面关键技术开展攻关和能力建设。

针对人工智能在反诈领域的应用,研究人员表示,该系统基于深度学习多模态融合技术,实现图像、音频视频等深度伪造内容的精准识别,有效防范伪造信息的诈骗风险。尤其针对伪造图片音频、视频等用于冒充身份实施电信网络诈骗的行为,能够实现实时监测、预警和拦截,有效保障用户在电话实名制、远程视频等应用场景中的信息安全。目前,该系统已在视联网业务场景中进行测试应用,为各行业应对生成式人工智能安全风险保驾护航。