美亚柏科参与编制国内首个生成式人工智能标准体系
作者: 日期:2023年03月24日 阅:3,531

2023年3月20日,由中国信息通信研究院(以下简称“中国信通院”)云计算与大数据研究所(以下简称“云大所”)、人工智能关键技术和应用评测工业和信息化部重点实验室(以下简称“实验室”)主办,南京新一代人工智能研究院承办,南京经济技术开发区人工智能企业产业链党建联盟协办的首届生成智能产业峰会顺利召开。

会上,中国信通院正式发布“生成式人工智能技术及产品评估方法”系列标准“技术能力”和“产品能力”两部分标准,并为标准核心编写单位、编写单位颁发证书,美亚柏科作为工作组成员单位被授予“生成式人工智能技术以及产品评估方法标准编写单位”证书。

美亚柏科代表领取证书(左5)

美亚柏科作为生成式人工智能技术以及产品评估方法标准编写单位被授予证书

近年来,人工智能各项技术飞速发展,应用更加普及多元。其中,深度合成和生成式AI技术作为人工智能领域的创新应用技术,以其较低的应用门槛、较强的娱乐属性、丰富的应用场景备受关注。近日火爆全网的ChatGPT以及“换脸”、AI绘画、虚拟主播等大家所熟知的场景都使用了深度合成和生成式AI技术。

在深度合成和生成式AI技术向社会生活的各个领域渗透之时,AI安全的负面风险持续加剧且产生实质危害。随着深度合成和生成式AI技术的开放开源、深度合成和生成产品和服务的增多,此类内容制作的技术门槛越来越低,实现了技术的“平民化”。通过深度合成和生成式AI技术制造虚假音视频图像进行诬陷、诽谤、诈骗、勒索等违法行为已屡见不鲜。

2021年,山东省公安厅网络安全总队就公布了几个利用深度合成和生成式AI技术实施诈骗的真实案例。合肥警方在“净网2021”专项行动中打掉一个利用深度合成技术进行犯罪的团伙,犯罪嫌疑人利用电脑将一张张静态照片制作为人脸动态视频,为黑灰产业链提供注册手机卡等技术支撑。

另一方面,深度合成和生成式AI技术一旦被滥用,将会造成巨大的安全风险与实质性危害,给个人、企业造成肖像、名誉等人格和财产权益损害,也可能给社会秩序、国家政治稳定和安全造成巨大威胁。

如将深度合成和生成式AI技术用于捏造国家政要言论、伪造公务人员虚假视频,可能给政治安全和国家安全带来重大危害。对个人与企业来说,深度合成和生成式AI技术的滥用也可能造成巨大权益损害。如企业高管被深度合成捏造视频篡改发言内容,可能造成市场恐慌,引发金融市场动荡。个人也可能被伪造虚假音视频等,被用来向其亲友诈骗或者伪造不雅视频侵害其名誉权。

由此可见,深度合成和生成式AI技术的快速发展为数字经济发展带来了令人期待的可能性,但也带来了令人担忧的巨大风险。有效治理深度合成和生成式AI技术需技术与立法齐头并进。

治理:立法规范

日前,为规范深度合成服务,国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》(以下简称《规定》)。《规定》通过系统性、创新性制度设计,首次回应了对深度合成服务的管理要求,为互联网信息服务深度合成的规范发展提供了基本遵循和合法依据。

图源:网信中国

治理:“慧眼”鉴真

阻止AI滥用,防止AI作恶,也需发挥技术能力,用“魔法”打败“魔法”。作为国内电子数据取证行业龙头和公共安全大数据领先企业、网络空间安全与社会治理领域国家队,美亚柏科2017年成立AI研发中心,深度开展人工智能技术研究。为了应对利用人工智能技术可能带来的安全问题,2019年针对深度合成技术又特别成立专项研究团队(下称“专项团队”)。

专项团队通过对深度合成和生成式AI技术的深入研究以及在人工智能安全方向的经验积累,自主研发深度伪造视频图像检测鉴定的核心引擎,打造出一系列视频图像检测鉴定的一体化智能装备“AI-3300慧眼视频图像鉴真工作站”等。

AI-3300″慧眼”视频图像鉴真工作站是一款以人工智能技术为核心的视频图像检验鉴定设备,配备了美亚柏科人工智能团队自主研发的核心AI智能检测引擎,支持当前绝大部分深伪视频图像篡改方法的检测,检测精度处于国内领先水平

“慧眼”涵盖40余种视频图像真伪鉴定算法,近10种深伪鉴定算法,同时具有智能鉴定和专业鉴定两种鉴定模式,支持卷宗管理和三种鉴定文书生成,为司法鉴定人员提供一站式视频图像检验鉴定服务。

“慧眼”不仅对利用传统伪造手段篡改的影像能生成理想的鉴定效果,而且对利用深度伪造技术进行换脸、美颜、生成人脸、同图或异图复制篡改的影像具有十余种理想的鉴定效果。

“慧眼”视频图像鉴真工作站在深伪检验鉴定中处于国际领先水平,可为公安、司法行业及相关领域的技术人员和影像鉴定人员提供一站式影像真伪检验鉴定解决方案。

如您想详细了解更多AI-3300″慧眼”视频图像鉴真工作站产品信息,欢迎联系美亚柏科当地销售or拨打技术支持热线400-888-6688。

未来,美亚柏科将继续聚焦生成式人工智能和AI生成内容的检测识别技术,踔厉奋发,持续发力,针对深度合成文本、视频、图像的检测鉴定技术、生成式AI技术、人工智能安全取证技术等方面的应用需求,不断打磨推出更为安全、可信、可靠的人工智能技术产品,迎接新挑战,为维护和保障人工智能的安全发展贡献力量!

来源:AI研发中心

申明:本文系厂商投稿收录,所涉观点不代表安全牛立场!


相关文章