近日，人工智能公司OpenAI推出的新型聊天机器人ChatGPT风靡网络，它不仅能闲聊、回复各种日常话题，还能直接生成代码、自动修复bug以及撰写诗歌，强大的功能引起了社会的广泛关注，被称为AI里程碑式应用。

(相关资料图)

仅上线5天，ChatGPT的用户就突破100万，连马斯克也在感叹：“很多人疯狂地陷入了ChatGPT循环中，我们离强大到危险的人工智能不远了。”

深度合成和生成式AI技术

近年来，人工智能各项技术飞速发展，应用更加普及多元。其中，深度合成和生成式AI技术作为人工智能领域的创新应用技术，以其较低的应用门槛、较强的娱乐属性、丰富的应用场景备受关注。近日火爆全网的ChatGPT以及“换脸”、AI绘画、虚拟主播等为人所熟知的场景都使用了深度合成和生成式AI技术。

在深度合成和生成式AI技术向社会生活的各个领域渗透之时，AI安全的负面风险持续加剧且产生实质危害。随着深度合成和生成式AI技术的开放开源、深度合成和生成产品和服务的增多，此类内容制作的技术门槛越来越低，实现了技术的“平民化”。通过深度合成和生成式AI技术制造虚假音视频图像进行诬陷、诽谤、诈骗、勒索等违法行为已屡见不鲜。

2021年，山东省公安厅网络安全总队就公布了几个利用深度合成和生成式AI技术实施诈骗的真实案例。合肥警方在“净网2021”专项行动中打掉一个利用深度合成技术进行犯罪的团伙，犯罪嫌疑人利用电脑将一张张静态照片制作为人脸动态视频，为黑灰产业链提供注册手机卡等技术支撑。

另一方面，深度合成和生成式AI技术一旦被滥用，将会造成巨大的安全风险与实质性危害，给个人、企业造成肖像、名誉等人格和财产权益损害，也可能给社会秩序、国家政治稳定和安全造成巨大威胁。

如将深度合成和生成式AI技术用于捏造国家政要言论、伪造公务人员虚假视频，可能给政治安全和国家安全带来重大危害。对个人与企业来说，深度合成和生成式AI技术的滥用也可能造成巨大权益损害。如企业高管被深度合成捏造视频篡改发言内容，可能造成市场恐慌，引发金融市场动荡。个人也可能被伪造虚假音视频等，被用来向其亲友诈骗或者伪造不雅视频侵害其名誉权。

由此可见，深度合成和生成式AI技术的快速发展为数字经济发展带来了令人期待的可能性，但也带来了令人担忧的巨大风险。有效治理深度合成和生成式AI技术需技术与立法齐头并进。

治理：

立法规范

日前，为规范深度合成服务，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》）。《规定》通过系统性、创新性制度设计，首次回应了对深度合成服务的管理要求，为互联网信息服务深度合成的规范发展提供了基本遵循和合法依据。

图源：网信中国

治理：

“慧眼”鉴真

阻止AI滥用，防止AI作恶，也需发挥技术能力，用“魔法”打败“魔法”。作为国内电子数据取证行业龙头和公安大数据领先企业、网络空间安全与社会治理领域国家队，美亚柏科（300188）2017年成立AI研发中心，深度开展人工智能技术研究。为了应对利用人工智能技术可能带来的安全问题，2019年针对深度合成技术又特别成立专项研究团队（下称“专项团队”）。

专项团队通过对深度合成和生成式AI技术的深入研究以及在人工智能安全方向的经验积累，自主研发深度伪造视频图像检测鉴定的核心引擎，打造出一系列视频图像检测鉴定的一体化智能装备“AI-3300慧眼视频图像鉴真工作站”等。

AI-3300"慧眼"视频图像鉴真工作站是一款以人工智能技术为核心的视频图像检验鉴定设备，配备了美亚柏科人工智能团队自主研发的核心AI智能检测引擎，支持当前绝大部分深伪视频图像篡改方法的检测，检测精度处于国内领先水平。

“慧眼”涵盖40余种视频图像真伪鉴定算法，近10种深伪鉴定算法，同时具有智能鉴定和专业鉴定两种鉴定模式，支持卷宗管理和三种鉴定文书生成，为司法鉴定人员提供一站式视频图像检验鉴定服务。

“慧眼”不仅对利用传统伪造手段篡改的影像能生成理想的鉴定效果，而且对利用深度伪造技术进行换脸、美颜、生成人脸、同图或异图复制篡改的影像具有十余种理想的鉴定效果。

"慧眼"视频图像鉴真工作站在深伪检验鉴定中处于国际领先水平，可为公安、司法行业及相关领域的技术人员和影像鉴定人员提供一站式影像真伪检验鉴定解决方案。

如您想详细了解更多AI-3300"慧眼"视频图像鉴真工作站产品信息，欢迎联系美亚柏科当地销售or拨打技术支持热线400-888-6688。

未来，美亚柏科还将持续钻研，针对生成式AI技术、人工智能安全等问题，不断打磨推出更为安全、可信、可靠的人工智能技术产品，迎接新挑战，为维护和保障人工智能的安全发展贡献力量！

关键词： 人工智能 Chat