规避I变脸的技术风险

I变脸源于深度伪造技术，利用“对抗生成网络”模型，以生成模型和判别模型之间的持续对抗博弈，不断自我演进优化，实现快速迭代的“无监督学习”。I变脸具有高度真实性、泛在普适性和快速演化性等特征。 

I变脸技术产生的风险 

I变脸技术其风险呈现出多样性发展态势。非法I变脸生产出的虚假新闻、虚假广告等内容，经由不同平台的传播，以场景再现的技术优势，颠覆受众的已有认知，对伦理与道德提出挑战。I变脸技术将原本极具真实性和现场感的多模态视频呈现变成了“镜花水月”，模糊真相与假象的界限，创造出虚拟世界，冲击民众对真实信息的信任，甚至会引发社会信任危机。I变脸以“数字嫁接”创造加工出包括“数字虚拟人”的高仿真虚拟场景，民众生活在虚拟与现实交织的世界，导致真实自我在现实社会中的认知迷失。此外，I变脸通过深度伪造，以“混淆视听”的虚假叙事，冲击民众心理，侵蚀社会信任，扰乱政治舆论生态，I变脸既可突破对方基于生物特征的身份认证体系，窃取情报信息，又可伪造突发事件，发布虚假信息，制造舆论恐慌。 

如何规避I变脸技术所引起的风险 

I变脸技术风险的规制涉及范围广、领域宽、内容多，蕴含活力与秩序、自由与安全、责任与信任等诸多方面，是一项复杂的系统工程。要强化高位统筹、顶层设计、系统谋划、整体推进，以数据算法、合作共治、信息保护、法律法规等维度的同向发力、良性互动，聚力推进I变脸技术异化治理体系的构建创新，有效管控风险，提升整体治理效能。 

上一篇 让算法应用更加规范 2024-03-07

下一篇 镇2023年人才工作述职报告 2024-03-07

本文链接： https://www.laobiganzi.top/295110.html