索尼、微软将联手对抗深度伪造，追踪照片视频来源和变化  

索尼、微软将联手对抗深度伪造，追踪照片视频来源和变化

 

近日，据日本经济新闻报道，日本相机制造商索尼、尼康将加入内容溯源与真实性联盟（即C2PA，TheCoalitionforContentProvenanceandAuthenticity），与Adobe、Intel联手对抗深度伪造。

据悉，报道中提到的C2PA由Adobe、Microsoft、Intel、Arm（日本软银集团旗下的芯片设计商）和Truepic创立。这一联盟旨在建立与任何软件均可使用的开放标准，致力于让创作者、出版商和消费者可以跟踪检测到任何在线图像的来源以及被篡改的变化。

近几年来，深度伪造引发了不少恶性事件。2017年12月，一名Reddit名用户将多位名人的脸与色情影片的女星身体合成。这次事件让深度伪造一时间“声名大噪”。之后，DeepNude（该应用程序提供免费和付费服务，可以将女性图像更改为完全裸体）等App的出世更让深度伪造陷入争议漩涡。

不仅仅在色情影片伪造，深度伪造的应用环境扩展到了欺诈、假新闻，以及伪造政客的发言视频中。2018年4月17日，导演乔丹·皮尔JordanPeele和BuzzFeedVideo运用最新的AI技术制作了前美国总统“巴拉克·奥巴马”的假视频，向公众展示深度伪造的危害。
 

俄乌冲突之下，网络上也出现了一些两国领导人的假视频。据路透社报道，3月，社交媒体Twitter上出现了一段俄罗斯总统普京的视频，视频中的“普京”称已与乌克兰方达成和平协定。然而直至3月17日普京都并未作出相同的和平声明。事后证明该视频的制作来源于普京在2月21日的公开演讲视频。

同月，乌克兰总统泽连斯基呼吁军队投降的视频也在社交媒体上广泛流传，随后视频被揭穿系伪造。深度伪造因在政治领域的造假，引发了更严重的社会乃至国际安全风险，数字内容也更加陷入公众信任危机。

 
为了控制深度伪造带来的负面影响，多家公司做出了努力。

Facebook在2019年12月启动了Deepfake检测挑战赛，冠军可获得50万美元的奖金。在内容认证领域有着强势地位的Adobe，一边推出ProjectMorpheus等功能推进深度合成技术应用，一边在内容追溯方面开展反深度伪造计划。在AdobeMax2019上，Adobe联合TheNewYorkTimes和Twitter发布了内容真实性倡议（即CAI，ContentAuthenticityInitiative）。

之后，Adobe上线了符合CAI标准的测试版工具。CAI官网显示，在图片的右上角的“i”图标，用户可以查看数字内容的归属和历史数据。

 
另一边，针对虚假或误导性的新闻媒体内容，微软在2020年8月和英国广播电视台BBC、美国纽约时报NYT、加拿大广播公司CBC也一起发起了一项关于内容归属和验证的计划——ProjectOrigin。据了解，这一计划将为发布者和读者提供数字签名链接和验证检查材料，使得媒体内容可验证追溯，也能在分发过程中发现图像或影像是否有更改。

在这场反深度伪造的战役中，Adobe和微软以媒体内容来源和变化可追溯的共同目的联合，成立了C2PA。新闻媒体BBC、TheNewYorkTimes，以及社交平台Twitter也成为了该联盟的成员。反深度造假这一方由此形成了一个跨越软件、芯片、相机和社交媒体的全面联盟。依照联盟正在制定的技术标准，C2PA将有关图像或视频的来源或变化的数据与内容加密绑定，以保证数字内容的不可篡改和真实性。

事实上，围绕深度伪造与反深度伪造的攻防战一直在持续且不断升级。情况正如Adobe总法律顾问达纳·拉奥所说的那样，不良行为者一直在开发更复杂的深度伪造以躲避更好的检测软件，而且没有任何迹象表明这一“竞争”有放缓的趋向。

而这次，反深度伪造联盟有了相机制造商索尼和尼康的加入，或许能有效增强公众对数字内容真实性的信心。

据报道，该联盟会接触更多如YouTube等社交媒体平台，将之纳入C2PA的开放标准之中。Adobe内容真实性计划高级主管安迪·帕斯森称，今年将会看到更多追踪显示图像来源及变化的功能在市场上出现。现在，C2PA仅仅处在其生命周期的相对早期。“我认为在接下来的两年里，我们将看到许多端到端的生态系统”，他说。

编译/综合：实习生杨曦霞南都记者蒋琳