“深度造假”令人不安的现实主义：专家不再区分人工智能生成的视频和真实视频

[tasnimsanika69]

人工智能（AI）的绝对快速发展并没有显示出疲倦的迹象。如果说到目前为止，主要是用这项技术生成的图像和文本因其令人不安的真实性而吸引了几乎所有的注意力，那么现在令人惊讶的是用人工智能创建的视频与它们所制作的视频几乎没有区别。有血有肉的人类都参与其中。

事实上，在不久的将来，在人工智能的帮助下，将有可能生成“深度伪造”的视频，即使是人工智能领域最熟练的专家也无法将其与真实视频区分开来。

在最近接受Axios 采访时，一位不愿透露姓名的人工智能专家表示，在私人测试中，他表明自己无法区分“假”视频和真实录音。事实上，在“深度造假”方面，即使是人工智能专家也无法区分小麦和谷壳，这一事实不可避免地带来了这项技术的潜在影响和重叠风险。

据Axios采访的专家透露，利用人工智能生成与真实视频没有区别的视频的技术将于2024年初向公众开放。这项技术即将大规模推出，带来的风险是社交网络迟早会被“深度伪造”淹没（更糟糕的是，几乎不可能将它们与真实内容区分开来）。

我们必须紧急采取行动，应对人工智能使用带来的短期风险
专注于人工智能的公司绝不能免受已经迫在眉睫的首要挑战的影响。 OpenAI 联合创始人兼首 诊所电子邮件列表 席执行官 Sam Altman 在向Axios发表的声明中强调，行业必须紧急应对这种短期风险。 “我们需要将负责任的使用模式与公众对问题的认识结合起来，”奥特曼说。

OpenAI的首席执行官还强调了人工智能领域持续合作的必要性，包括社交网络等分销渠道。

尤其可怕的是，人工智能生成的视频最终可能被用来影响选举进程或以真人为主角制作逼真的色情内容，这会引发严重的道德和法律问题。

显而易见的是，一旦公开“假”视频的技术，这些视频在社交网络上的出现将不可避免。尽管此类视频在 2.0 平台上传播本身并不构成问题，但当恶意行为者使用“深度假货”以达到自己的邪恶目的时，就会出现问题。在这种情况下，社交媒体用户在面对这些渠道上的图像和视频时必须特别警惕。

在美国，政客们计划通过强制使用水印来阻止“深度假货”在社交网络上的传播。然而，那些在社交网络上恶意传播“虚假”内容的人很容易绕过这一措施。