5 种技术让您再也无法相信互联网上的一切

互联网上一直充斥着错误信息，但至少不难通过一点努力将事实与小说区分开来。复杂的人工智能工具的兴起永远改变了这一点，使怀疑比以往任何时候都更加重要。

深度造假

“deepfake”这个词包括一整套技术，它们都共享使用深度学习神经网络来实现各自的目标。当替换视频中某人的脸变得容易时，Deepfakes 引起了公众的关注。所以有人可以用美国总统的脸替换演员的脸，或者单独替换总统的嘴巴，让他们说出从未发生过的事情。

有一段时间，人类不得不模仿声音，但深度换脸技术也可以复制声音。 Deepfake 技术现在可以实时使用，这使得黑客或其他恶意行为者有可能在实时视频通话或广播中冒充某人。您在互联网上看到的任何视频“证据”在得到验证之前都必须被视为潜在的深度造假。

人工智能图像生成

人工智能图像生成器在艺术家社区引起了轰动，因为它对那些以艺术家为生的人产生了所有影响，以及商业艺术家是否有被取代的危险。由于这项技术，没有引起太多争论的是错误信息的可能性。

人工智能图像生成系统可以使用基于文本的提示、示例图像和原始图像来生成逼真的图像，以进行操作。例如，您可以擦除原始图像的某些部分，然后使用一种称为“修复”的技术让 AI 用您想要的任何东西替换图像的擦除部分。使用 Stable Diffusion 等软件可以轻松地在您自己的 PC 上生成图像。

如果你想让它看起来像是有人拿着一把真枪而不是玩具枪，那对 AI 来说是微不足道的。想要制作名人的丑闻照片吗？ AI 图像生成（以及与此相关的深度造假）可能会以这种方式被滥用。您甚至可以生成不存在的人物的逼真面孔。

人工智能视频生成

人工智能图像生成和深度造假仅仅是个开始。 Meta（Facebook 的母公司）已经展示了 AI 视频生成，虽然随着时间的推移只能生成几秒钟的镜头，但我们预计视频的长度和用户对视频内容的控制程度将会成倍地扩大。

目前，完全有可能让 AI 生成大脚怪或尼斯湖水怪的颗粒状剪辑，而无需任何人穿上戏服或带着相机和小型木制模型飞到苏格兰。在 AI 视频生成成为可能之前，视频一直很容易操作。但是，现在您根本不能相信您看到的任何视频。

人工智能聊天机器人

当您开始与客户支持聊天时，您是在与机器而不是人交谈。 AI 技术（和传统的编程方法）足以让机器与我们进行复杂的对话，尤其是在狭窄的领域，例如获得保修更换或您对某事有技术问题时。

语音识别和合成也处于先进状态，如果您观看 Google Duplex 等系统的演示，您就会真正了解我们的发展方向。一旦你将 AI 驱动的机器人释放到社交媒体平台上，协同错误信息活动与现实世界后果的可能性就会变得很高。

公平地说，Twitter 等社交媒体平台一直存在机器人问题，但总的来说，这些机器人并不复杂。现在可以想象，您可以在社交媒体上创建一个虚构的人，几乎可以愚弄任何人。他们甚至可以使用此列表中的其他技术来创建图像、音频和视频，以“证明”它们是真实的。

人工智能作家

我们上网获取信息以了解世界并了解全球正在发生的事情。人类作家（就是我们！）是这些信息的主要来源，但人工智能作家正变得足够优秀，可以推出类似质量的作品。

就像 AI 艺术家一样，关于此类软件是否会取代以写作为生的人存在争论，但同样存在一个基本上被忽略的错误信息角度。

如果您可以创建一张原始面孔，创建一个社交媒体角色机器人，创建以您的虚构人物为特色的视频和声音，那么就有可能在一夜之间变出整个出版物。可疑的“新闻”网站已经成为许多互联网用户令人信服的错误信息的来源，但诸如此类的人工智能技术可以加剧这个问题。

检测问题

这些技术不仅是一个问题，因为它们为滥用开辟了新的途径，它们也是一个问题，因为检测造假可能很困难。 Deepfakes 已经到了连专家都很难分辨什么是假什么不是的地步。这就是为什么他们要以牙还牙，并使用 AI 技术通过寻找人眼看不到的迹象来检测生成或操纵的图像。

这会持续一段时间，但它也可能会引发一场意想不到的 AI 军备竞赛，这可能具有讽刺意味的是，将创建虚假内容的技术推向更高的保真度水平。作为人类，我们唯一明智的策略是假设我们在互联网上看到的任何东西，除非它来自具有透明流程和政策的经过验证的来源，否则应该被视为假的，直到证明不是这样。 （虽然我们怀疑你的阴谋论者叔叔会相信他一直发给你的不明飞行物视频不是真的。）