文：陈曦

美国总统大选将在2024年到来，然而回顾自2016年以来，错假讯息以社群媒体平台为载体，病毒式迅速扩散、使美国社会分歧加剧、极化，种种现象与影响在大选之际最为剧烈。

如今人工智慧（Artificial Intelligence，AI）的进步更使得制造假讯息、操纵内容的成本愈低而识读难度拉高，不难预见AI势必会在2024大选中成为侵蚀民主的利器——AI对阅听人、对新闻工作者、对事实查核机构所带来的具体挑战是什麽？又可能如何左右2024美国大选？

AI错假讯息制作成本低，资讯生态系统受侵蚀

《卫报》在其专题报导中，引述专家指出，AI的进步可能增强各种错假讯息的宣传：可任意生成、任意操纵的内容制作成本已经极其低廉，且很容易就大量制造各种形式主题不同、主旨讯息相同的文本，以至於错假讯息更加无所不在。

在AI时代，专家忧心科技的进步带来的会是这般反乌托邦的政治未来。

近年的数次美国总统选举皆频频受到错假讯息的轰炸，例如在2016年总统大选投票前，大量错误讯息、虚假讯息就搭上社群媒体平台的顺风车，加上极右派人士、外国影响力和假新闻网站大力传播不时的错假讯息，结果就是不实讯息四处流窜、美国社会分歧加剧。

而在四年後的2020年总统大选，更是充斥着阴谋论和毫无根据的「选举被偷走了」指控，这些谣言不断流传、影响范围一直扩大到数百万美国人，结果助长了一场意图推翻选举的反民主运动——也就是1月6日国会山庄暴乱事件。

而今随着2024年美国总统大选的脚步愈加接近，专家警告AI的进步可能取代过去的错假讯息传播策略，并注入新的散播力道。

藉由AI所生成的错假讯息，不仅欺骗阅听众的能力更强、可能性更高，还会让本就因充斥不准确的资讯和欺骗性内容而陷入困境的资讯生态系统，更进一步受到侵蚀。

非营利组织「电子隐私资讯中心」的资深顾问温特斯（Ben Winters）表示：

错假讯息传播：旧战术加上新工具

2023年，随着OpenAI等科技公司在大众市场上发布产品，能够生成逼真图像、模仿人声语音和编写就像出自真人之口、令人信服的谈话内容的AI工具使用量激增。

这项技术已经颠覆众多产业，以致欧盟修法因应、美国亦追赶跟进，且现有的社会不平等现象也跟着AI应用层面愈广而加剧——在政治上，AI也越来越多地被使用在无中生有「创造」政治相关内容。

举例在2023年5月，《美联社》报导AI生成的五角大厦（美国国防部所在地）爆炸假影像导致美国股市一度短暂下跌，关於政治人物的AI不实影像就更多。

像是2018年曾经出现美国前总统欧巴马（Barack Obama）辱骂时任总统川普（Donald Trump）「是个笨蛋」的「深伪」（Deepfake）影片，还有川普与试图逮捕他的警察搏斗的AI假影片，种种不实影片都在社群媒体平台上广为流传。

共和党全国委员会（Republican National Committee）在2023年4月的时候，发布了一个完全由AI生成的广告，其中模拟了现任总统拜登（Joe Biden）连任後，将发生一系列想像中的美国国内和国际危机，用以警告选民不要投票给拜登。

共和党全国委员会发言人指出，这是该单位首次制作100%由AI生成影像的影片。

广告的目的并非刻意造假、散播假讯息，但是这项应用让许多人深感不安，美国政治顾问协会（American Association of Political Consultants）警告，深伪影片已经对民主构成了威胁。

在某些方面，AI生成的图像和广告，与多年来已成为社会早已熟悉常见，经过刻意操纵的图像、影片、误导性讯息和机器人电话并没有太大不同，但错假讯息的传播扩散，在以前会面临一系列挡下传播路径的障碍，像是为社群媒体上发出假讯息的假帐号创立个人化的资讯（以防一眼被认出是假帐号）非常耗时耗神，而在没有AI协助的情况下，要对影像进行修图和影片编辑後制也是如此。

然而现在，AI的广泛应用已经使得任何人都可以轻易创造出此类内容，即使是只有最基本科技能力的人也做得到，且目前美国对於AI使用的相关监管或限制法规仍然有限，因此《卫报》引述专家警告指出，在一些国家进入重大选举年之际，AI发展带来的潜在影响是特定政治宣传的加速散播。

AI科技降低了制造错假讯息的门槛

AI对选举的潜在危害，或许是过去几十年来各种各样的干预选举手段中，最令人担忧的一种。

在AI工具的帮助下，无论是要利用程式机器人冒充真人选民来做假民调、伪造影片或图像，甚至欺骗性的机器人电话都更容易产生，却又更难被快速辨别破解。

外国势力也在AI的帮助下，更有机会影响美国选举、或是破坏选民对民主制度的信任，正如长期以来美国官方不断示警、来自中国或俄罗斯的假讯息——有赖於AI，中俄等外国势力制造英文假讯息的语言障碍正在消失当中。

过去阅听众尚能从重复措辞、用词怪异或文法不通等明显迹象来快速识别假讯息，但是随着AI的翻译能力和运用语言的能力急速提升，外国势力利用AI制造的假讯息在文字、语句呈现上越来越自然、越来越难被一眼辨别。

…