参考消息网2月6日报道 据《日本经济新闻》2月5日报道，利用生成式人工智能(AI)制造的虚假信息正在快速传播，随着视频制作变得更加简便、廉价，事实与虚构的分界线变得愈加模糊。2024年是选举大年，将会决定全球约一半人口的未来，担心虚假信息影响选民投票行为的情绪也在上升。

美国《纽约时报》在一篇名为《首场AI选举？》的文章中指出，2023年11月的阿根廷总统大选第二轮投票象征着人类已经进入AI渗透进日常生活的时代。

其中一个具有代表性的案例是当时的在野党候选人、现任总统米莱在社交媒体上发布的一张绘画图片。图中，中左翼执政联盟祖国联盟候选人塞尔希奥·马萨被描绘成具有鲜明共产党领导人风格的形象，米莱还在配文中批评他“引发财政赤字”，“导致物资短缺”。这张据信由AI生成的绘画获得了超过300万的浏览量。

另一方面，一条恶意虚假视频也出现在了社交媒体，视频中米莱发表了鼓励器官贩卖的言论。虽然之后这条视频遭到删除，但也凸显出利用AI的“深伪”技术操纵舆论的危险性。

“虚假信息”问题不是今天才引起关注的。2016年英国举行脱欧公投，脱欧派声称的“英国每周向欧盟支付3.5亿英镑”(1英镑约合1.3美元)的一条虚假信息广为流传，有观点就认为其极有可能对这场投票结果在毫厘之间的公投产生了影响。日本国际大学副教授山口真一认为，虚假信息可能会影响那些“不够坚定的支持者”。

这种威胁恐将随着生成式AI的出现愈发严重。美国人权团体自由之家2023年10月发布的一份报告指出，创建图像、文本和音频的AI“已在至少16个国家被用来歪曲有关政治和社会问题的信息”。

其中就包括曾经谋求获得美国大选共和党候选人提名的佛罗里达州州长德桑蒂斯的阵营为攻击竞争对手、前总统特朗普而蓄意制造的虚假视频。

相同的威胁也在逼近日本。2023年11月，一条岸田文雄首相说黄段子的虚假视频开始在社交媒体扩散，引发巨大关注。该条恶意视频事实上是模仿真实的电视节目制作的。研发识别伪造视频技术的NABLAS公司董事铃木都生警告说，风险已经跨越了红线，只要掌握照片和声音数据就可以轻松生成深度伪造的作品。视频共享网站优兔(YouTube)上就流传着利用AI技术让已故前首相安倍晋三“复活”的视频。

虽然很多人已经感受到了这种威胁的恐怖，但眼下的预防措施还很不够。瑞穗研究技术公司进行的“国内外虚假和错误信息相关认识调查(2022年度)”显示，在日本，只有26%的受访者在接触到可疑信息后进行过某种程度的验证，而在美国和法国这一比例分别达到50%和44%。

有研究显示，以对特定受众造成冲击力为目的的虚假信息传播非常容易，速度可达真实信息传播速度的6倍。加上验证信息真伪所耗费的成本，澄清谬误与散布谣言可以说从一开始就处于一种不对等的状态。

我们不能无视由此带来的负面影响。1月能登半岛地震后，社交媒体上出现了大量“虚假求助信息”，引发严重混乱。

问题一旦扩大，不仅会导致日本国内的政策执行出现混乱，还可能波及外交层面。已经有观点指出，由于AI翻译技术的进步，存在着境外势力通过伪造日语信息发动攻击的可能性。信息通信研究机构研究员鸟泽健太郎介绍，当遭遇大规模虚假信息轰炸时，善用AI将是有效的对抗手段，该机构目前正在就利用AI“反击”错误信息的机制进行讨论。

越来越多的国家正在通过引入“数字水印”技术对AI生成视频进行识别。一手打造了生成式AI热潮的美国开放人工智能研究中心等企业也纷纷提出对策，遏止AI在政治领域的滥用，但眼下还没有出现具有决定性意义的解决方案。毫无疑问，AI提高了生产效率和创造性，但人类必须意识到这种力量的危险性和副作用。