参考消息网5月17日报道 据日本《读卖新闻》网站5月11日报道，随着生成式人工智能（AI）驱动的搜索服务日益普及，AI给出的错误回复也开始成为问题。尽管AI的准确性不断提升，但仍无法避免因错误信息损害企业品牌形象的事件。企业方面也在加紧采取应对措施，例如确保其信息能在网络空间得到准确传播。

日本关西电力公司近日在其官网上发布了一则公开警示，针对激增的电话和邮件诈骗事件发出提醒。该公司在公告中列举了这些可疑分子提及、但实际上并不存在的服务项目和部门名称。

当记者向谷歌搜索提问“什么是关西电力的‘关电e-Support’”时，AI随即给出了如下错误回答：“‘关电e-Support’是关西电力公司所提供的电费调整及设备故障应急上门服务等服务的总称。”但实际上这是一个根本不存在的服务。

这种把不实信息当作事实进行回答的现象，被称为AI的“幻觉”现象。

在AI驱动的搜索服务中，AI会根据用户的提问搜集资料、归纳总结，并生成相应的答案。相较于传统搜索引擎，这种方法具有显著优势，即能够更高效地获取信息。自2024年起，谷歌在日本推出了“AI概览”功能，该功能会在搜索结果页面的顶部显示内容摘要。此外，谷歌还在去年推出了“AI模式”，旨在促进用户与AI之间进行对话式的互动。

在便利的同时，“幻觉”现象也开始对现实世界产生真实的负面影响。

2025年，位于津市的百货公司“津松菱”通过顾客的咨询反馈得知，谷歌的AI搜索结果中错误地显示该百货公司将于“2026年2月底停业”。

据该百货公司透露，此前曾有新闻将“津松菱”与名古屋的一家百货公司一并提及，后者当时确实已计划在2026年2月底停业。“津松菱”方面据此推测，AI可能搞混了这两家商场。

于是，当年6月，“津松菱”在其官网上发布公告，澄清有关停业的传闻纯属虚假信息，并多次向谷歌提交申请要求更正。然而，尽管谷歌方面曾采取临时修复措施，但错误信息依然反复出现。

东京PLAN-B Marketing Partners公司去年开展的一项问卷调查显示，超过80%的受访者表示曾遭遇AI显示错误信息的情况，且错误信息所涉及的对象既包括受访者自身所在企业，也包括其他的机构或组织。

该公司AI营销部门负责人出田晴之指出：“随着AI的兴起，用户越来越倾向于依赖AI生成的答案，而非直接访问具体网站，这让不实信息传播的风险显著增加。”

对企业而言，一项至关重要的应对措施是确保涉及自身的准确信息能够被AI引用。

提供在线监测服务的Siemple公司运营着一个名为kai的网站，专门针对涉及工作环境和业务运营的帖子及评论发布企业的官方声明。目前约有600家企业正在使用这项服务。光学设备制造商栃木尼康公司在发现网络上出现关于公司内部政策和制度的不实帖子后，于去年开始使用这项服务。

据国立信息学研究所的搜索技术专家加藤诚介绍，导致AI搜索结果出现“幻觉”的因素包括：信源材料本身存在错误或偏见；当信源不足时，AI会插入不实信息来填补“空白”；AI具有一种内在倾向，即试图回答每一个查询，有时甚至会基于纯粹的推测强行给出回应。

加藤强调：“AI在辨别和筛选信息方面的能力意外地薄弱，因此极易受到误导。鉴于AI生成的答案存在包含严重错误的风险，用户亲自核实原始信源材料必不可少。”

随着越来越多的企业开始在业务层面使用AI，加藤提出了以下注意事项：输入给AI的文档应采用标题和要点列举的形式，以便AI能轻松理解；如果相关信息分散在多个文档中，建议将其整合为单一文件；向AI提供高度详细且具体的指令，也是一种行之有效的方法。（编译/刘林）