参考消息网11月3日报道 据阿根廷布宜诺斯艾利斯经济新闻网10月25日报道，日前发表在美国《电子生命》期刊上的一项研究发现，驱动聊天生成预训练转换器（ChatGPT）、“双子座”（Gemini）和“克劳德”（Claude）等聊天机器人的语言模型对句子含义的表征方式与人脑不同，即便它们能够生成流畅且连贯的文本。

这项研究由澳大利亚墨尔本大学的詹姆斯·福多尔和卡斯滕·穆拉夫斯基以及日本一桥大学的铃木真介（音）共同完成。他们使用7特斯拉功能性磁共振成像（7T fMRI）技术观察了30名参与者在阅读专门为该实验设计的108个句子时的大脑活动。7T fMRI的分辨率高于医院常用的磁共振成像技术。

研究人员将这些大脑活动与基于Transformer架构的八个语言模型的内部表征进行了比较。Transformer架构为主流商用聊天机器人所采用。

该研究的目的是确定这些系统是否像人类大脑一样将词语的含义与其出现顺序相结合，还是仅仅分别处理每个词语的含义。

为此，研究团队构造了一系列句子，这些句子使用的词语几乎相同，但根据词序的不同，句意会发生变化，例如将动作的执行者与接受者互换。这种方法能够将语法结构的影响与每个词的单纯词汇内容区分开来，而此前基于自然文本的研究未能清晰地将这两者区分开来。

结果表明，这八个语言模型优于一个完全忽略词序的基本模型。然而，它们在预测大脑活动方面的整体表现水平较低，并且明显逊于一个专门用于明确表示词语间结构关系（例如句子中谁对谁做了什么）的模型。

问题集中在语义角色颠倒的句子上。这八个语言模型倾向于认为这些句子彼此之间的相似度高于人类参与者的判断。

值得注意的是，该论文指出，在将这些模型与大脑活动模式进行比较时，也出现了同样的差异。

另一方面，将词汇信息与语法结构的显式表征相结合的模型与参与者的大脑数据拟合度最高。研究作者将这种差异归因于大脑似乎更重视每个词在句子中的功能，而不仅仅是其孤立的含义。

该论文称：“研究结果对Transformer（架构的）模型能够以类似于人脑的方式表征句子含义的说法提出了质疑。”

该研究的作者之一穆拉夫斯基在一篇专业期刊文章中解释说，尽管语言模型能够模仿人类的语言使用方式，但研究结果表明，它们可能忽略了人们理解所读内容的一些核心方面。

该研究并不否认，当被明确要求时，这些系统能够识别句子的语法结构。此前研究已表明，语言模型能够在其内部层中检测到句法信息。

该研究作者指出，不同之处在于，这些信息不会像在人脑中那样自发地与词语含义整合起来，从而构建出句子的统一表征。

根据与论文一同发表的评估报告，《电子生命》期刊认为，该研究的发现“很有价值”，且基于“扎实”的分析。（编译/田策）