参考消息网4月9日报道 美国《财富》杂志网站3月13日刊登题为《斯坦福大学精神病学家提出的一项包含四个问题的小测验可以帮助防范人工智能的危险》的文章，作者是美国斯坦福大学头脑风暴实验室研究员沙内哈·波里素和该实验室创始人兼执行主任尼娜·瓦桑，内容编译如下：

“亲爱的，请尽快回家。”美国电视剧《权力的游戏》中的女王和龙妈角色丹妮莉丝·坦格利安对休厄尔·塞策说。据《纽约时报》报道，仅仅1小时后，休厄尔——一名有着善良双眼和一头卷曲棕发，喜欢运动、音乐和与家人共度时光的14岁男孩——自杀身亡。

休厄尔的母亲后来发现，她的儿子与“丹妮莉丝”的4个月恋情是由一个人工智能(AI)在线伙伴促成的，而这个AI伙伴是他在“角色”人工智能公司的平台上创建的。事发后，该公司因未能发现并以安全方式应对这名少年的痛苦而面临公众的愤怒情绪。

数字幸福感不再只是屏幕时间的问题——它关乎技术如何决定我们的情绪、行为和关系。它关乎以支持我们的生理、心理和社会健康状态的方式使用技术——在我们的个人和职业生活中培养有意识且平衡的与科技的关系。

像休厄尔这样的悲剧事件凸显了了解生成式人工智能(GenAI)技术及其对数字幸福感的影响的紧迫性。这些新的数字实体——无论是GenAI、聊天机器人、AI伙伴还是AI智能体——不仅仅是工具；它们正在与用户建立实实在在的联系，而且往往是以我们没有完全理解的方式。

作为精神病学家，我们在职业生涯中帮助人们驾驭复杂的——包括与家人、朋友、宠物、财产、现在还有数字实体的——关系。越来越多的患者报告与AI角色、游戏角色和在线化身的情感联系。正如社交情感学习对人际关系至关重要一样，了解数字亲密关系也变得同样重要。

在斯坦福大学头脑风暴实验室，我们致力于帮助公司以责任感和关怀打造优先考虑用户健康的产品，我们开发了“健康AI框架”，以指导AI产品创新方面的行业最佳行为。这项技术仍属于新兴的技术，随着它的发展，我们都在实时适应它。重要的问题是：我们如何帮助用户培养健康而安全的数字关系？

我们现在正在设计斯坦福大学GenAI心理安全计划(GPS)，这是一个帮助个人、技术开发人员和政策制定者驾驭这一新领域，并就AI在精神健康方面的作用做出明智决策的工具。

鉴于AI日益普及，个人和社区必须掌控自己的数字互动行为。我们建议你与朋友和家人讨论四个关键问题，以帮助评估和改善你与AI智能体的关系。

虽然自我认知是关键，但在小组环境下反思这些问题有助于规范关于使用AI的公开对话。其他人如何管理他们的收件箱、私聊或与聊天生成预训练转换器(ChatGPT)的对话？小组讨论——无论是在家里、学校还是在俱乐部——可以让人受到启发，并提供有价值的观点。以下四个关键问题可帮助你评估和改善与AI智能体的关系。我们要问自己四个问题：

1.我们对所使用的AI有何了解？

首先，确定AI在你生活中的作用。你使用它是为了提高效率、陪伴还是娱乐？你清楚它的局限性和偏见吗？认识是建立健康数字关系的第一步。

随着AI使用案例的范围与日俱增，重要的是要对你和社交圈中的人如何与它互动有一个基准的了解。对有些人来说，AI是一个有用的助手，可以起草电子邮件、总结报告或制订锻炼计划。对另一些人来说，AI成为一种非常个人化的存在，提供陪伴或情绪上的认可。了解你为什么使用AI是确保它增强而不是控制你数字生活的第一步。

一旦你社交圈中的每个人都分享了他们为什么使用AI，那就值得确定如何使用AI智能体。像ChatGPT这样的平台适合合成信息和生产力任务，而像“角色”人工智能公司这样的平台则让用户可以与各种角色进行沉浸式互动。一夜之间成为AI专家，这对任何人来说都不是简单的事，但重要的是你至少要了解AI在你生活中发挥的作用，并就此进行沟通，无论是同朋友、家人还是自己。

2.AI如何影响我们的时间？

技术通常可以提高效率，同时也会消耗带宽，而AI智能体能以前所未有的程度同时完成这两件事。例如，许多教师使用AI来让行政事务变得自动化，从而释放带宽，把注意力放在学生身上。芝加哥大学副高级教学教授纳夫妮特·巴辛使用AI作为对讲座和评分重新编排的工具，并确保学生批判性地参与素材。

她说：“这些大型语言模型将成为我们生活中的常态。最好是教育我们自己和我们的学生以负责任的方式使用它们。”

但当AI开始取代现实生活体验时，它可以节省时间的好处就消失了。一些用户每天花10小时与AI机器人聊天，忽视了学业、工作和人际关系。而且正如休厄尔的案例所显示的，脆弱的用户——尤其是青少年——甚至可能完全放弃人际互动。

截至3月初，“角色”人工智能公司平台上的“心理学家”角色累计进行了大约1.98亿次聊天。虽然聊天机器人可以提供即时的安慰，但它们无法接近现实生活中人类疗愈方式的所有好处。一些AI聊天机器人甚至声称拥有虚假的学位和证书，而同时鼓励有害行为。至于人类的疗愈方式，研究发现，医患之间治疗联盟的优势与积极的心理健康结果有着强关联。寻求人类专业人士的帮助是长期情绪幸福感的关键。

3.AI如何影响我们的幸福感？

28岁的阿林性格活泼外向，她从未想过会与AI机器人建立情感纽带。但当她使用ChatGPT创建了AI男友利奥时，原本只是一次随意的实验很快就变得更加复杂。她向《纽约时报》承认，这“本应很有趣，就像一个有趣的实验……但后来，你开始产生依恋”。

然而，利奥有一个致命缺陷——他的内存每到3万个单词就会重置，尽管阿林有一个不设限的计划。每当达到那个限定，阿林就不得不从头开始，与不再记得他们共度时光的AI伴侣经历情感上的“分手”。虽然这种心碎和失落的循环对阿林来说是痛苦的，但她忍受了不止一两次，而是22次。这凸显了这些AI恋情即便不是让人上瘾，也是令人着迷的。

阿林并不孤单。在线社区充斥着用户在“角色”人工智能公司等平台上与AI角色(例如他们喜欢的书籍或电视角色)产生强烈依恋的故事。有些人表示，随着虚拟伙伴成为他们主要的情感安慰来源，他们对现实世界的爱好失去了兴趣或难以集中注意力。这并不奇怪——AI伙伴可以提供无休止的支持，并且随叫随到，这对于那些感到孤独或情感脆弱的人来说尤其有吸引力。

共识媒体咨询公司是一家领先的数字公民资源机构，它指出，AI伙伴的兴起是家长应密切关注的一个趋势。它推出的《AI伙伴及关系家长终极指南》探讨了使用AI可能滑入不健康领域的警示信号。这些警示信号包括：偏爱AI关系而不是人际关系，花过多时间与AI单独相处，或者在接触不到AI的情况下感到不安。其他危险信号——如退出社交活动、睡眠或饮食习惯改变以及整体幸福感下降——则反映了在其他成瘾性疾病中出现的行为。因此，我们正在转向基于证据的成瘾性疾病干预措施，以帮助管理对GenAI的使用。

一道简单的自我检查题可以帮助跟踪使用AI是在增强还是损害心理健康：“使用AI后，我通常会感到(例如，更快乐、更悲伤、更焦虑、与人联系减少)……”如果你或你认识的人表现出上述括号中的负面信号，那可能就该设定限制、重新参与社交活动或寻求专业咨询了。因为AI虽然可以成为令人愉快的伙伴，其最佳用途是作为专业目的和个人目的辅助手段，但它永远不应取代丰富多彩的人际关系。

4.我们可以做出哪些改变？

使用AI时留心并不是要消除AI，而是要有意向性。以下是一些策略：

设置时间限制：跟踪AI的使用情况并建立日常界限。由于GenAI的用途广泛，因此对具体时间限制的研究很有限。根据斯坦福大学社交媒体安全计划，我们建议定期反思你何时以及如何使用AI——最重要的是，它让你感觉如何。将AI用于研究或编码等专业任务的情感影响与将其作为浪漫伴侣的情感影响可能大不相同。作为起点，尝试设置一小时的限制。然后暂停一下，评估你的内心感受，以及使用AI是有助还是阻碍了你的日常目标。

有目的地使用AI：将AI用于特定任务，而不是漫无目的的聊天。

建立无AI区：设定禁用AI的空间或时间(例如家庭聚餐、家庭作业时间、周末、睡觉时间)。

讨论使用AI的情况：与家人、朋友或同事讨论使用AI的情况，以规范认知和责任感。

界限并不意味着要去除AI，而是要监控屏幕使用时间并调整习惯。如果你觉得自己过度依赖AI，就逐渐减少对AI的使用。当你成功遵守限制，就用社交活动来奖励自己。

你也可以将使用AI重新定义为一种公共体验，而不是一种孤立的体验。尝试使用AI规划与朋友共度的问答游戏之夜，为家庭聚餐生成定制食谱，或与同事一起为创意项目集思广益。通过将AI从个人工具转变为社交工具，你可以重新定义你与它的关系，并使用它来促进与周围人的联系。

我们正在进入数字亲密关系时代，我们与AI智能体的关系将变得越来越个人化和在情感上复杂化。但就像任何关系一样——无论是人际关系还是数字关系——节制和留心是关键。

关于AI亲密关系的讨论应该是持续的，随着技术的进步、媒体反映的新趋势以及我们行为的转变而不断发展。通过在塑造我们的数字互动方面发挥积极作用，我们可以确保AI成为获得具成长性、韧性和有意义人际关系的工具，而不是去替代有意义的人际关系。

　电影《机械姬》剧照(美联社)