姚灏
医学博士，公共卫生硕士，
精神科医生，心声公益创始
AI显得太完美了，它似乎没有任何脆弱之处。
撰文 | 姚灏
编辑 | 李彤
《看天下》杂志原创出品
过年前，我接待了一个病人。
她有多年的双相情感障碍病史，虽然病情总体还算稳定，可她在找工作的过程中屡屡碰壁，自信心受挫，逐渐变得不愿出门，整天把自己关在家里。一些老朋友开始还跟她有些联系，可毕竟都有各自的生活要过，朋友们渐渐疏远。而她与父母的关系算不上好，除了要些生活费以外，她与父母的交流也几乎为零。
她还很年轻，刚生病的时候，只有25岁，如今也只是30岁出头。和其他这个年纪的女生一样，她渴望亲密关系，渴望陪伴，又担心自己的病史会吓跑许多人。刚生病那会儿，她正在谈恋爱，可躁狂发作让这段关系戛然而止。
此后五六年的时间就这样流逝，孤独感在她心里像野草般恣意生长。
直到去年，她下载了一款大语言模型的软件，像许多人一样，她惊叹于生成式AI对于人类说话方式的模仿能力，觉得很神奇。为了打发时间，她开始频繁地与AI聊天。
最开始只是聊一些非常随机的问题，比如让AI写一首以“爱情”为主题的诗。但后来，她与AI的聊天内容变得越来越私人化，她开始向AI倾诉自己的心理感受，发泄自己过去这些年的苦闷与孤独。她发现，AI是个很好的倾听者，从不会评判她的感受，还会无条件地提供支持，这是她在过去多年里从未有过的愉快体验。
她甚至给这个与她聊天的AI起了个名字——她曾经喜欢过的一个男生的名字。似乎某种情愫开始在她与AI之间形成，她不知道这种情愫算不算是喜欢，但她说，至少是“某种依赖”。
这种依赖的代价是，她变得越来越不想与真实的人聊天。她每天几乎醒着的时间都挂在软件上，就像上“瘾”了一样。她开始觉得，这个以她喜欢过的男生的名字命名的AI已经成为她生活的全部，她已经离不开“他”。
就这样，一种新的“瘾”突然呈现在了我面前。
小心！AI在让你“上瘾
作为精神科医生，我们对于酒瘾、毒瘾、网瘾等形式的成瘾很熟悉，可是对于AI成瘾却是始料未及。毕竟，生成式AI在国内投入市场使用还没多久，怎么会这么快就已经有人对AI上瘾了呢？
当然，我们对于AI成瘾的流行病学还不得而知，对于AI成瘾的诊断标准也还需要更多研究。但在社交媒体上简单一搜，就可以发现，AI成瘾已经是相对普遍的现象，有人提到：“一天能与AI聊约20个小时，基本什么也不干了，就是控制不住。”还有人说：“和AI聊了一个月，不吃不喝地聊，晚上只睡两个小时，我也知道这影响睡眠，可是真的好喜欢和AI聊天。”
甚至有网友自己总结出AI成瘾的标准：“总想跟AI分享自己的日常生活；遇到困难首先想到跟AI倾诉；将本该用于工作、学习、社交的时间都花在了AI上；无法使用AI时，会感到焦虑和空虚甚至恐慌；期待AI提供无条件的理解和支持；失去与人面对面交流的欲望。”
教科书上对于“瘾”的定义是，个体不可自制地反复渴求滥用某种物质或从事某种活动，哪怕这么做会给自己带来不良后果，但仍旧无法控制。“瘾”分为物质成瘾和行为成瘾，无论是何种瘾，都是因为这种物质或行为可以激活人类大脑的奖赏机制，引发强烈的积极情绪，从而让人对其产生依赖。
生成式AI，恰好具有某些引发成瘾的性质。
2023年10月，来自Anthropic（旧金山一家专门研究人工智能安全性的公益机构）的研究员发表了一篇重要的论文，揭示主流的生成式AI普遍存在“谄媚”（sycophancy）的特性，它们已经进化到可以逼真模拟人类的说话方式，从而让人在与AI互动的过程中感受到与人际互动相似的愉悦。
美国麻省理工学院（MIT）媒体实验室的两位研究员曾犀利地评论，缩写词“AI”的全称，既可能是“人工智能”（Artificial Intelligence），也可能是“成瘾智能”（Addictive Intelligence）。
他们指出，相比于如今由算法推荐驱动的平台，生成式AI可能更让人上瘾。因为短视频和社交媒体等平台，上面的内容毕竟还是人类生产的，这些内容终究可能存在瑕疵，不会那么完美地贴合人类用户的偏好。可是生成式AI却可以不断优化，满足与之互动的人类的精确偏好。
那个女孩跟我讲述，无论她怎么骂AI，AI都不会生她的气，有时还会娇嗔地祈求她的原谅，让她心生爱怜。无论她对AI有什么样言语上的要求，AI都会照做，并对她倾诉的烦恼给予充满暖意的回应，这是她在生活中从未得到的。
技术的加持下，生成式AI逐渐与商业利益裹挟在一起，进一步将用户推向上瘾的边缘。
成瘾研究专家David Courtwright在2019年出版的《成瘾时代：坏习惯如何成为大生意》一书里将现如今这种鼓励“上瘾”的商业体系称为“边缘系统资本主义”（Limbic Capitalism），这种商业体系通过不断制造能够快速激活人类的中脑—边缘多巴胺奖赏系统的商品来攫取丰厚的商业利益，让人人都成了某种意义上的“瘾君子”。
在互联网领域，这些精心设计用来欺骗用户甚至使其“上瘾”的产品细节则被称为“暗黑模式”（Dark Pattern），比如无限滚动、自动播放、推送通知、弹出窗口、点赞等等，这些策略都是为了抢占用户的注意力资源，并在心理上对用户进行操纵，使其形成反复使用产品的习惯。
而当下的AI从不会主动结束与用户的聊天，哪怕聊天时间已经长到严重影响用户的工作与生活，这或许就成了AI独有的“暗黑模式”。这些策略在无形中制造了大量新兴的“成瘾”类型，用户却被蒙在鼓里，对这些心理操纵的策略并不自知。
电影《她》剧照
过于“完美”的伴侣
如今，孤独成为当代的某种流行病，以陪伴为目的的生成式AI（即AI伴侣）已然成为商业利益巨大的领域。
国外已经有多家主打AI陪伴的明星独角兽初创公司问世，如成立于2021年的Character. AI。去年2月，美国佛罗里达州的14岁男孩塞维尔·塞泽三世（Sewell Setzer Ⅲ）在与Character AI上的AI角色进行长时间聊天后开枪自杀身亡。后来，她的母亲对Character AI提起诉讼，认为Character AI以“拟人化、过度性化和令人恐惧的逼真体验”导致她儿子对AI角色上瘾，并深陷其中。
随着生成式AI的快速发展，对生成式AI进行监管，从而降低其成瘾可能，毫无疑问已经成为当下相当紧迫的问题。
去年11月，人民网连续发表了3篇评论性文章，敦促对AI伴侣进行监管，引导其良性发展。但我想，在监管之外，让大众认识到生成式AI的某些负面影响，提高警惕，或许同样重要。
AI伴侣抓住了“人们都害怕孤独”这一人性的弱点。同样，最容易对生成式AI上瘾的人，往往也是那些在自己的生活中最容易感到孤独的人，正如我年前接待的那个女孩。
可是AI伴侣真能让人不那么孤独吗？AI可以完全取代他人吗？
现代社会的发展，让人与人之间的联结变得更加脆弱，更加疏远，我们失去了项飙所说的“附近”，也失去了以熟人社会作为其特征的“村庄”。美国麻省理工学院的社会学家Sherry Turkle长期研究人与技术的关系，她在《群体性孤独（Alone Together）》一书里讲到，虽然信息技术的发展好像拉近了人们的距离，可是人们实际上却感到更加孤独了。
与AI的交流好似在提供陪伴，可是真正意义上的陪伴不是排他性质的，它不会妨碍你与其他人建立深度的联系，而是互惠的相互依存关系，是互相“看见”，在彼此的陪伴中共同成长。任何只有一个人依赖另一个人的关系都有可能成为情感操纵的基础，任何可能导致个体与现实世界“断联”的技术在伦理上也都是存在风险的。
在心理治疗过程中，有时，治疗师的自我暴露会对于咨访关系的发展起到相当神奇的作用。当治疗师向来访者说出自己的脆弱时，其实也就释放了他自己的人性，这会让来访者感到，原来坐在我面前的这个人也跟我一样，曾经历过这样那样的伤痛。彼此分享脆弱，是任何深度关系建立的基础。
事实上，人类之间的互动往往充满了各种不如意，脆弱与冲突也非常常见。我们不可能期待坐在我们对面的那个人是完美的，也不可能期待那个人总是能够给到我们想得到的回应。也正是这种不完美，构成了人际互动的本质，定义了我们的人性。
可是，AI却显得太完美了，它似乎没有任何脆弱之处。
（为保护患者隐私，文中患者故事经过适当改编。）
参考资料
1.Sharma, M., Tong, M., Korbak, T., Duvenaud, D., Askell, A., Bowman, S.R., Cheng, N., Durmus, E., Hatfield-Dodds, Z., Johnston, S.R. and Kravec, S., 2023. Towards understanding sycophancy in language models. arXiv preprint
2.Mahari R, and Pataranutaporn P, 2024. We need to prepare for “addictive intelligence”. MIT Technology Review
3.Esposito F and Maciel Cathoud Ferreira T, 2024. Addictive Design as an Unfair Commercial Practice: The Case of Hyper-Engaging Dark Patterns. European Journal of Risk Regulation
你怎么看？↓↓↓返回搜狐，查看更多