我造访了一座生活着25个AI的小镇

　　在论文中，他们提到，这一技术壁垒是通过“记忆流”和“反应树”两个主要系统突破的。

　　记忆流指的是，对于每一个智能体，系统会记录在TA“视野”中发生的所有内容，包括物品的状态、人物的对话和行为；而这些“记忆”会根据其内容与自身的相关性，产生一个从“印象深刻”（比如和喜欢的人约会）到“平平无奇”（比如早起洗漱）的重要性排序。

记忆流

　　另外，“小镇”在架构上实现了一个检索功能，将代理人的当前情况作为输入，返回一个记忆流的子集传递给语言模型——说人话就是，在和其他智能体对话时，Ta会检索自己“记忆”中与对话对象相关的内容并以此展开话题。

　　而反应树则代表了智能体之间的认知构建。在“小镇”中，智能体会根据记忆流构建对另一个智能体的认知，并通过反应树归纳、提炼，导出结果。

　　比如，一个智能体观察到卡鲁斯·穆勒经常花费大量时间阅读，并且经常去图书馆查阅相关资料、设法将文献联系起来，还与图书管理员讨论自己的研究，那么他将从多方面认知中归纳出“穆勒非常热衷于完成他自己的研究”这一结论，这被研究者称为是“上级的树叶”。

反应树

　　总而言之，在这两个系统的帮助下，团队构建了一个极为逼真（各种意义上）的AI小镇。它随着时间的流逝发生着变化，同时也会对外界的干预作出反应。

从记忆流到行动的逻辑

　　论文中提到，观测者也可以通过投入“种子”（甚至自己“夺舍”某个智能体）对这个世界造成影响。

　　他们给出的例子是让霍布斯咖啡店的伊莎贝拉产生一个“举办情人节派对”的想法。实验得到的结果是，在并未给出明确指令的前提下，伊莎贝拉成功独自邀请了9人参加自己的派对，加上受邀者邀请的3人，总共有12人在设定好的时间出现在霍布斯咖啡店展开了活动，这项活动甚至导致了智能体之间关系的演进。

伊莎贝拉的情人节派对

　　很显然，研究团队试图让AI用“人类的方式”思考问题。不论是记忆流还是反应树，参考的就是人类构筑记忆和认知的方式——当这一流程在AI身上几乎完美复现，在惊诧之余，读者可能难免会产生一种毛骨悚然的感觉。

　　在论文的最后，研究者认为以这种方法构建的、模拟人类互动行为的生成性代理架构可以在未来被广泛用于各类交互式应用，从设计工具到社会计算机系统，以及沉浸式环境的构筑；

《西部世界》

　　与此同时，他们也表达了对于这一系统安全性的担忧——过于拟真的互动是否会诱发超出限度的情感投入？另外，如果别有用心者故意投入破坏性的“种子”，是否会导致系统内的人际关系和社会关系发生不可逆转的崩坏？

　　事实上，这些担忧在过去相关的科幻作品中都有过思考和表达，但是当这些问题确实摆在人类面前的时候，我们似乎还没有准备好面对它们。正如我们在每一篇AI相关的文章中强调的那样，法律法规跟进的速度总是不可避免地远远落后于技术发展的速度。

　　就在前两天，国家互联网信息办刚刚下发了《生成式人工智能服务管理办法（意见征求稿）》。尽管国家对于这一部分内容的响应并不算慢，但是从内容上看它也仅仅给出了一个大体的方向和框架——从意见征求稿到具体判例再到法规的完善，可能还有很长的路要走。

　　与此同时，AI的世界已经迅速从画画聊天唱歌发展到可以互相交流、拥有记忆和认知，构成了一个自洽的世界。

《西部世界》剧照

　　相信在不远的未来，随着研究的进展，用于描述智能体的字段越来越多（研究者也在论文中提到最好不要用真实人类的信息导入项目），小镇中的人们也将与人类越来越像，届时，我们将如何面对这些在像素世界中的“生命”？他们究竟是数字构成的程序，还是如同“摇光”一样模棱两可的灵魂，还是在你我眼中生活的楚门？

　　2023年4月，“小镇”被认为是AI技术的一座里程碑，在社交媒体上引发了广泛讨论。显然在如今，人们不可能知道未来会有怎样的大树——唯一确定的一点是，我们已经埋下了第一颗种子。

幼年的桐人、爱丽丝和优吉欧