简介：清华大学自动化系与通用人工智能研究院联合提出的ReCon框架，通过借鉴人类的“三思而后行”和“换位思考”，显著提升了AI智能体在阿瓦隆桌游中识别和应对欺骗的能力，为通用人工智能的发展增加了安全屏障。
在人工智能领域，大语言模型（Large Language Models，LLMs）的飞速发展推动了AI智能体的广泛应用。然而，如何在无人监管的环境下防止AI智能体被欺骗和误导，一直是研究者们关注的焦点。近日，清华大学自动化系与通用人工智能研究院的研究团队，在阿瓦隆（Avalon）桌游这一充满欺骗的环境中，测试了当前大语言模型存在的问题，并提出了ReCon（Recursive Contemplation，递归思考）框架，为AI智能体的发展带来了新的突破。
阿瓦隆是一款策略性的社交推理游戏，玩家被隐秘地分为“正义”与“邪恶”两派，通过任务投票、互相猜测与欺骗来完成或阻止任务，最终确定胜负。这种游戏环境为测试AI智能体在欺骗性环境中的表现提供了理想的场景。研究团队发现，现有的大语言模型在面对欺骗性信息时容易被误导，保护隐私信息能力不足，且思维过程对人类用户来说不够透明。
为了解决这些问题，研究者们提出了ReCon框架。ReCon框架包含两个主要的构思阶段：构思思考（Formulation Contemplation）和改进思考（Refinement Contemplation）。在这两个阶段中，分别融入了一阶视角转换和二阶视角转换的思考过程。这种设计灵感来源于人类的“三思而后行”和“换位思考”，旨在增强AI智能体在复杂和潜在欺骗性环境中的决策能力。
在构思思考阶段，AI智能体运用一阶视角转换，从自身的视角出发，对其他游戏参与者可能持有的角色和意图进行推断。这一过程为AI智能体提供了一个认知框架，为后续决策和行动提供了基础。而在改进思考阶段，AI智能体则运用二阶视角转换，从其他游戏参与者的视角出发，重新评估其构思思考的思考和发言内容。这种换位思考的方式，使得AI智能体能够更准确地预测其他参与者的反应，从而调整自己的策略。
为了验证ReCon框架的有效性，研究团队在ChatGPT和Claude两种大语言模型上进行了实验。实验结果表明，ReCon框架在胜率以及多维度评估等指标上，都显著提升了AI智能体识别和应对欺骗的能力。特别是在好人一方使用ReCon时，一阶/二阶视角转换的作用尤为明显；而当坏人一方使用ReCon时，改进思考则更具影响力。
此外，研究团队还进一步讨论了当前大语言模型在安全、推理、说话风格以及格式等方面存在的局限性，为后续研究指出了可能的方向。这项研究不仅为AI智能体在欺骗性环境中的表现提供了新的解决方案，也为通用人工智能的发展增加了安全屏障。
值得注意的是，在实际应用中，这种能够识别和应对欺骗的AI智能体具有广泛的前景。例如，在客户服务领域，千帆大模型开发与服务平台可以借助ReCon框架，提升智能客服在处理客户投诉和纠纷时的能力，使其能够更准确地识别客户的真实意图，从而提供更有效的解决方案。同时，这种能力也可以应用于金融风控、网络安全等领域，帮助企业和机构更有效地识别和防范欺诈行为。
综上所述，ReCon框架的提出为AI智能体的发展带来了新的突破。通过借鉴人类的思考方式，AI智能体在欺骗性环境中的表现得到了显著提升。这一成果不仅为通用人工智能的发展增加了安全屏障，也为AI智能体在更多领域的应用提供了可能。随着技术的不断进步和完善，我们有理由相信，未来的AI智能体将能够更好地服务于人类社会。