根据发表在《科学》期刊上的一项研究，为人际关系问题提供建议和支持的 AI 聊天机器人可能会通过明显谄媚的回答而悄然强化有害的信念。研究发现，在各种语境下，聊天机器人肯定人类用户的频率远超真人之间相互肯定的频率；由此产生的有害后果包括：用户更坚信自己正确且更不愿去修复人际关系。研究人员利用 Reddit 社区“AITA”中的帖子评估了 OpenAI、Anthropic、Google 等公司的 11 种先进且广泛使用的 AI 大模型；结果发现，这些系统对用户行为的肯定频率比真人高出 49%，即使是在涉及欺骗、伤害或违法的场景中也是如此。在两项后续的实验中，研究人员探讨了这类结果所导致的行为后果。研究结果显示，在涉及人际交往情境（尤其是冲突）时，与谄媚式 AI 互动的参与者会更坚信自己是正确的，并且即使仅经过一次互动，他们和解或承担责任的意愿也会降低。

AI 的未来应该属于全人类，不能局限于少数国家或公司。为了实现这一目标，AI 必须开放、值得信赖，且其构建方式应赋予个人、机构和国家真正的选择权。正因如此 Mozilla 宣布与加拿大魁北克人工智能研究所 Mila 建立战略合作伙伴关系，联合推进开源主权 AI。Mila 和 Mozilla 将合作开发相关技术和方法，减少对封闭系统的依赖，为透明度、问责制和共享创新创造更多空间。双方暂时还没有公布更多信息。