根据发表在《科学》期刊上的一项研究，AI 聊天机器人擅长改变人的政治观点，在使用不准确信息时其说服力更惊人。研究人员通过众包平台招募了近 7.7 万名参与者，付费让他们与 OpenAI、Meta 和 xAI 等公司的 AI 聊天机器人进行对话。研究人员首先询问了参与者在不同政治议题的立场，然后 AI 聊天机器人会尝试改变他们的想法接受相反的立场。研究显示 AI 聊天机器人非常擅长担任政治说客。研究人员发现，AI 提供的大量信息中包含了很多不准确的断言，而“最具说服力的模型和提示策略产生的信息准确率最低”。研究中 AI 聊天机器人给出的声明中有 19% 被认为“基本不准确”。研究人员担心，极具说服力的 AI 聊天机器人可能会被无道德原则的人利用，用于宣传激进的政治或宗教意识形态，或在地缘政治对手之间煽动政治动乱。

民主政策的制定离不开公众支持，政策只有在足够多人的支持下才能推行实施。民意的倾向对民主社会的精英执政至关重要。在传统上，精英主要通过学校教育和大众媒体等有限手段引导舆论塑造有利于自身的民意。这些手段粗糙、耗费的时间漫长，调整方向非常困难，因此塑造民意说服公众的代价十分昂贵。现代 AI 的普及正在改变这一状况，它大幅降低了说服公众的成本，大幅提高了塑造民意的精准度，能快速进行调整，甚至能为每位公众进行定制，让民意变成一种可操纵的对象。芝加哥大学 Knowledge Lab 的研究员在预印本平台 arxiv 上发表论文，探讨了 AI 时代精英如何操控民意。研究发现，极化整个社会对精英的统治最为有利。高度极化的社会有利于降低未来调整预期成本所需的成本，而 AI 降低说服成本则有助于加速极化。单一精英阶层执政的政权会加速极化，如果有两个互相竞争的精英阶层，结果则可能有所不同。