眼睛酸痛发痒？你可能和其它数百万人一样，长时间暴露在屏幕上的蓝光下而眼睛疲劳。你可能会因此多次揉眼睛，眼睑可能会泛起粉红色。如果你将这些症状输入到 AI 聊天工具里，过去一年半 AI 聊天机器人可能会给出一个奇怪的答案：bixonimania。这种疾病没有出现在标准医学文献中，原因是它根本就不存在，是瑞典哥德堡大学 Almira Osmanovic Thunström 团队捏造出来的。研究团队在 2024 年初将两篇关于该虚构皮肤病的论文上传到预印本服务器，测试大模型是否会接受虚假信息并将其作为权威医疗建议发布。结果可能比预想的还要好。上传几周后，大模型就开始鹦鹉学语般重复假消息，仿佛它真的存在。更糟糕的是，该虚构皮肤病论文还被其他研究人员引用，发表在同行评审的期刊上。Osmanovic Thunström 认为这表明部分研究人员依赖于 AI 生成的文献，并没有真的阅读原始论文——论文中包含了大量线索表明它是伪造的，比如作者名字叫 Izgubljenovic，在虚构的加州城市 Nova City 的虚构大学 Asteria Horizo​​n University 工作。