微软最近开始测试的新必应（New Bing）招致了一些人的批评，测试人员发现在长时间互动之后新必应的 AI 变得越来越古怪，甚至还会向人类对话者示爱或建议其离婚。微软的回应是限制了新必应的使用。软件巨人称，长时间的聊天会话可能混淆新必应的基础聊天模式。该公司开始限制测试者与新必应的互动，每次会话只能问五个问题，一天最多只能提出 50 个问题。微软称，只有极少数人每天问 50 个以上的问题。

一名人类棋手在围棋比赛中多次击败顶级 AI 系统，在 2016 年 AI 战胜人类围棋高手——此事被视为 AI 崛起里程碑——之后意外为人类翻盘。美国棋手 Kellin Pelrine 的段位比业余段位的最高级低一级。他利用另一台计算机发现的一个先前未知的缺陷击败了 AI。但他在没有计算机直接支持的情况下赢得了 15 场围棋人机对决中的 14 场。加州 AI 研究公司 FAR AI 设计了发现人类棋手可利用弱点的程序。该软件与顶级 AI 系统 KataGo 下了逾一百万局。Pelrine 称利用弱点并不十分困难，他运用了同样的策略打败了另一个顶级围棋 AI 系统 Leela Zero。加州伯克利的计算机科学 Stuart Russell 认为在顶级的围棋 AI 系统中发现弱点，证明这些系统使用的深度学习模型存在根本性缺陷。