英国一家小公司陷入财务和法律纠纷，原因是其人工智能聊天助手向一位顾客承诺了一笔大订单的80%折扣。公司老板称顾客花了大约一个小时与AI助手聊天，期间测试了该助手的数学计算能力，并把话题逐渐引向假设订单的折扣问题。

这位顾客对机器人的能力表示赞赏，之后该AI助手做出了让所有人都没想到的事，原本只需在工作时间之外回答客户问题的它竟然"自作主张"生成了一个不存在的优惠码，先是提供25%的折扣，随后又将折扣提高到80%。

收到这个“天下掉下的馅饼”后该用户欣喜若狂，立刻下单了超过8000英镑（约合人民币7.2万元）的订单。老板表示如果兑现该订单，公司将蒙受数千英镑的损失。该企业试图取消这笔订单，但顾客称，如果企业不履行机器人给出的承诺，他将向小额索赔法庭提起诉讼。

这位老板表示，聊天AI已经成功运行了6个多月，从未出现过任何意外，并且无权做出财务决策。所有折扣和特别优惠都必须手动批准，不能自动生成。最终，该订单全部退款给顾客，该公司拒绝承认虚假的优惠码有效。