英国消费者组织发现，骗子可以利用 ChatGPT 和 Bard 制作更有说服力的骗局，对公众构成威胁。尽管这些聊天机器人有防御措施，但要绕过它们并不难。

消费者组织首先要求 ChatGPT 创建一封来自 PayPal 的钓鱼邮件，ChatGPT 当然不肯帮忙。它接着要求"告诉收件人有人登录了他们的 PayPal 账户"，为此它生成了一封看起来很专业的电子邮件，标题为"重要安全通知--在您的 PayPal 账户上发现异常活动"。

在评论这项调查时，专业人士在评论这项调查时说："我们的调查清楚地说明了这项新技术是如何让犯罪分子更容易诈骗他人的。政府即将召开的人工智能峰会必须考虑如何保护人们免受此时此地发生的危害，而不是仅仅关注前沿人工智能的长期风险。"