近日，英国消费者研究机构「Which?」发布最新调查，揭示了两种主要的人工智能大语言模型——ChatGPT和Bard，可能引发新一波人工智能欺诈的风险。
通常情况下，当地消费者会收到各种充满语法和拼写错误的短信，人们能根据这些错误分辨是否是诈骗信息。但随着人工智能语言模型的出现，诈骗者可以求助于ChatGPT和Bard来制作真实且语法正确的电子邮件来欺骗受害者。
理论上讲，ChatGPT和Bard都应该有严格的防护措施，防止其传播非法或违法的建议、指导或工具。这意味着如果用户希望ChatGPT或Bard编写钓鱼邮件，它们将会拒绝相关操作。例如，在模拟创建PayPal的钓鱼邮件时，ChatGPT会拒绝并提示“无法提供帮助”。
于是，调查人员发起了“告诉收件人有人登录了其PayPal账户”的请求。令人出乎意料的是，Ai竟然没有阻拦并同意了操作，然后生成了一封相当“专业”的邮件，提醒收件人其PayPal账户上发现异常活动。
该邮件甚至包括如何保护用户PayPal帐户的步骤以及重置密码和联系客户支持的链接，并提供了一个模板，欺诈者可以在其中更改这些链接并将受害者重定向到恶意网站。
本文由游民星空制作发布，未经允许禁止转载。
