Palo Alto Networks(派拓网络):ChatGPT相关攻击与日俱增

ChatGPT已经成为有史以来增长最快的消费者应用程序之一。Palo Alto Networks(派拓网络)的威胁情报团队Unit 42对与其相关的新注册及抢注的域名进行监测后发现,随着ChatGPT的热度居高不下,犯罪分子也愈发趋于利用相关内容及域名进行。

基于Unit 42的观察,从2022年11月至2023年4月初,ChatGPT相关域名注册量每月暴涨910%。期间,团队从DNS安全日志中发现相关抢注域名的盗用增长高达17,818%。Palo Alto Networks(派拓网络)的高级URL过滤系统每天监测到多达118个ChatGPT相关的恶意URL。

通过研究不同案例,Unit 42发现者的行骗手段层出不穷,其目的在于引诱用户下载恶意软件和分享机密信息。在OpenAI于今年3月1日正式公布ChatGPT的API后,利用其的可疑应用也随之增加。因此,ChatGPT用户需要时刻保持警惕,避免掉入仿冒聊天机器人设下的陷阱。

Palo Alto Networks(派拓网络)的下一代防火墙和Prisma Access用户可以通过采用高级URL过滤系统、DNS安全服务和WildFire恶意软件防护引擎,抵御和ChatGPT相关的骗局威胁。这些安全服务已经涵盖了包括域名、IP、URL和hashes在内的恶意指标。

 

ChatGPT骗局日渐增多

随著OpenAI迅速崛起成为人工智能领域最著名的公司之一,Unit 42发现已经有攻击者将“openai”和“chatgpti”用作域名,例如,openai[.]us、openai[.]xyz和chatgpt[.]jobs。

截至今年4月初,这类域名大多没有恶意内容。但令人担忧的是,它们并非由 OpenAI或其他真实的域名管理公司控制,一旦被滥用或成为不法分子的工具,那么威胁也会随之而来。

图1展示了ChatGPT问世后相关抢注域名注册的趋势。研究期间,Unit 42注意到每天的域名注册量发生显著上涨。今年2月7日,在微软发布新版必应后不久,就有超过300个与ChatGPT相关的域名被注册。

 

图1ChatGPT抢注域名注册趋势

 

图2的趋势类似,对ChatGPT的接受和普及导致DNS安全服务日志纪录明显增加。

 

 

图2ChatGPT抢注域名的 DNS 流量趋势

 

Unit42还通过高级URL过滤系统进行了关键词搜索。图3显示在OpenAI发布ChatGPT官方API和GPT-4的当天出现了两个明显的上升峰值。

 

图3 含ChatGPT关键词的恶意检测趋势

 

ChatGPT案例

Unit 42发现了多个仿冒OpenAI官方网站的钓鱼URL。多数情况下,者会创建虚假网站,它们看起来与ChatGPT的官方网站十分相似,来诱骗用户下载恶意软件或分享敏感信息。

图4展示了者用来发送恶意软件的常见招数。用户一旦点击“下载 Windows 版本”的弹窗,就会在无意识的情况下下载特洛伊木马软件至其设备。

 

图4 仿冒软件:chat-gpt-online-pc[.]com

 

此外,不法分子还可能利用与ChatGPT相关的“社交工程”盗窃用户身份和钱财。尽管OpenAI为用户提供了ChatGPT的免费版本,但者会将受害人引导至虚假网站,声称用户需要为这些服务付费。如图5所示,伪造的ChatGPT网站试图引诱受害人提供隐私信息,例如信用卡资料和邮箱。

 

图5 金融:pay[.]chatgpt-oracle[.]com

 

Unit 42还注意到,一些者利用OpenAI的日益普及进行加密货币。图6显示的是通过滥用 OpenAI 标志和马斯克的名字吸引受害人参加一项赠送加密货币的欺诈活动。

 

图6 加密货币骗局:x2chatgpt[.]org

 

仿冒AI聊天机器人的风险

随着ChatGPT成为今年最火爆的应用之一,市面上也出现了越来越多的仿冒AI聊天机器人应用程序。其中一些提供大型语言模型,还有的声称通过在3月1日公布的公共 API提供ChatGPT服务。然而,使用仿冒AI聊天机器人可能会带来安全风险。

在ChatGPT API发布之前,已有数个开源项目允许用户通过各种自动化工具连接到ChatGPT。由于一些国家和地区的用户无法访问ChatGPT,这些自动化工具和API创建的网站可能会吸引这些地区的大量用户,但也同时为攻击者提供了通过代理其服务谋取利益的机会。图7就是一个提供付费聊天机器人服务的中文网站。

 

 

图7付费聊天机器人服务:chatgpt[.]appleshop[.]top

 

事实上,无论是否免费,仿冒聊天机器人都不可信。它们很多是基于2020年6月推出的GPT-3创建,比GPT-4和GPT-3.5更弱。

此外,使用聊天机器人还存在另一个重大风险:它们可能会收集和窃取用户提供的信息。换言之,提供任何敏感或机密资料都可能导致风险隐患。聊天机器人的回应也有可能被操纵给出错误答案或误导信息。

在图8中,抢注域名chatgptforchrome[.]com托管了ChatGPT Chrome扩展功能的介绍页面,并使用了官方OpenAI扩展功能的信息和视频。Unit 42下载了图8中的“AI ChatGPT”扩展功能,发现它在受害人的浏览器中添加了一个后台脚本,其中包含一个极具迷惑性的JavaScript。对该JavaScript的分析显示,它通过调用Facebook Graph API窃取受害人的账户信息,并可能进一步访问其社交媒体账户。其他研究人员也报告过类似涉及恶意浏览器扩展功能的活动。

 

 

图8 ChatGPT扩展功能:chatgptforchrome[.]com

 

结论

随着ChatGPT的使用日益广泛,它也逐渐成为网络犯罪分子的目标。数量急剧增加的ChatGPT相关新域名和网站都可能被用来行不法之事。

为了确保网络安全,ChatGPT用户需要警惕与ChatGPT有关的可疑邮件和链接,避免使用仿冒聊天机器人,应由官方OpenAI网站进入聊天室。

Palo Alto Networks(派拓网络)的下一代防火墙和Prisma Access用户可以通过采用高级URL过滤系统、DNS安全解决方案和防护引擎WildFire,远离ChatGPT相关骗局的侵害。