美国政府警告：ChatGPT存在重大安全风险

近日，美国联邦政府发布了一份报告，称用户需密切注意ChatGPT存在的网络安全风险，尤其是在网络钓鱼和恶意软件开发领域。

在其发布的咨询意见报告中，政府部门警告，尽管微软支持的人工智能工具ChatGPT获得了前所未有的成功，吸引了大量头部企业和资本疯狂涌入AI赛道，一时间AI成为当下最为火热的赛道之一。

但是，AI 也带来了安全方面的风险，尤其是在网络钓鱼邮件制作和恶意软件生成等方面，以ChatGPT为代表的AI工具存在重大安全风险。该报告指出，为了防止这类AI工具带来的威胁，企业必须积极主动地采取极其谨慎、尽职尽责和密切注意的态度，避免出现更糟糕的情况。

攻击者正在利用ChatGPT放大作恶能力

该报告列举了恶意攻击者使用ChatGPT的部分方法清单，具体如下所示：

• 恶意软件生成: 利用ChatGPT生成恶意软件不再只是一种可能存在的理论，恶意攻击者对它的利用已经越来越熟练，并且在暗网上开始了各种各样的讨论和尝试。
• 制作网络钓鱼电子邮件:和恶意软件生成不同的事，在钓鱼邮件方面ChatGPT已经向用户展现出其强大的能力。恶意攻击者可以利用它来生成网络钓鱼和鱼叉式网络钓鱼电子邮件，并且这些电子邮件有可能通过电子邮件提供商的垃圾邮件过滤器。
• 诈骗网站: 通过降低代码生成门槛，ChatGPT 可以帮助技能较低的威胁行为者轻松构建恶意网站，例如伪装和网络钓鱼登陆页面。例如，零技能或很少技能的恶意行为者可以使用 ChatGPT 克隆现有网站，然后对其进行修改、构建虚假电子商务网站或运行带有恐吓软件诈骗的网站等。
• 发布虚假信息: 通过 ChatGPT，用户可以使用能够撰写极具说服力的散文、在短时间内生成数千条虚假新闻报道和社交媒体帖子的软件。

企业&用户安全防范指南/预防措施

1、提高对钓鱼邮件的防范

• 千万不要打开未知、意外或可疑的电子邮件、链接和附件；
• 在下载附件之前，使用电子邮件服务提供商提供的防病毒软件对其进行扫描，即便是可信任的附件。如果电子邮件服务不提供病毒扫描功能，则所有下载的文件在打开前都可以用本地的杀毒软件扫描；
• 对所有计算机设备，包括个人台式电脑、笔记本电脑、手机、可穿戴设备等操作系统和软件应用程序进行更新；
• 在所有的计算机设备中使用著名的、可信的防病毒软件；
• 不要在官方设备上使用个人帐户；
• 尽可能使用多因素身份验证(MFA)；
• 绝不与未经授权/可疑的用户、网站、应用程序等共享个人信息和证书；
• 始终在浏览器中键入URL，而不是直接点击链接.
• 始终用https开放网站打开链接，不访问http网站。

2.识别恶意软件伪装指南

(1)管理员

• 通过在操作系统、BIOS和应用程序级别上实现强化系统，尽可能地限制传入的流量和用户权限；
• 通过系统强化来阻止未经授权的存储介质（例如 USB）；
• 经常格式化可移动媒体，尽量避免恶意软件在系统内横向传播；
• 通过文件哈希、文件位置、登录和失败的登录尝试来监控网络活动；
• 使用知名的、可信的反恶意软件、防病毒、防火墙、IP、IDS、SIEM解决方案；
• 对离线 LAN 和在线网络使用单独的服务器/路由；
• 根据需要允许特定用户访问互联网并限制数据使用/应用程序权限；
• 下载之前通过数字代码签名技术验证软件和文档；
• 在邮件系统管理员控制和其他关键系统中实施 MFA（多重身份验证）；
• 始终定期维护关键数据的备份；
• 定期更改管理员级别的密码；
• 定期修补和更新所有操作系统、应用程序和其他技术设备；
• 为了减少恶意代码执行的攻击面；建议用户始终使用具有标准用户权限的帐户登录。

(2) 终端用户

• 下载之前，请务必重新验证通过辅助方式（电话、短信、口头）发送电子邮件/附件的受信任用户；
• 立即向管理员报告任何可疑活动；
• 切勿将关键数据存储在在线系统上，而应将其存储在独立系统上。

(3)ChatGPT用户安全准则

• 使用 ChatGPT 时，请注意共享的信息。避免共享敏感或机密信息，例如密码、财务信息或个人详细信息。
• 谨慎对待链接和附件。ChatGPT 可能会提供链接或附件作为其答案的一部分，但在单击它们之前请务必小心谨慎。请务必验证链接或附件的来源，并谨防可疑/未知来源。
• 政府机构工作人员手机不得用于 ChatGPT。

(4) 如果在使用ChatGPT时遇到安全问题，请立即向Open AI报告。

参考链接：https://www.thenews.com.pk/latest/1088379-warning-for-those-using-chatgpt