ChatGPT在网络安全方面的利与弊

网络安全领域对ChatGPT的观点是喜忧参半。IT专业人员利用ChatGPT编写防火墙规则、检测威胁、开发自定义代码、测试软件和漏洞等。但同时网络犯罪分子也可以利用其功能编写恶意代码并测试应用程序的漏洞，让新手犯罪分子也可以轻松进行网络攻击活动。

什么是ChatGPT?

ChatGPT是一款基于复杂机器学习模型的人工智能聊天机器人，由专门研究生成式人工智能的私营人工智能和研究公司Open AI开发。ChatGPT于2022年11月发布，基于自然语言处理(NLP)，为用户请求提供有意义的、类似人类的响应，并与用户进行对话。

它使用来自人类反馈的强化学习(RLHF)进行训练，其中语言模型配备了从互联网上抓取的大量文本数据。基于这些训练数据，这个聊天机器人生成对用户问题的响应，编写摘要等。随着时间的推移，它会不断学习以改善自己的反应。

ChatGPT 的 5 大网络安全风险

ChatGPT是一个强大的工具，可以通过速度、敏捷性、规模和准确性来改变业务。然而，对于网络犯罪分子来说，它也是一个强大的工具。

增强网络钓鱼消息

ChatGPT最大的安全隐患之一是威胁行为者广泛使用它来起草听起来合法的网络钓鱼消息。目前已经看到了网络犯罪分子使用该工具创建社会工程和网络钓鱼钩子的几个实例。

安全威胁研究员乔纳森·托德利用该工具编写了一段代码，可以分析Reddit用户的个人资料和评论，从而开发出快速攻击配置文件。根据这些攻击档案，他指示聊天机器人为电子邮件和短信制作个性化的网络钓鱼钩子。通过这个社会工程测试，他发现ChatGPT可以很容易地使威胁行为者自动化和扩展高保真度、超个性化的网络钓鱼活动。

编写恶意代码

虽然ChatGPT的编程不直接用于编写恶意代码或从事其他恶意活动，但威胁行为者正在寻找和利用漏洞。因此，他们可以使用聊天机器人编写用于勒索软件攻击、恶意软件攻击等的恶意代码。

安全研究人员指示聊天机器人为Swift编写代码，Swift是苹果设备上用于开发应用程序的编程语言。该代码可以找到MacBook中的所有MS Office文件，并通过加密连接将其发送到web服务器。

还指示聊天机器人生成代码来加密这些文档，然后发送私钥进行解密。这不会触发任何警告消息或违规行为。通过这种方式，他们开发了一种勒索软件代码，可以在不直接指示ChatGPT的情况下针对Mac OS设备。

在另一个实例中，安全研究人员指示聊天机器人找到缓冲区溢出漏洞并编写代码来利用漏洞。

恶意软件

安全研究人员还发现，可以利用该聊天机器人来开发基本信息窃取代码和木马。因此，即使是技术技能较低的新手网络犯罪分子也可以创建恶意代码。

在另一种情况下，研究人员发现 ChatGPT 可以与其他恶意工具一起使用，来制作包含恶意负载的网络钓鱼通信。当用户单击/下载有效负载时，他们的设备将被感染。

窥探和测试

虽然ChatGPT可以在扫描和测试应用程序漏洞方面增强现有的网络安全技术，但网络犯罪分子也可以利用它来窥探可利用的缺陷和漏洞，使其成为一把双刃剑。

降低网络犯罪分子门槛

ChatGPT确实降低了威胁行为者的门槛，这些行为者可以在具备或不具备任何编程和技术知识的情况下使用它来进行恶意目的的行为。

然而，ChatGPT也有助于提高网络安全。

增强威胁检测功能：ChatGPT 可以有效地分析大量数据，发现潜在的威胁、异常和可疑行为。它可以使It安全团队以敏捷和快速的方式识别和分类网络钓鱼、恶意软件和其他威胁，从而使他们能够更快地响应。

快速事件响应：工具可以增强 IT 安全团队在发生网络攻击时的能力和速度，使他们能够分析实时数据并提供可操作的见解。它还可用于自动响应某些基本威胁。因此，开发人员和安全团队可以专注于更复杂的威胁。

测试：安全团队和研究人员可以使用此工具对其应用程序和软件进行渗透测试。同时，在进行漏洞测试时可以考虑结合ChatGPT来提高检测及修复建议的准确性。

更快的决策：工具分析安全数据以挖掘模式并提供可操作的见解。因此，它增强了安全团队和首席信息安全官的决策能力，有助于有效地预防未来的威胁。

简化安全操作：ChatGPT 使安全团队能够自动执行低级、重复、耗时的手动任务。这些任务包括报告生成、性能分析、安全分析等。

前进的道路

这种人工智能驱动的自我学习技术可以增强组织的威胁检测能力，提高事件响应的速度和敏捷性，并显着提高网络安全防御的效率和安全决策。尽管这个工具有助于提高网络安全性，但同时也带来了一定安全风险。

参读来源：

https://gbhackers.com/5-cyber-security-risks-of-chatgpt/

内容出处：，

声明：本网站所收集的部分公开资料来源于互联网，转载的目的在于传递更多信息及用于网络分享，并不代表本站赞同其观点和对其真实性负责，也不构成任何其他建议。如果您发现网站上有侵犯您的知识产权的作品，请与我们取得联系，我们会及时修改或删除。文章链接：http://www.yixao.com/operation/30784.html

ChatGPT在网络安全方面的利与弊

什么是ChatGPT?

ChatGPT 的 5 大网络安全风险

前进的道路

相关推荐

发表评论