网络安全领域对ChatGPT的观点是喜忧参半。IT专业人员利用ChatGPT编写防火墙规则、检测威胁、开发自定义代码、测试软件和漏洞等。但同时网络犯罪分子也可以利用其功能编写恶意代码并测试应用程序的漏洞，让新手犯罪分子也可以轻松进行网络攻击活动。
什么是ChatGPT?
ChatGPT是一款基于复杂机器学习模型的人工智能聊天机器人，由专门研究生成式人工智能的私营人工智能和研究公司Open AI开发。ChatGPT于2022年11月发布，基于自然语言处理(NLP)，为用户请求提供有意义的、类似人类的响应，并与用户进行对话。
它使用来自人类反馈的强化学习(RLHF)进行训练，其中语言模型配备了从互联网上抓取的大量文本数据。基于这些训练数据，这个聊天机器人生成对用户问题的响应，编写摘要等。随着时间的推移，它会不断学习以改善自己的反应。
ChatGPT 的 5 大网络安全风险
ChatGPT是一个强大的工具，可以通过速度、敏捷性、规模和准确性来改变业务。然而，对于网络犯罪分子来说，它也是一个强大的工具。
增强网络钓鱼消息
ChatGPT最大的安全隐患之一是威胁行为者广泛使用它来起草听起来合法的网络钓鱼消息。目前已经看到了网络犯罪分子使用该工具创建社会工程和网络钓鱼钩子的几个实例。
安全威胁研究员乔纳森·托德利用该工具编写了一段代码，可以分析Reddit用户的个人资料和评论，从而开发出快速攻击配置文件。根据这些攻击档案，他指示聊天机器人为电子邮件和短信制作个性化的网络钓鱼钩子。通过这个社会工程测试，他发现ChatGPT可以很容易地使威胁行为者自动化和扩展高保真度、超个性化的网络钓鱼活动。
编写恶意代码
虽然ChatGPT的编程不直接用于编写恶意代码或从事其他恶意活动，但威胁行为者正在寻找和利用漏洞。因此，他们可以使用聊天机器人编写用于勒索软件攻击、恶意软件攻击等的恶意代码。
安全研究人员指示聊天机器人为Swift编写代码，Swift是苹果设备上用于开发应用程序的编程语言。该代码可以找到MacBook中的所有MS Office文件，并通过加密连接将其发送到web服务器。
还指示聊天机器人生成代码来加密这些文档，然后发送私钥进行解密。这不会触发任何警告消息或违规行为。通过这种方式，他们开发了一种勒索软件代码，可以在不直接指示ChatGPT的情况下针对Mac OS设备。
在另一个实例中，安全研究人员指示聊天机器人找到缓冲区溢出漏洞并编写代码来利用漏洞。
恶意软件
安全研究人员还发现，可以利用该聊天机器人来开发基本信息窃取代码和木马。因此，即使是技术技能较低的新手网络犯罪分子也可以创建恶意代码。
在另一种情况下，研究人员发现 ChatGPT 可以与其他恶意工具一起使用，来制作包含恶意负载的网络钓鱼通信。当用户单击/下载有效负载时，他们的设备将被感染。
窥探和测试
虽然ChatGPT可以在扫描和测试应用程序漏洞方面增强现有的网络安全技术，但网络犯罪分子也可以利用它来窥探可利用的缺陷和漏洞，使其成为一把双刃剑。
降低网络犯罪分子门槛
ChatGPT确实降低了威胁行为者的门槛，这些行为者可以在具备或不具备任何编程和技术知识的情况下使用它来进行恶意目的的行为。
然而，ChatGPT也有助于提高网络安全。
增强威胁检测功能：ChatGPT 可以有效地分析大量数据，发现潜在的威胁、异常和可疑行为。它可以使It安全团队以敏捷和快速的方式识别和分类网络钓鱼、恶意软件和其他威胁，从而使他们能够更快地响应。
快速事件响应：工具可以增强 IT 安全团队在发生网络攻击时的能力和速度，使他们能够分析实时数据并提供可操作的见解。它还可用于自动响应某些基本威胁。因此，开发人员和安全团队可以专注于更复杂的威胁。
测试：安全团队和研究人员可以使用此工具对其应用程序和软件进行渗透测试。同时，在进行漏洞测试时可以考虑结合ChatGPT来提高检测及修复建议的准确性。
更快的决策：工具分析安全数据以挖掘模式并提供可操作的见解。因此，它增强了安全团队和首席信息安全官的决策能力，有助于有效地预防未来的威胁。
简化安全操作：ChatGPT 使安全团队能够自动执行低级、重复、耗时的手动任务。这些任务包括报告生成、性能分析、安全分析等。
前进的道路
这种人工智能驱动的自我学习技术可以增强组织的威胁检测能力，提高事件响应的速度和敏捷性，并显着提高网络安全防御的效率和安全决策。尽管这个工具有助于提高网络安全性，但同时也带来了一定安全风险。
参读来源：
https://gbhackers.com/5-cyber-security-risks-of-chatgpt/
内容出处：，
声明：本网站所收集的部分公开资料来源于互联网，转载的目的在于传递更多信息及用于网络分享，并不代表本站赞同其观点和对其真实性负责，也不构成任何其他建议。如果您发现网站上有侵犯您的知识产权的作品，请与我们取得联系，我们会及时修改或删除。文章链接：http://www.yixao.com/operation/30784.html
微信扫一扫
支付宝扫一扫
相关推荐
-
基于某生鲜APP业务的数据仓库搭建过程
生鲜app搭建数据仓库是非常必要的，它需要提升供应链管理能力和数据的计算的准确性和时效性。那么，要怎么去进行一个数据仓库的搭建呢？本文给大家分享一下搭建的过程~ 某生鲜APP搭建数…
-
教育培训行业为什么没有大型的垂直平台网站？
教育培训行业应该说也是一个比较大的垂直行业，全国年消费量已达到万亿级别，最近几年教育培训行业也不断有做培训的学校上市，例如新东方，学大，学而思等，但鲜有做得较好的教育培训行业垂直平…
-
软件项目估算-从功能点估算法到Cocomo成本估算模型
软件项目的复杂性就在于这几个因素间基本都没有简单的线性关系可寻。在项目过程不成熟或积累的历史数据不够的时候，慎用直接估算规模的方法，因此及时估算了规模也不清楚团队的实际生产率情况，无法根据规模推出具体的工作量。
-
网站推广宣传不可取方式
不管理是企业网站、行业网站、大网站、小网站，推广宣传都是不可少的，下面一些方式不可取，请大家学习参考。1、有的时候客户问我有没有软件可以用来发发自己的网站、作为网络公司、是非常了解这些内容、但是客户每天打开邮件，或者自己的留言板，看到的是一些类似垃圾信息的广告，他们会怎么想呢？2、有些网站有认识网络公司的朋友、可以做推广。这点没错。但是有的人急功近利。用作弊手段做推广。结果很简单，自己网站都被封掉。
-
一个广告引发的血案：漏洞套利项目
7%的精神病。 80%的人是大专以下学历。 99%是背诵教科书长大，流水线生产，没有独立思考能力。 这样的大环境，赚钱向来很简单。 做一个成功的自媒体，核心是什么？ 屁股。 房市空…
-
为什么电商的命门是供应链？
传统的商业发展至今，大量实体店和商超开始倒闭，各种新电商模式的兴起，供应链已经发生了翻天覆地的变化，本文就通过电商这些年来模式上的变化来简单分析一下背后供应链的逻辑变化。 传统商业…
-
电子商务的成功与否还要看将来
在时下电子商务似乎已经成为了流行趋势，淘宝、卓越亚马逊、当当、京东、凡客诚品等百货型或专卖型网售平台，一个一个崛起，在街头，物流公司的送货摩托车来往飞驰，将大把大把的网购货物送到消费者手中，有一些业内人士已经开始认为，电子商务这个10年的互联网之梦，此刻已经孵化成功了，即将由丑小鸭变成白天鹅。可事实真的如此吗？
-
中小企业SEO进行搜索引擎优化方法PK
目前，搜索引擎推广已成为了企业最重要的推广方式之一，据相关资料显示，搜索引擎的应用覆盖全国95%的网民，每天有超过3亿人次在搜索引擎查找信息，是最具价值的企业推广平台，为企业带来一场营销方式的革命。依托搜索引擎平台，独创按效果付费的网络推广方式，把企业的产品、服务等通过以关键词的形式在搜索引擎平台上进行推广，企业只要在注册与产品相关的关键词后，就会被主动查找这些产品的潜在客户找到。
