生成人工智能与网络安全:数字化转型的朋友或敌人?

现代云原生技术的采用释放了最新的生产力浪潮，并使跨行业的新用例实现了数字化转型, 包括应用于人工智能. 的组织, 数据科学和人工智能功能已经成为云迁移的主要用例之一. 除了, 最近的人工智能创新, 生成式人工智能是促进澳门赌场官方下载网络安全的一个感兴趣的领域. 根据最近的一份全球数据报告, 生成式人工智能将以每年80%的速度增长，到2027年将达到330亿美元.¹

尽管这种转变为组织创造了许多机会, 这也导致了网络犯罪的严重风险和指数级增长. 网络犯罪分子正在不断试验人工智能技术，并开发新的算法，设计前所未有的恶意软件来入侵澳门赌场官方下载. 随着组织优先考虑数字化, 对云安全的关注正在迅速增长, 但不幸的是, 许多组织仍然将数据和应用程序安全性视为事后考虑, 为坏人创造了一个可以轻易利用的空间. 除了, 缺乏熟练的网络安全资源限制了组织在这些坏人面前领先一步.

组织可以使用生成式人工智能作为强大的工具来智胜这些坏人, 主动识别新的威胁并采取纠正措施. 随着网络安全威胁的频率和严重程度不断上升, 袭击的可能性也变得越来越高. 必须加强组织的数字免疫系统(DIS)，使其具有检测和应对威胁的弹性. 然而，这种豁免权是有代价的.

尽管生成式人工智能提供了巨大的好处，但它也存在一些重大挑战. 生成式人工智能需要大量的培训和文化变革，以确保机密数据不被泄露. 除了, 安全数据模型培训基础设施需要大量投资和强大的业务支持.

好处

随着数字技术的日益普及，首席信息安全官需要加强网络风险管理. 利用生成式人工智能进行网络安全的一些明显好处包括:

1. 早期威胁检测-大型语言模型(llm), 基于之前的安全漏洞, 是否会比人工监控更快地检测到未来的违规行为. 异常检测, 与澳门赌场官方下载安全策略一致的行为分析和模式识别有可能在造成损害之前主动识别潜在的威胁. 除了, 澳门赌场官方下载防御系统可以根据攻击者如何改变其行为，从生成式人工智能安全模型中生成新的应对措施. 例如, 以更好地保护其患者数据和符合法规的应用程序, 和睦家医疗部署了一个支持人工智能的安全运营平台，提高了可见性并加快了检测时间, 控制和应对勒索软件攻击.²
2. 混合世界中的零信任政策——组织网络大幅扩大, 由于从多个位置工作和访问关键资产的人员数量过多而造成安全漏洞. 利用零信任策略流程来保护数据, 组织必须将数据分为四类(高度敏感, 监管, 非公开和公开). 生成式人工智能可以帮助评估漏洞，并在混合工作环境中实施零信任策略, 根据基于记分卡的风险评估提供更好的用户体验. 例如, Cloudflare扩展了其零信任安全控制平台, Cloudflare一, 到生成式人工智能服务，使澳门赌场官方下载能够安全地使用最新的生成式人工智能工具，而不会将知识产权和客户数据置于风险之中.³
3. 自动事件响应-尽管有许多事件响应工具和解决方案可用, 网络犯罪正在上升，实现无事件阶段是困难的. 威胁是不断变化的，网络罪犯一天比一天聪明. 生成式人工智能可用于端点检测和响应工具以及漏洞扫描仪，以增强安全分析, 网络钓鱼和欺诈活动的相关性和检测. 生成式人工智能还可以自动进行防御反应, 使组织能够快速有效地响应网络攻击，并增强基于安全编排自动化和响应(SOAR)的解决方案的能力. 将基于人工智能的安全工具与澳门赌场官方下载范围的网络安全操作相结合，将自动检测和减轻威胁. 例如, Atos推出了基于IBM QRadar和Watson AI的新型安全运营中心(SOC)服务, 从而产生人工智能支持的威胁检测和日志分析.⁴
4. 预防发展-在自然语言处理中使用深度学习模型的ai解决方案可以通过在开发过程中早期优先考虑安全性并在开发应用程序代码时向开发人员突出潜在的安全漏洞来采取预防性的网络安全方法. 深度学习人工智能模型还可以为开发人员提供潜在的安全漏洞修复建议. 例如, GitLab最近宣布了一项新的人工智能驱动的安全功能，该功能使用llm向开发人员解释潜在的漏洞.⁵
5. 劳动力短缺-网络安全专业人员的劳动力短缺日益严重, 因此，许多组织经历了诸如缺乏适当的时间进行评估和培训以及对关键系统进行缓慢修补等问题.⁶ 员工的倦怠也令人担忧, 可能会导致员工离开公司，从而扩大人才缺口. 为了解决这个问题, 生成式人工智能可用于培训技能较低的安全从业人员，通过能够更快、更准确地分析未来的威胁，加快决策过程. 全球应对多种语言和不同时区的网络威胁, 在不受劳动力短缺影响的情况下，人工智能技术可以优化对网络威胁的全天候警惕. Sophos就是这样做的一个例子.⁷
6. 澳门赌场官方下载响应-组织经常保护他们的网络, 使用不同工具集的数据和应用程序, 面对这些挑战，澳门赌场官方下载缺乏平衡和全面的网络威胁应对措施. 人工智能支持的智能自动化提供了一种可扩展的方式来解决这个问题，通过简单易懂的响应和恢复任务来最大限度地减少复杂的活动. 例如, BigPanda(一个AIOps平台)最近宣布了一个基于生成式人工智能的事件分析功能，提供详细的事件评估(包括事件影响), 可能的根本原因和自然语言事件(标题和摘要).⁸
7. AI对DevSecOps的转变devsecops是带来开发的实践, 运营和安全团队一起工作，这样工作负载安全性和策略遵从性就不再是事后的事情了. 不幸的是, 开发和运维团队通常认为这些安全策略会减慢他们的速度. 为了解决这个问题, 生成式AI可用于建议修复代码中的安全漏洞，并使SecOps易于采用，而不会延迟开发周期. 基于不同开发和操作角色的易于理解的说明可以帮助交付高度安全和可伸缩的应用程序，而不会影响软件开发周期. 例如, 一家领先的金融澳门赌场官方下载将生成式人工智能集成到DevSecOps管道中，以自动审查代码并识别安全漏洞, 编码错误和不遵守行业标准.⁹
8. 一个对抗攻击者的公平竞争环境-生成式人工智能和其他尖端技术提供了与坏人公平竞争的机会. 一段时间以来，不法分子一直在使用人工智能工具破坏澳门赌场官方下载数据并要求勒索软件. These attacks are becoming more sophisticated as the technology has advoaced; therefore, 如果澳门赌场官方下载没有使用类似或更先进的技术, 它们面临着遭受复杂攻击的巨大风险. 例如, Not彼佳是有史以来最具破坏性的恶意软件之一, 耗费组织数十亿美元. 它通过人工智能算法快速有效地传播，使其能够在不被发现的情况下感染计算机.¹⁰

尽管生成式人工智能提供了许多好处, 如果解决方案没有在澳门赌场官方下载政策和道德界限的保护范围内正确实现，还可能导致潜在的风险.

限制

尽管生成式人工智能提供了许多好处, 如果解决方案没有在澳门赌场官方下载政策和道德界限的保护范围内正确实现，还可能导致潜在的风险. 第一个问题是机密信息在公共领域的部署. 第二个, 一个未经训练的人工智能模型造成的伤害与没有造成的伤害一样大，因为人工智能模型的好坏取决于为其提供支持的数据. 第三, 因为建立和训练模型是有成本的, 一个成功的网络安全生成人工智能模型需要高效的基础设施和大型数据集. 没有足够的数据和必要的资源, 人工智能系统可能产生不正确的监测结果和误报, 哪些会对组织产生影响. 较高的误报数量导致网络安全团队通常忽略这些安全警告, 导致警报疲劳，并很有可能错过真正的网络风险. 例如, Target安全团队忽略了安全警告, 导致了历史上最大的数据泄露事件之一.¹¹ 最后但同样重要的。, 持续的人工智能培训和网络安全专业人员的启用对于使这些模型对组织有益是必要的. 网络风险管理预算不足, 将生成式人工智能技术应用于网络安全所需的文化转变, 领导的承诺和团队成员的持续激励使得实现变得困难.

结论

生成式人工智能是自动化响应、预测和应对威胁的强大工具. 然而，如果没有正确实施，它也很有可能风险大于收益.

尾注

¹ GlobalData。”GlobalData预测，2022-27年全球生成人工智能收入将以80%的复合年增长率增长2023年8月9日
² IBM。”作为一种护理行为保护患者数据”
³ Cloudfare。”Cloudflare为组织提供零信任安全，他们需要安全地使用生成人工智能2023年5月15日
⁴ IBM。”更安全、更简单、基于服务的安全变得更好2022年10月
⁵ Lardinois F.; “GitLab的新安全功能使用AI向开发人员解释漏洞TechCrunch, 2023年4月24日
⁶ Kagubare,我.; “解决网络安全领域的劳动力短缺问题，《澳门赌场官方下载》，2023年7月26日
⁷ 加拉格尔,年代.; “SophosAI在DEF CON:使用文本、音频和图像生成AI编排大规模骗局，《澳门赌场官方软件》，2023年8月7日
⁸ Sibille B.; “与BigPanda新生成AI一起释放AIOps的真正力量《澳门赌场官方软件》，2023年7月11日
⁹ Ghosh, B,; “DevSecOps中的生成AI，《澳门赌场官方下载》，2023年8月6日
¹⁰ Bezverkhyi,.; “彼佳.A/Not彼佳是人工智能驱动的网络武器，TTPs导致沙虫APT组《澳门赌场官方软件》，2017年7月2日
¹¹ Chiacu D.; “目标错过了许多导致违规的警告信号，路透社，2014年3月25日

阿伦Mamgai

拥有超过18年的云原生安全经验, 开源安全供应链, AI /机器学习, 云现代化, 数字转换, 数据管理, 和数字营销，同时与各行各业的财富1000强客户合作. 他发表了许多文章，强调如何使用技术安全地构建现代云解决方案. 他曾受邀在一流学校演讲，主题包括“数字化转型”和“车联网协议中的应用层攻击”。. 他还指导了多家初创澳门赌场官方下载，并积极参与一家非营利机构，该机构旨在帮助中学女生成为未来的科技领袖.