驾驭新兴技术的炒作和风险

陈孟辉
作者: 陈孟辉,CISA, CDPSE, CISSP, GRID
发表日期: 2023年5月25日

随着澳门赌场官方下载不断加快数字化进程, 那些拥有早期采用者心态的人可能会出于好奇或炒作而急于进入下一个大事件. 近年来, 人工智能(AI)等新兴技术, 云服务, 区块链和物联网(IoT)已经激增并吸引了大量采用. 其中一个促成因素可能是由于全球人口中数字原住民的数量增加,他们更适应数字技术和新技术的采用.

从组织的角度来看, 管理与新兴技术相关的安全性和风险可能具有挑战性. 保持领先, 在没有进行详细和平衡的风险和收益评估的情况下,组织可能会感到采用这些新兴技术的压力. 但, 为了避免被潜在的威胁吓到, 必须了解和考虑使用这些技术所涉及的风险.

生成式人工智能服务的炒作

最新流行的新兴技术之一是生成式人工智能. 麦肯锡将生成式人工智能描述为“可用于创建新内容的算法(如ChatGPT)”, 包括音频, code, 图片, 文本, 模拟, 和视频. 该领域最近的突破有可能彻底改变我们创作内容的方式.”1 生成式人工智能的全球轰动可能要归功于ChatGPT, 在2022年11月投入使用. 上线两个月后,它的月活跃用户达到了1亿. 随着它的推出,ChatGPT创造了平台增长最快的记录.2 这么快的采用率, 组织必须假设他们的员工将以这样或那样的方式使用ChatGPT或其他生成AI服务.

这么快的采用率, 组织必须假设他们的员工将以这样或那样的方式使用ChatGPT或其他生成AI服务.

新兴技术为其用户提供了独特的好处. 例如, 生成式人工智能服务使用户能够在不需要人类专家或专业知识参与的情况下,根据提示生成内容,从而提高生产力.3 用户可以根据不同的目的使用各种生成式人工智能服务,例如创作艺术品, 编写计算机代码, 解释复杂的主题或获得对新领域的理解.

然而,抛开炒作,使用新兴技术并非没有风险. 管理层应该警惕潜在的负面影响和对组织的风险. 以OpenAI的ChatGPT为例, 它遇到了数据泄漏, 在用户注意到他们可以看到其他用户聊天记录的标题后,该服务被关闭了10个小时. 另外,个人资料来自1.2%的ChatGPT Plus用户也可能被泄露.4

从监管和治理的角度来看, 意大利因隐私问题成为第一个禁止ChatGPT的国家,5 和中国6 和美国7 正在研究人工智能的监管吗. 除了, 技术领导者呼吁暂停生成式人工智能的开发和实施, 他指出,人工智能的发展速度很快,而且缺乏强有力的人工智能治理,这是他的重大担忧.8

尽管许多组织都信奉“从小处做起”的信条, 认为大, 迅速行动,“重要的是要平衡这一点,仔细考虑所涉及的风险. 组织想要保持竞争力并跟上最新趋势是可以理解的, 但谨慎对待新兴技术也很重要. 没有适当的控制, 在使用这些技术时,组织可能会无意中超出他们的风险偏好.

最小化新兴技术带来的风险

关键是要在利用技术优势和管理风险之间找到平衡. 要实现这种平衡,需要仔细评估每种技术的风险和收益,并实施适当的控制措施以减轻风险. 随着新兴技术的发展,组织还应该执行持续监控并调整其风险管理方法.

为了在澳门赌场官方下载新兴技术的同时将风险降到最低,组织可以考虑4个关键因素:

  • ——指出, 大多数组织可能无法阻止其员工使用公开可用的新兴技术服务. 工作人员可能设法绕过技术控制,使用个人设备访问这些服务, 导致潜在的负面后果,例如数据泄漏. 因此, 组织应该教育工作人员了解这些技术,以提高认识, 建立安全文化,沟通期望. 当员工使用这些技术时,组织也可以为他们提供明确的指导.
  • Data当涉及到新兴技术服务时,组织应该审查和理解他们的数据政策,以识别任何差距或危害. 这将使他们能够评估适合上传到这些服务或与这些服务一起使用的数据类型. 除了, 组织应该实施技术控制, 例如监控通过互联网浏览器和互联网流量泄露的数据, 及时发现和防止潜在的数据泄露或违规行为.
  • 监管-在技术领域, 特别是在新兴技术领域, 监管并不总是积极主动的, 哪些会导致覆盖面不足. 然而,当技术成熟、风险变得清晰时,监管往往会迎头赶上. 因此, 组织应经常审查监管环境,以避免违反任何监管要求,因为这可能导致严重的声誉或金钱损失.
  • 对手-虽然技术本身可以被视为中立,但它们可能被敌对行为者滥用. 因此, 作为威胁评估的一部分,组织需要警惕对新兴技术的敌对使用,并了解如果采取此类行动,他们的安全状态会受到怎样的影响. 除了, 组织应定期审查其针对这些潜在对抗性活动的当前安全控制,以确保其保持有效性. 在生成式人工智能的例子中, 这些安全控制可以包括反网络钓鱼保护和内部威胁缓解.

结论

下一个新兴技术总是指日可待. 组织必须能够坦然接受这些技术,并管理采用这些技术所带来的不确定性,以避免落入炒作陷阱. 这对于像首席信息安全官(ciso)这样的安全和风险专业人员来说尤其重要,因为他们的任务通常是评估可能影响组织的风险. 通过采取风险知情的方法, 安全和风险专业人员可以以一种平衡新兴技术的潜在好处和可能带来的风险的方式导航前进的道路.

尾注

1 麦肯锡公司,”什么是生成式AI?2023年1月19日
2 胡,K.; “ChatGPT创下增长最快的用户群记录路透社,2023年2月2日
3 崔,M.; R. Roberts; L. Yee; “生成式人工智能在这里:像ChatGPT这样的工具如何改变你的业务,麦肯锡《澳门赌场官方下载》,2022年12月20日
4 Tarantola,.; “OpenAI称漏洞泄露了敏感的ChatGPT用户数据,《澳门赌场官方下载》,2023年3月24日
5 McCallum,年代.; “ChatGPT在意大利因隐私问题被禁BBC新闻,2023年4月1日
6 你们,我.; “中国提出管理生成式人工智能服务的措施路透社,2023年4月11日
7 Shepardson D.; D. Bartz; “美国开始研究监管像ChatGPT这样的人工智能的可能规则路透社,2023年4月12日
8 凯利,年代. M.; “伊隆·马斯克和其他科技领袖呼吁停止“失控”的人工智能竞赛CNN, 2023年3月29日

陈孟辉,CISA, CDPSE, CISSP, GRID

在技术风险和网络安全领域拥有超过15年经验的资深技术专家. 在他的职业生涯中, 他曾在私营和公共部门组织广泛工作, 为他承担的每个角色带来丰富的知识和专业知识. 他对紧跟该领域最新趋势和最佳实践的热情使他能够为利益相关者提供卓越的成果. 作为一个值得信赖的顾问, 他致力于在当今快速发展的技术环境中改善安全态势并最大限度地降低风险.