在非常短的时间内, 人工智能(AI)的监管环境正在经历一场迅速而变革性的演变. 这种加速变化的速度可归因于各种因素的汇合, 包括人工智能技术本身的快速发展, 越来越多的人认识到与人工智能利用相关的伦理影响，以及主动降低人工智能系统部署中固有的潜在风险的必要性.
例如:
- 中国生成式人工智能管理暂行办法, 已于2023年8月15日生效.1
- 英国发表了一份政策文件，题为 支持创新的人工智能监管方法该机构试图平衡监管和人工智能相关创新.2
- 经济合作与发展组织(OECD)于2019年通过了一项关于人工智能的(非约束性)建议.3
- 欧盟委员会于2021年4月21日提交了《澳门赌场官方软件》(AI Act)，目前欧盟各机构正在进行修订和讨论, 比如欧洲议会和欧盟理事会.4
欧盟委员会提出的人工智能法案被认为是围绕人工智能的基准监管. 通过研究这一行为的细微细节, IT审计人员和其他信息安全专业人员可以更好地了解它如何影响他们未来的工作.
人工智能立法:理解人工智能法案
人工智能法案是一个全面的法律框架，将规范发展, 根据人工智能系统对人类健康的风险水平，在欧盟部署和使用人工智能系统, 安全和基本权利.5
人工智能法案的总体目标是通过为在欧盟开发和使用可信赖的人工智能系统创造条件，确保欧洲单一市场的正常运作. 人工智能法案还旨在促进人工智能领域的创新和竞争力, 同时确保人工智能系统尊重欧盟的价值观和规则.6
人工智能法案的总体目标是通过为在欧盟开发和使用可信赖的人工智能系统创造条件，确保欧洲单一市场的正常运作.
基于风险的方法
人工智能法案提出了一种基于风险的方法和横向监管. 它将人工智能系统分为四类风险:禁止, 高风险, 有限风险和最小风险 (图1).
被禁止的人工智能系统是那些侵犯人类尊严的系统, 比如那些操纵人类行为或利用漏洞的人. 这些系统被禁止开发、投放市场或在欧盟使用.
高风险人工智能系统是指那些对健康构成重大风险的系统, 安全, 或者基本权利, 例如用于生物识别的那些, 招聘, 信用评分, 教育, 或医疗. 高风险的人工智能系统必须遵守严格的数据质量规则, 透明度, 人类的监督, 精度, 鲁棒性和安全性. 在投放市场或投入使用之前，它们还必须经过合格评定.
有限风险的人工智能系统是那些对用户或消费者构成一定风险的人工智能系统, 例如那些生成或操作内容或提供聊天机器人服务的程序. 有限风险的人工智能系统必须向用户提供有关其性质和目的的明确信息，并允许用户选择不使用它们.
风险最小的人工智能系统是指那些没有或可以忽略的风险, 如用于娱乐或个人目的的. 最低风险人工智能系统受自愿行为准则和最佳实践的约束.
治理结构
《澳门赌场官方软件》还旨在为其规则的实施和执行建立一个治理结构. 这包括一个欧洲人工智能委员会(EAIB)，该委员会将就人工智能法案的各个方面提供指导和建议, 比如统一的标准, 行为准则和风险评估方法.
根据法律规定, “理事会应反映人工智能生态系统的各种利益，并由成员国的代表组成.7
EAIB还将促进国家主管当局之间的合作与协调，这些主管当局将负责在各自领土内监测和监督人工智能法案的遵守情况.
对不遵守规定的制裁和补救措施予以说明, 例如，对严重侵权行为处以高达全球年营业额6%或3000万欧元(以较高者为准)的罚款.
人工智能法案是一项具有里程碑意义的立法，将对欧盟及其他地区人工智能系统的开发和使用产生重大影响.
人工智能法案是一项具有里程碑意义的立法，将对欧盟及其他地区人工智能系统的开发和使用产生重大影响. 它反映了欧盟在值得信赖和道德的人工智能领域成为全球领导者的雄心, 同时促进人工智能领域的创新和竞争力.
创新的支持
在欧盟人工智能法案中，欧盟委员会还提议建立一个监管沙盒(即.e., 有利于开发的受控环境, 创新人工智能系统的测试和验证).8
沙箱环境将允许组织和个人在不满足欧盟通用数据保护条例(GDPR)要求的情况下促进人工智能创新. 但是，这只允许在一段有限的时间内进行.
结论
人工智能法案与IT审计和信息安全专业人员相关，因为它为发展建立了规则和标准, 人工智能系统的部署和监督. 《澳门赌场官方软件》还建立了一种基于风险的人工智能治理方法, 根据人工智能系统对人权的潜在影响，有不同程度的要求, 安全和基本价值观.
IT审计人员和信息安全专业人员应该熟悉《澳门赌场官方软件》的主要条款和要求，并评估它们将如何影响涉及人工智能系统的当前和未来项目. 从业人员必须跟踪所有人工智能法规的持续发展和讨论，以确保充分的控制, 符合法规要求, 都就位了.
尾注
1 刘,我.; D. Edmondson; “中国∶监管衍生品的新暂行办法1，”贝克·麦坚时，2023年8月
2 英国政府科学、创新和技术部， 人工智能监管的促进创新方法, 英国，2023年8月3日
3 经济合作及发展组织(经合组织)， 人工智能委员会的建议ce2019年5月，法国
4 欧洲议会, 人工智能法案2023年6月，英国
5 爱德华,我.; 欧盟人工智能法案:其意义和范围概述， Ada Lovelace研究所，英国，2022年4月
6 欧洲议会研究处，”欧盟立法进程
7 Feingold年代.; “欧盟人工智能法案解读《澳门赌场官方下载》，2002年6月
8 Op cit 欧洲议会
洁西索迪亚
他是环球银行的IT、网络和隐私审计主管吗. 他负责领导包括云平台在内的多个领域的全球审计和咨询业务, 网络安全, 数据隐私, 第三方风险, 全球数据中心, 这网络, 澳门赌场官方下载资源规划系统与财务审计一体化. 此前，他曾在一家领先的四大咨询公司担任咨询顾问，并在一家全球跨国医疗保健组织担任IT审计经理. 西索迪亚是一个 ISACA® 杂志 文章审稿并积极投稿 ISACA杂志 和 ISACA Now博客.