去年，生成式人工智能(AI)的快速发展引发了许多隐私和伦理问题, 包括讨论从受版权保护的作品中生成人工智能学习的伦理和合法性. 例如, 一些作者对OpenAI提起了诉讼, 谁拥有ChatGPT, 违反版权.1 还有人担心生成式人工智能可能会以何种方式使用个人信息. 例如, 意大利数据保护部门出于隐私方面的考虑暂时禁止了ChatGPT.2
生成式人工智能可以创建文本并与用户聊天，这是一个独特的挑战，因为它可以让人们感觉自己好像在与人类互动. 拟人化指的是将人类的属性或个性赋予非人类.3 人们经常将人工智能拟人化，尤其是生成型人工智能，因为它可以创造出类似人类的输出.
这种虚假的关系是有问题的. ELIZA效应描述的是“当一个人将人类水平的智能赋予人工智能系统，并错误地赋予其意义”的现象, 包括情感和自我意识, 对人工智能.”4 有一次, 一名男子与聊天机器人分享了他对气候变化的担忧, 这为他提供了结束自己生命的方法. 可悲的是, 他自杀而死, 他的妻子声称，如果不是因为他与聊天机器人的关系，他不会这么做.5
这些产生类似人类输出的算法玩起来很有趣, 但它们带来了严重的隐私问题. 人格化人工智能在隐私方面有利有弊, 对于利用面向消费者的生成式人工智能的澳门赌场官方下载来说，需要考虑一些因素.
隐私的优点
人格化人工智能的一个与隐私相关的好处是，它可以帮助用户将过度的数据收集置于环境中. 当信息被澳门赌场官方下载或应用程序收集时, 它可能看起来像一大堆没有任何意义的1和0. 但如果看起来像是一个陌生人在告诉用户自己的私人信息, 这似乎令人不快, 共享数据的结果变得具体和有形.
应用程序可能会被要求包含它们在应用程序商店中收集的信息的描述, 但用户通常不会阅读它，因为它太复杂，或者他们不明白数据收集到底需要什么. 相比之下，让人工智能聊天将这些信息投入使用可能会更有影响力. 想想Snapchat的人工智能聊天机器人My AI. 尽管苹果应用商店告知用户Snapchat可以访问位置数据， 图1 更实际地说明了访问位置数据意味着什么. 例如，我让我的AI向我推荐附近一家不错的咖啡店.
应用程序用户可能会理解应用程序可以访问位置数据, 但是，与一个看似人类的聊天机器人交谈，它会说出特定的澳门赌场官方下载澳门赌场官方下载，这更好地说明了与应用程序共享位置数据的意义. 这可能有助于人们更多地了解隐私问题, 哪些因素可以促使消费者更加谨慎地对待他们分享的信息，并采取措施保护自己的隐私.
隐私的缺点
当与人工智能聊天机器人交谈时, 如果聊天机器人听起来像人类，使用第一人称或第二人称语言，用户可能会比平时更愿意分享更多的信息. 它可能会感觉提供给聊天机器人的信息是与一个友好的人共享的，而不是一个可能将这些数据用于各种目的的澳门赌场官方下载. 例如，人们可能会与聊天机器人交谈一段时间，并最终透露敏感信息(例如.g.他们正在努力解决的健康问题). 大多数聊天机器人在用户提供敏感信息时不会发出警告.
个人的输入或人工智能平台的输出有可能被用来训练未来的反应. 这可能意味着与聊天机器人共享的敏感数据或秘密信息可能与他人共享，或影响其他人接收到的输出. 例如, 尽管它已经改变了政策, OpenAI最初根据提供给ChatGPT的数据训练模型.6 人工智能在接受数据训练后，很难对其进行训练.7
隐私声明通常很难理解, 而且，消费者可能会有一种绕过它们的诱惑，转而选择对话, 一个人工智能聊天机器人关于隐私的简单易懂的回答. 用户可能认为聊天机器人提供的信息是全面的. 但是，没有深入研究提供商隐私声明的人可能对提供商收集的信息有不准确的了解.
例如, 我问Snapchat的聊天机器人该应用收集哪些信息, 它给了我不完整的信息. 图2 显示My AI显示它收集的数据，但这不是一个完整的列表. 图1 确定该应用程序还收集位置数据.
从业人员的要点
在使用人工智能聊天机器人的澳门赌场官方下载工作的隐私专家应该考虑聊天机器人提供隐私实践信息的一些方式. 对所收集数据问题的回答, 如何使用数据和消费者权利必须准确和彻底，以避免误导数据主体.
使用人工智能聊天机器人的澳门赌场官方下载还必须考虑用户的年龄，并确保未成年人受到保护. 例如，59%的青少年说他们使用Snapchat，8 只有付费订阅Snapchat+的用户才能删除其“我的人工智能”功能.9 这意味着使用免费版Snapchat的未成年人和未成年人的父母不能删除My AI功能. 青少年, 谁可能不明白它的缺陷，也不知道他们的信息会如何被利用, 正在使用我的人工智能来帮助心理健康吗, 这可能很危险.10 向未成年人提供人工智能服务的澳门赌场官方下载应告知其提供敏感信息的后果，并强调输出可能不准确.
我问我的人工智能如何应对头痛, 虽然该公司最初拒绝提供医疗建议, 最后医生建议我吃药(图3). 虽然建议相对无害, 非处方药物, 未成年人可能不知道这些推荐的药物是否会与任何处方药相互作用.
即使是没有利用生成式人工智能的澳门赌场官方下载也需要探索它如何影响他们的日常运营. 员工可能会觉得让ChatGPT帮忙起草电子邮件就像找同事帮忙一样, 但两者没有可比性:ChatGPT是第三方服务，不遵守工作场所保密规范. 有必要针对生成式人工智能的使用制定一项政策. 这需要各个部门的投入，而不仅仅是隐私团队. 管理人员还应该制定指导方针，说明什么样的工作可以利用人工智能工具.g., 它可能被允许使用ChatGPT来起草社交媒体帖子, 但用它来起草机密电子邮件可能是不可接受的。). 没有针对gpt和其他人工智能工具使用的政策可能会导致员工滥用, 这可能会导致隐私问题.
在隐私意识培训方面, 隐私专家可以利用人工智能的拟人化元素来展示信息泄露不当所产生的影响. 非隐私工作人员可能不理解为什么某些数据被认为是敏感的，或者如果信息被泄露为什么重要, 但像Snapchat的人工智能这样的例子可以有效地说明，如果位置数据等信息被不当共享，可能会发生什么后果.
结论
许多澳门赌场官方下载利用类似人类的人工智能工具, 许多员工也可能依赖于他们的工作. 从隐私的角度来看，人工智能被人格化的方式同时使它看起来更不值得信赖，也更值得信赖. 制定有关人工智能使用的政策，并确保消费者了解与人工智能共享数据的影响，可以促进更有效和值得信赖的人工智能工具.
尾注
1 奶油,E.; “作家起诉OpenAI非法“摄取”他们的书，《澳门赌场官方下载》，2023年7月5日
2 穆克吉,年代.; G. Vagnoni; “OpenAI回应监管机构后，意大利恢复ChatGPT路透社，2023年4月28日
3 韦氏词典人格化”
4 香,C.; ““他还会在这里”:寡妇说，男子在与人工智能聊天机器人交谈后自杀身亡，副，2023年3月30日
5 同前.
6 OpenAI。”OpenAI的澳门赌场官方下载隐私”
7 Claburn T.; “有趣的是，人工智能模型必须遵守隐私法，包括被遗忘的权利，《澳门赌场官方软件》，2023年7月13日
8 Vogels E.; R. Gelles-Watnick; N. Massarat; “青少年，社交媒体和技术2022，皮尤研究中心，2022年8月10日
9 Snapchat。”我如何从我的聊天Feed中解除或删除我的AI?”
10 鲁迪,M.; “青少年正在转向Snapchat的“我的人工智能”寻求心理健康支持——医生们对此提出了警告福克斯新闻，2023年5月5日
萨菲亚Kazi, CSX-F, CIPT
ISACA的隐私专业实践负责人是谁®. 在这个角色中, 她专注于ISACA隐私相关资源的开发, 包括书籍, 白皮书和审查手册. Kazi在ISACA工作了9年，之前在 ISACA® 杂志 并开发屡获殊荣的ISACA播客. 2021年，她获得了AM奖&P网络的新兴领袖奖, 哪个奖项认可35岁以下的创新协会出版专业人士.