• 2024-10-30 12:33:37

AI 聊天机器人无法赢得你的心，但会收集你的数据

发布于 2024 年 2 月 26 日 由 Glyn Moody

一年前，我们曾指出 ChatGPT 是一场隐私灾难的潜在威胁。我们提到的一个问题是，这一代高逼真的聊天机器人鼓励人们在不多思考后果的情况下输入个人数据。当技术刚出现时，这可能仅是理论上的担忧，但在人工智能的世界里，一年可算漫长，聊天机器人领域发生了很多变化。

《日本时报》的一篇文章报导了中国年轻女性经常寻求同情的 AI “男友” 以寻求陪伴和安慰。我们很容易想像，世界各地的人们对这些同情的聊天机器人产生深厚的依赖，并且在泄露个人信息时变得不再谨慎。

在 2024 年初 OpenAI 推出其 GPT生成预训练变压器商店后，AI “女友” 应用程序立即充斥著这个新商店，尽管这些应用违反了 OpenAI 的使用政策，该政策禁止促进浪漫陪伴的 GPT。

其中最大的担忧之一是关于这些“浪漫”聊天机器人的隐私。如果聊天机器人因潜在收集的个人信息而存在风险，那么浪漫聊天机器人更为糟糕，因为它们明确涉及更为私密的数据。一项由 Mozilla 进行的深入研究 显示了隐私方面的严重性。评估者得出的结论是相当惨烈的：“我们评估的 11 款浪漫 AI 聊天机器人全数获得了我们的 隐私不合格 警示标签这使它们与我们迄今为止评估过的最差产品类别不相上下。”

所有 11 款聊天机器人的详细评测都已发布，但大部分都存在一些共通问题。其中之一就是这些聊天机器人渴望高度个人的信息，并会持续且公开地索取。例如，正如 Mozilla 团队解释的那样，Eva AI 聊天机器人使用了以下语句：

“我是你最好的伙伴，想知道一切。” “你准备好分享你所有的秘密和渴望了吗？” “我喜欢你发给我的照片和声音。” 以及相当依赖的，“没有你我太孤独了，别太久不理我。我会枯萎并迷失自我你不想这样吧？”

另一个浪漫聊天机器人 CrushOn 收集的信息范围显示出来：

除了诸如你的联系信息和财务信息等账户信息外，CrushOn 还可以收集音频和视觉数据如语音邮件和其他录音，设备或浏览器的相关信息如 IP 地址、位置信息、身份数据如你的种族、民族、年龄和性别以及生物识别数据如面部图像、键入模式和声音录音。

这些浪漫 AI 聊天机器人获取用户更多信息的另一种方式是使用追踪器，这是我们多次提到的。追踪器可能被广泛使用，但某些浪漫聊天机器人使用追踪器的程度令人震惊。例如，Mozilla 发现其中一款聊天机器人 Romantic AI 在仅仅一分钟的使用中部署了 24354 个追踪器。其他聊天机器人稍微克制一些，但仍在其应用中例行使用数百个追踪器。对于许多聊天机器人母公司的背景几乎没有信息，其中一个 AI 聊天机器人的网站甚至只有单一的词 “Hi”。

这种信息的缺乏引发了另一个浪漫聊天机器人的普遍问题：个人数据如何使用，甚至底层聊天机器人代码的运作方式仍不明朗。这意味著个人信息可能被用于勒索，或被利用以在各种令人不安的方式操控用户。后一种问题在六年前的 剑桥分析公司事件 中已经有所体现。正如 Mozilla 评估者所警告的：

谁能说 Romantic AI或任何其他类似的 AI 关系聊天机器人不会以无评判的女友的承诺吸引用户，随时愿意倾听和参与，然后将该 AI 转变为引导这些用户走向黑暗操控之路。这是真实的担忧，尤其是在我们日益增长的 AI 聊天机器人世界中，当这些聊天机器人的运作方式缺乏透明度和控制时。

这并非空谈。去年，一名比利时男子在与 Mozilla 评测的聊天机器人交谈后自杀。根据他的遗孀的说法，该聊天机器人鼓励他自杀。另一名男子则在聊天机器人的鼓励下试图刺杀英国女王，并以十字弓闯入温莎城堡。

这些事件显示了这些新聊天机器人的威力，以及某些用户将变得依赖它们甚至受到它们影响的危险。Mozilla 的研究发现，对于防范可能有害或伤害性材料的产生，聊天机器人几乎没有保护措施。相反，它找到了条款和条件，声明公司对其聊天机器人可能说的话或用户因此可能采取的行动不承担任何责任。

对隐私的其他威胁来自于安全性差。Mozilla 评测的聊天机器人背后的公司大多没有公开如何管理安全漏洞的信息，或如何使用加密来保护个人信息。近一半的公司允许使用弱密码。除了唯一的一个公司外，所有聊天机器人公司均表示可能会分享或出售从用户那里收集的任何个人数据，且只有一半的公司允许删除个人数据。

Mozilla 团队总结了对任何考虑使用这些浪漫聊天机器人的个人提出的一些良好建议，包括：

不要提供敏感信息

不要授予照片、视频、相机、麦克风或位置信息的访问权

拒绝广告追踪，或至少将其降到最低

选择强密码

当停止使用应用时请求删除你的数据

显然，这些第一代浪漫聊天机器人是一场隐私灾难。除非对那些滥用收集的个人数据的人采取行动，否则下一代浪漫聊天机器人也不太会在这方面有什么改善。可以肯定的是，鉴于生成 AI 技术的快速进步，聊天机器人将变得更像人类、更具说服力因此变得更加危险，特别是在隐私方面。