近期,一场涉及用户隐私的风波正席卷OpenAI。
数千条本应“私密”的ChatGPT聊天记录竟意外出现在Google搜索结果中,引发轩然大波。许多用户震惊地发现,自己与AI之间的对话内容——无论是情感困扰、家庭纷争,还是心理健康话题——竟然能被任何人通过搜索引擎轻松看到。
更多英国资讯&折扣福利一手消息:下载👉英国省钱快报(英区) | 英伦省钱指南(国区)
事件最早由《Fast Company》披露,他们在调查中发现,已有成千上万条ChatGPT聊天记录被Google收录,内容虽未显示用户名等个人信息,但包含大量高度敏感的细节,熟人一眼就可能识破身份。
OpenAI回应称,这些记录都来自用户“主动分享”的内容。
然而,问题正出在这个“主动”上——很多用户根本没意识到,自己所点的“分享”选项意味着全球公开。
原来,OpenAI此前上线了一项实验性功能,允许用户将对话生成分享链接,页面上有一个小小的勾选框标注“让此聊天可被发现(Make this chat discoverable)”,并在下方以浅色字体提示:聊天可能会被搜索引擎索引。
《Fast Company》批评这种设计极具误导性,许多用户以为只是发给朋友看,没料到是直接送上了“搜索引擎首页”。
OpenAI承认失误,火速叫停功能
面对外界批评,OpenAI一开始坚称界面说明“已经很清楚”。
但在舆论压力持续升温后,OpenAI首席信息安全官 Dane Stuckey 出面认错,表示该功能“的确给用户带来了过高的隐私泄露风险”,并称目前已彻底关闭该实验功能,正协助搜索引擎下架已收录的聊天内容。
Stuckey补充道,一些被公开的聊天内容涉及“极为敏感的信息”,包括性经历、服药情况甚至童年创伤等,“不该以这种方式出现在网络上”。
牛津大学AI伦理学者 Carissa Véliz 也发声批评,称OpenAI此举极不负责任。“科技公司常以‘先上线再看反馈’的逻辑行事,把大众当成测试对象。这种态度在处理用户隐私问题时非常危险。”
她指出,即使这项功能只短暂存在,也可能对用户造成长期伤害。“有些信息一旦被抓取,就可能被永久保留在某些角落,甚至被用于恶意用途。”
Google是否应担责?
Google方面目前尚未就此事发表公开回应。
尚不清楚是否已全面清除相关搜索内容。对于担心自己对话被泄的用户,可以将曾分享的聊天链接复制到Google搜索栏,确认是否仍被收录。
值得注意的是,此次事件发生的时间点颇为敏感——OpenAI正面临一项与用户数据保留相关的法律诉讼。
原告要求公司不得删除用户主动删除的聊天记录,用于审查其数据使用合规性。
尽管OpenAI CEO Sam Altman曾公开表示,“将用户最隐私的聊天变成搜索结果,简直不可思议”,但这次自家平台出现的漏洞,却让外界对其隐私保护能力产生更深质疑。
来源:arstechnica
「该长文章来自@这是什么瓜让我看看-北美省钱快报,版权归原作者所有」