大数跨境

Slack因暗中进行的AI训练政策遭到抨击

Slack因暗中进行的AI训练政策遭到抨击 海外洞察
2024-05-17
2
导读:如果客户希望Slack停止将其数据用于模型训练,该公司正让客户难以实现这一诉求。

关于大型科技公司在训练AI服务时挪用个人及企业数据的争议持续发酵,一场风暴正席卷Slack用户群体。用户对Salesforce旗下聊天平台不顾一切推进AI愿景深感不满。与许多同行类似,Slack利用自有用户数据训练部分新AI服务;但若不希望被使用,用户必须主动发邮件申请退出。

这些条款被隐藏在一份看似过时、令人困惑且鲜有人关注的隐私政策中。直到一位不满的用户在开发者社区Hacker News上发布相关内容并迅速走红,这一情况才被广泛曝光。

Hacker News引发热议

事件始于昨晚Hacker News上的一则帖子,该帖直接链接至Slack隐私原则,质疑其AI训练方式。这引发了激烈讨论:对现有用户而言,Slack默认将用户纳入AI训练且需邮件退出的做法似乎是“新闻”。随后,多个平台出现相关对话与疑问:

  • 较新的“Slack AI”产品支持搜索答案及总结对话线程,但隐私原则页面未提及该产品名称,也未明确说明政策是否适用;
  • 为何Slack同时引用“全局模型”和“AI模型”两个概念?

一方面,用户对Slack AI隐私原则的适用范围感到困惑;另一方面,对其“邮件选择退出(opt-out)”机制表示惊讶与不满。作为一家标榜“你掌控你的数据”的公司,此举显得并不妥当。

条款由来已久,官方回应受限

尽管震惊是新出现的,但条款并非如此。互联网档案馆显示,相关条款至少自2023年9月起已生效(我们已要求公司确认)。

根据隐私政策,Slack使用客户数据训练“全局模型”,用于提供频道/表情符号推荐及搜索结果。公司发言人向TechCrunch表示:“我们以不会让模型学习、记忆或复现客户数据的方式构建和训练这些平台级机器学习模型。”然而,该政策似乎并未涵盖整体范围及更广泛的AI训练计划。

条款指出,即使客户选择不参与数据训练,仍可从“全球训练的AI/ML模型”中受益。但在不使用客户数据驱动表情符号推荐等功能的前提下,最初为何要使用这些数据尚不明确。此外,公司明确表示不使用客户数据训练Slack AI。

发言人强调:“Slack AI是单独购买的附加组件,使用托管在Slack AWS基础设施内的大型语言模型(LLMs),不与任何LLM提供商共享客户数据,确保数据保留在组织控制之下。”

承认更新滞后,隐私保护不应缺位

困惑或将很快解决。Slack工程师Aaron Maurer在回复Threads上的批评文章时承认,公司需要更新页面以反映“隐私原则如何与Slack AI相互作用”。他补充称,这些条款制定于Slack AI推出之前,主要反映搜索和推荐方面的工作。鉴于当前存在诸多困惑,后续更新值得关注。

Slack面临的问题是一个鲜明提醒:在快速发展的AI领域,用户隐私不应被忽视。公司的服务条款应明确说明数据的使用方式与时机,或明确声明不使用数据。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k