为什么那么多依赖将用户数据货币化的公司对人工智能如此热衷？
如果你问信号（Signal）总裁梅雷迪思·惠特克（Meredith Whittaker），她的回答很简单：“人工智能是一种监控技术。”
在 TechCrunch Disrupt 2023 的舞台上，惠特克阐述了她对人工智能的看法：AI 在很大程度上与谷歌（Google）和 Meta 等公司推动的大数据和定向广告行业密不可分，同时也与那些虽不面向消费者、但在企业和国防领域突出的公司密切相关。
“它依赖于监控商业模式；这是自90年代末以来监控广告发展的加剧。我认为，人工智能是巩固和扩展这种监控商业模式的一种方式，”她说，“维恩图就是一个圆。”
她进一步指出，人工智能的使用本身也具有监控性质。例如，当你走过配备伪科学情绪识别功能的面部识别摄像头时，它会生成关于你的数据，无论对错，都会判定你“高兴、悲伤、品行不端或是个骗子”。这些数据最终被营销给通常对我们拥有权力的系统——如雇主、政府、边境管控等，用于做出决定和预测，从而塑造我们获取资源和机会的途径。
讽刺的是，支撑这些系统的数据经常是由这些系统可能针对的工人自己进行组织和标注的，这是 AI 数据集组装过程中必要的一步。
“没有人类劳动就不可能构建这些系统，因为需要为数据提供‘地面真相’——即带有人类反馈的强化学习，这本质上只是用科技手段美化不稳定的劳工工作。成千上万的工人工资极低，尽管总体成本很高，但除此之外别无他法来创建这些系统，”她解释道，“从某种程度上说，我们看到了一种《绿野仙踪》式的现象，当我们揭开帷幕时，发现其中并没有那么智能的东西。”
不过，并非所有人工智能和机器学习系统都具有同等程度的剥削性。当被问及 Signal 是否在其应用或开发工作中使用任何 AI 工具时，她确认该应用有一个“小型的设备端模型”，作为媒体编辑工具集中面部模糊功能的一部分直接使用。“它的效果其实并不好……但它有助于在群照中检测人脸并进行模糊处理，这样当你在社交媒体上分享照片时，就不会向 Clearview 等机构泄露他人的敏感生物特征数据。”
“但这确实是人工智能的一个绝佳应用，难道这不正好打消了我之前在舞台上散布的那些负面情绪吗？”她补充道，“当然，如果面部识别技术只有这一种市场用途的话……但我们必须明确一点：推动开发和部署面部识别技术这一昂贵流程的经济激励，绝不会允许它仅有一种用途。”