机器学习与人工智能已成为各行业关键技术，研究成果浩如烟海。本专栏“感知器”（原名深度科学）旨在精选并解读AI及相关领域最新、最具相关性的论文与发现，阐明其核心价值。
一、指令偏见：AI系统偏见的隐形源头
本周研究揭示，AI系统中常见的偏见问题可能源于数据标注指令本身。共同作者发现，标注人员会捕捉指令中的模式并倾向于特定标注，导致这些数据在训练集中过度代表，进而使AI系统产生偏向。
当前AI系统多通过人工标记的示例来学习理解图像、文本及音频等数据。标签帮助系统推断示例间关系（如“厨房水槽”标题与照片的关联），并将此关系泛化至未见过的数据中。
尽管该方法成效显著，但标注并非完美。例如，研究表明普通标注者更倾向将非裔美国人白话英语（AAVE）标记为有毒内容，导致基于此训练的AI毒性检测器对AAVE存在不成比例的误判。
亚利桑那州立大学与艾伦人工智能研究所的预印本研究指出，数据集创建者为指导标注者编写的说明可能是偏见的新来源。此类说明通常包含任务描述及示例。
研究人员考察了14个用于衡量自然语言处理系统性能的基准数据集，发现指令确实影响了标注模式并传播至数据集中。例如，在测试指代消解能力的Quoref数据集中，超半数标注以“What is the name”开头，而该短语仅出现在三分之一的指令中。
这种现象被称为“指令偏见”。它表明基于有偏指令/数据训练的系统性能可能被高估，且往往难以超越指令模式进行有效泛化。
值得欣慰的是，OpenAI GPT-3等大型系统对指令偏见的敏感度较低。但这提醒我们，AI与人类一样易受隐蔽来源影响，未来的挑战在于发现并减轻这些偏见。
二、面部识别不易被逼真AI编辑面孔欺骗
瑞士科学家在一项研究中得出结论：面部识别系统不易被逼真的AI编辑面孔所骗。“变形攻击”指利用AI修改证件照以绕过安全系统。共同作者使用Nvidia StyleGAN 2创建变形图像并在四种先进面部识别系统上测试，结果显示这些看似栩栩如生的图像并未构成重大威胁。
三、Meta开发能记忆房间特征的AR助手
Meta研究人员开发了一种AI“助手”，能记住房间特征（包括物体位置与上下文）以回答问题。该工作详述于预印本论文中，或属于旨在开发环境分析AR眼镜的Project Nazare计划。
该系统适用于任何带摄像头的可穿戴设备，通过分析视频构建“语义丰富且高效的场景记忆”，编码物体的时空信息。它能记住物体出现的时间地点，并将用户问题的答案锚定于记忆中。例如，当被问及“钥匙上次在哪”时，系统可回答“今早客厅边桌上”。
据报道，Meta计划于2024年发布功能齐全的AR眼镜，并于去年10月通过Ego4D项目透露了其“自我中心”AI愿景，目标是教AI理解社交线索、佩戴者行为对环境的影响以及手物交互等任务。
四、MIT利用AI模型精准分析波浪破碎
从语言到AR再到物理现象，MIT利用AI模型分析了波的破碎方式及时间。这对建造水上结构及气候模型中模拟海洋大气相互作用至关重要。
传统波浪模拟依赖方程组，而研究人员在装满传感器的40英尺水槽中，利用数百个波浪实例训练机器学习模型。AI通过观察实证证据做出预测并与理论模型对比，揭示了现有模型的不足。
五、笔迹分析博士论文演变为教育应用
EPFL的一项研究孕育了初创公司School Rebound。Thibault Asselborn的笔迹分析博士论文已转化为一款教育App，仅需孩子在iPad上用触控笔书写30秒，算法即可识别习惯并提供纠正措施。内容以游戏形式呈现，通过强化良好习惯帮助孩子清晰书写。
Asselborn表示：“科学模型与严谨性是我们区别于其他应用的关键。”教师反馈显示学生进步显著，甚至有学生课前主动练习。
六、AI赋能偏远地区儿童听力筛查
小学阶段新发现涉及常规听力筛查。传统声导抗仪需专业听力学家操作，偏远学区若缺乏设备，听障儿童可能无法及时获助。
杜克大学的Samantha Robler和Susan Emmett构建了一种自主运行声导抗仪，将数据发送至智能手机App由AI解读。异常情况会被标记以便进一步筛查。虽不能替代专家，但该方案有助于在资源匮乏地区更早识别听力问题。