跟上人工智能这一快速发展的行业是一项艰巨的任务。在AI能够为你做到这一点之前，这里有一份关于机器学习领域最新故事、以及值得注意的研究和实验的便捷汇总。
TechCrunch 计划很快推出一期人工智能通讯。与此同时，我们将把此前每月两期的非定期人工智能专栏频率提高到每周一次，请留意更多更新。
本周人工智能动态：OpenAI探索“负责任”生成AI色情内容
OpenAI 透露其正在探索如何“负责任地”生成人工智能色情内容。这一消息在一份旨在收集对其人工智能指令反馈的文件中宣布。OpenAI 表示，其新的 NSFW（不适宜工作场所观看）政策旨在开启一场关于该公司可能在其人工智能产品中允许出现露骨图像和文本的方式及地点的讨论。
OpenAI 产品团队成员 Joanne Jang 在接受 NPR 采访时表示：“我们希望确保人们拥有最大程度的控制权，前提是不违反法律或侵犯他人的权利。”她指出，“存在涉及性或裸体的内容对我们用户而言很重要的创造性案例。”
这并非 OpenAI 首次暗示愿意涉足争议领域。今年早些时候，该公司首席技术官 Mira Murati 在接受《华尔街日报》采访时称，她“不确定”OpenAI 最终是否会允许其视频生成工具 Sora 被用于创建成人内容。
如何看待此事？
存在这样一个未来：OpenAI 为 AI 生成的色情内容敞开大门，而结果尚可接受。Jang 的说法并非没有道理，确实存在合法的成人艺术表达形式可以借助 AI 工具创作。但我不确定我们能否信任 OpenAI——或者更广泛地说，任何生成式 AI 供应商——能够妥善处理此事。
首先考虑创作者权益问题。OpenAI 的模型使用了大量公开网络内容进行训练，其中无疑包含许多色情内容，但并未获得所有这些内容的授权。即便后来允许创作者选择退出，也仅限于某些形式的训练。在成人内容领域谋生本就艰难，如果 OpenAI 将 AI 生成的色情内容推向主流，创作者将面临建立在利用他人作品基础之上的激烈竞争。
另一个问题是当前安全措施的不可靠性。尽管 OpenAI 及其竞争对手多年来一直在完善过滤和审核工具，但用户不断发现绕过方法以滥用这些公司的 AI 模型和应用。仅在今年一月，微软就不得不修改其 Designer 图像创建工具，因为用户找到了生成泰勒·斯威夫特裸体图像的方法。在文本生成方面，基于所谓“安全”模型构建的聊天机器人也能轻易生成色情文学。
AI 已经催生了一种新的性虐待形式。中小学生正在使用 AI 驱动的应用程序，在未经同学同意的情况下对图片进行“脱衣”处理。一项2021年在英国、新西兰和澳大利亚进行的调查显示，16至64岁的受访者中有14%曾遭受深度伪造图像的侵害。尽管美国和世界各地的新法律旨在打击这种现象，但司法体系能否监管像人工智能这样发展迅速的产业，目前仍悬而未决。
坦白说，很难想象 OpenAI 在应对 AI 生成的色情内容时会采取哪种不充满风险的方法。也许 OpenAI 会再次重新考虑其立场，或者找到更好的方法。无论最终结果如何，我们似乎很快就会得知。
其他值得关注的 AI 新闻
- 苹果的AI计划：苹果首席执行官蒂姆·库克在上周与投资者的财报电话会议上透露了推进人工智能计划的细节。
- 企业生成式AI：Dropbox CEO德鲁·休斯顿和Figma CEO迪伦·菲尔德投资了Lamini，这是一家构建生成式AI技术及面向企业托管平台的初创公司。
- 用于客户服务的AI：Airbnb推出新功能，允许房东选择由AI驱动的回复建议来回答客人问题，例如发送物业退房指南。
- 微软限制AI使用：微软重申禁止美国警察部门使用生成式AI进行人脸识别，同时禁止全球执法机构在执法记录仪和车载摄像头上应用该技术。
- 云服务的资金：随着生成式AI热潮推动对低成本硬件的需求，CoreWeave等替代云服务提供商正在筹集数亿美元资金。
- RAG有其局限性：幻觉是企业整合生成式AI面临的一大难题。尽管有供应商声称RAG技术可消除幻觉，但实际上这些说法被大大夸大了。
- 沃格尔斯的会议摘要工具：亚马逊首席技术官维尔纳·沃格尔斯开源了一款名为Distill的会议摘要应用程序，该工具高度依赖亚马逊的产品和服务。