大数跨境

Apple Intelligence 的写作工具在应对脏话和争议性话题时出现失误

Apple Intelligence 的写作工具在应对脏话和争议性话题时出现失误 海外洞察
2024-08-06
1
导读:Apple的“写作工具”功能在涉及某些主题时,会显示一条通知消息,提示用户AI生成的建议可能并非质量最高。

苹果首次开放 Apple Intelligence 体验,写作工具设内容安全警告

随着上月 iOS 18.1 开发者测试版的发布,用户首次真正体验到 Apple Intelligence 功能。其中,“Writing Tools”(写作工具)允许利用苹果 AI 模型重新格式化或改写文本,是此次更新中始终可用的核心服务之一。但在处理特定敏感主题时,该工具会提示 AI 生成建议的质量可能受限。

尽管几乎可在系统任意位置调用 Apple Intelligence 调整文本,但当尝试重写包含脏话(如“s—”、“bastard”)的段落或句子时,系统会弹出警告:“Writing Tools 未设计用于处理此类内容”,并提示改写质量可能会有所不同。

除脏话外,提及毒品、杀戮或谋杀等敏感词汇同样会触发此警告。

图片来源:苹果/TechCrunch截图

即便显示警告,当遇到 AI 未充分训练的词汇或短语时,工具仍会提供建议。测试显示,将“sh—y”替换为“crappy”以消除警告后,AI 返回的建议与之前完全一致。

目前我们已向苹果询问写作工具在哪些具体主题上无法提供建议,若收到官方回复将及时更新报道。

苹果此举很可能是通过限制 AI 在处理特定词汇、主题和语气时的能力来规避争议。需注意的是,Apple Intelligence 驱动的写作工具并非旨在从头生成新内容,而是对现有内容进行优化;当 AI 识别到敏感术语时,苹果希望以此提醒用户注意。

苹果花费多年才解除键盘自动更正中对脏话的限制,直至去年 iOS 17 推出后才上线学习用户脏话习惯的功能。如今在 Apple Intelligence 中设置此类谨慎机制,或许是为了防止监管机构指责其生成不当内容。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k