大数跨境

Claude 的新规则针对旨在影响 AI 回答的虚假来源

Claude 的新规则针对旨在影响 AI 回答的虚假来源 搜索引擎报
2026-10-09
0
导读:Anthropic 更新了使用政策,点名禁止在搜索和 AI 回答来源中投放误导性内容,并将自动化发布从其高风险列表中移除。

Anthropic宣布更新Claude使用政策,新规将于11月12日正式生效。此次更新明确禁止利用Claude向搜索引擎及AI系统注入歪曲来源、作者身份或独立性的内容,旨在打击伪装成无关来源的网站网络等操纵行为。此外,政策还涵盖选举干预、武器研发、监控及模型滥用等领域。违规者将面临访问权限暂停或终止的处罚。

新增“欺骗性活动”条款,严禁操纵搜索与AI答案

新版政策增设“不得参与欺骗性广告系列或人为活动”章节,核心禁令包括:

  • 禁止通过投放歪曲来源、作者身份或独立性的内容,操纵搜索引擎或AI系统提取答案的来源;
  • 禁止创建伪装成无关联来源以佐证相同主张的网站网络;
  • 禁止使用虚假人设、媒体机构及评论传播内容,或创建用于欺骗性活动的工具及服务。

此前,相关禁令分散于选举、欺诈、隐私等规则中。新章节将政治性与商业性欺骗活动统一规范。值得注意的是,2025年9月版政策未明确提及搜索引擎或AI回复操纵,而新版对此进行了具体界定。

Claude使用政策前后对比(2025年9月 vs 2026年11月)

注:“未命名”表示2025年政策未具体描述该做法,但不代表允许。

典型案例:70个伪独立新闻站被查处

Anthropic在9月情报报告中披露了一起典型违规案例:约70个看似独立的本地新闻网站,实则均由一家法国广告代理公司控制。该团伙利用Claude批量生成格式统一的文章,每篇包含3至4个内部链接,专门用于提升网站在搜索引擎中的权威排名。

该网络累计发布至少8,913篇文章,覆盖约20种语言,但多数缺乏真实受众互动。目前,Anthropic已封禁相关Claude账户及涉事组织。

自动化内容发布移出高风险名单

新版政策对高风险用例列表进行调整,“自动生成并发布媒体或专业新闻内容”不再被列为高风险项。当前高风险领域聚焦于法律、医疗、金融建议及信用、住房、就业决策等需严格审查的场景。

尽管发布类别移除,但针对高风险建议的审查与披露要求保持不变。同时,用户仍不得提交未经适当许可或归属的AI辅助作品,聊天机器人也必须明确告知用户其AI身份,禁止误导用户以为在与人类交流。

行业影响与合规建议

Google垃圾内容政策已将“操纵生成式AI响应”定义为违规行为,并通过算法更新执行惩罚。与之不同,Anthropic主要通过限制或撤销违规用户的API及应用访问权限来落实政策。

Anthropic表示将每年修订使用政策以适应技术演进。建议开发者及企业在11月12日前完成自查:核实是否存在由Claude生成并呈现为相互独立网站网络的内容;同时对照新高风险列表,调整相应的审查与披露流程。

【声明】内容源于网络
0
0
搜索引擎报
搜索引擎时报
内容 0
粉丝 0
搜索引擎报 搜索引擎时报
总阅读0
粉丝0
内容0