Anthropic客户担忧Claude Code代理自主性过高
据彭博社报道，Anthropic最新推出的Claude Code代码生成代理因自主性过强引发客户不安。在伦敦近期举办的研讨会上，开发者针对AI代理在低监督环境下运作的问责机制提出质疑。部分与会者反映，该工具可在数小时甚至数天内持续生成代码且无需人工干预，导致开发者被排除在编程流程之外；同时，最新版本已不再展示描述其思维链的文本信息。
对此，Claude Code产品负责人Cat Wu回应称系统“极其安全”，将相关担忧归因于沟通不足而非控制措施缺失。值得注意的是，Anthropic联合创始人Chris Olah本周在梵蒂冈发表演讲时坦言，工程师在公司模型内部不断发现令人“不安”的现象。尽管Anthropic试图维持谨慎的AI实验室形象，但其推出的Mythos等强大工具仍被警告具备突破网络安全防御的能力。