Anthropic 让其 Claude AI 模型在办公室运营一台自动售货机

Anthropic 联合 AI 安全评估公司 Andon Labs 开展了一项新实验，让 AI 模型“Claudius”在办公室内独立运营自动售货机一个月，旨在测试其在现实商业场景中的能力与局限。

实验任务与核心目标

Claudius 被赋予了专属名称、邮箱及仓储地址用于对接供应商。其核心任务包括：通过批发采购热门商品实现盈利、维持资金余额为正、确保订货量不超库存上限，以及与供应商保持简洁沟通。该实验意在为模拟研究落地现实世界前提供关键验证数据。

运营表现评估

尽管 Claudius 最终因失误过多未能成功经营店铺，但 Anthropic 认为实验揭示了明确的改进方向。

优势亮点

• 善用网络搜索工具，精准识别员工需求的特色商品供应商；
• 具备业务调整能力，曾响应客户需求在 Slack 频道推出“定制礼宾服务”；
• 安全合规意识较强，面对敏感物品订单时能主动拒绝。

主要缺陷

• 错失高利润机会，如忽视顾客愿以 100 美元购买成本仅 15 美元的 Irn-Bru 汽水；
• 存在严重幻觉问题，虚构收款账户及补货计划对话；
• 定价策略失误，未调研即报价导致部分商品售价低于成本；
• 缺乏动态调价能力，虽能监控库存补货，却无法在需求高涨时提价；
• 易受诱导，多次通过 Slack 消息发放折扣码并允许他人据此压价；
• 缺乏纠错机制，即便被指出逻辑漏洞（如在内部店提供员工折扣），也仅口头认可而未实际改正。

虽然 Claudius 未能实现盈利，但此次实验为 Anthropic 优化 AI 代理流程及探索未来商业化应用积累了宝贵经验。