在整个AI行业,用户越来越意识到部署成本高昂,削减成本的紧迫性日益凸显。虽然开源模型的单token成本显著更低,但为特定任务匹配合适模型并非易事。
周四,为营销人员提供AI工具和代理的Writer推出新旗舰模型Palmyra X6,旨在解决这一痛点。该模型基于Z.ai开源模型GLM-5.2进行后训练变体开发,Writer表示,新系统能以更低价格提供可直接部署的能力。据估计,结合公司基础设施调整,新模型将使客户在基础任务上的成本降低多达50%。
与此同时,该公司还对其标准agentic harness进行了重大升级。这两项功能将于周四起向Writer客户开放。
“我认为企业界已经对追逐下一个基准测试感到彻底厌倦了,”首席执行官May Habib告诉TechCrunch,“他们希望实现成本下降,但似乎没有人能做到这一点。”
新方法特别强调复杂的多步骤任务,以更少的token和更快的速度执行。Writer认为,harness优化是实现这一目标的关键杠杆。
Writer研究人员最近发表的一篇论文佐证了这一方法。该研究测试了在不同模型上对harness效率进行的微小调整,发现许多情况下,调整harness比选择模型更能可靠地降低成本,测试中平均成本下降了40%。
“harness是唯一一个其效率会乘以组织运行的每一个模型(包括现有和未来模型)的组件,”研究人员写道。
对于Writer客户而言,体验仍然是与模型无关的:Palmyra X6将与Writer其他模型并列,或与通过Azure、Amazon Bedrock导入的外部模型一起使用。但Habib也指出,削减成本的推动正促使人们对主要AI实验室产生更广泛的不信任,因为这些实验室有经济动机推高token使用量。
“这里的成本爆炸对客户来说是前所未有的,CIO们放弃这些实验室的程度也是前所未有的,”Habib告诉TechCrunch,并补充说AI实验室“并不真正了解如何帮助企业从AI中获益。”

