大数跨境

乐天开发面向电子商务的低成本AI模型

乐天开发面向电子商务的低成本AI模型 全球经济观察
2025-12-23
0
导读:乐天集团正在扩大其AI团队,并专注于降低成本的超大语言模型开发。

乐天集团正加速扩充AI团队规模,并将研发重心聚焦于低成本超大语言模型的开发。在AI负责人蔡婷的带领下,该东京电商及科技巨头目前已组建起千人规模的AI团队,并投入数千块英伟达芯片支持项目运行。

据蔡婷介绍,公司第三代大语言模型旨在将运行成本较同类模型降低90%,但该数据目前尚未获得独立验证。财务数据显示,2024年AI业务为乐天贡献了105亿日元(约合6700万美元)营业利润,公司计划2025年实现该指标翻倍。

技术架构与成本优势分析

Moe架构驱动降本,但缺乏第三方验证

  • 乐天AI 3.0采用混合专家(MoE)架构,总参数量约7000亿。其核心机制在于每个令牌仅激活约400亿参数,通过共享专家与八个专用子网络进行路由,显著降低了推理阶段的计算负载。
  • 在日本MT-Bench测试中,该模型得分为8.88,优于GPT-4o的8.67及前代模型的6.79。然而,90%的成本削减主张基于内部生态测试,未披露基线模型规模、基础设施配置及不同价格点的质量对比细节。
  • 模型训练均在内部多节点GPU集群的安全环境中完成,数据完全私有化。成本优势可能源于自有基础设施与模型效率的结合。未来需通过第三方对推理成本、上下文长度及多样化任务的评估,以验证其在广泛部署场景下的实际节省效果。

日本企业AI应用痛点与市场机遇

  • 日本企业AI应用呈谨慎增长态势,制造业、信息通信业及服务业的应用占比分别为33.2%、56.3%和33.5%。准确性担忧(44.3%)与安全性顾虑(34.9%)仍是主要障碍。能够提供推理优化、规模化部署服务栈及AI财务运营管理的供应商,有望缓解上述痛点。
  • Anthropic使用指数显示,日本Claude人均使用量仅为1.86,远低于以色列等领先国家。随着企业寻求高性价比替代方案,专注于量化压缩、模型瘦身及日语费用追踪的供应商将迎来增长窗口期。
  • 约72%的企业倾向于采购主导策略而非自研,其中35.5%重视结构化培训及本地平台集成能力。具备合规就绪特性且支持强大日语功能的开箱即用型推理优化方案,更契合当前市场需求。

乐天近期发展动态

【声明】内容源于网络
0
0
全球经济观察
1234
内容 740
粉丝 0
全球经济观察 1234
总阅读71
粉丝0
内容740