Digitro Tecnologia 实施语言模型编排系统，有效降低对 GPU（图形处理单元）的依赖。该创新在保障效率与可扩展性的同时，显著优化了从数字服务到高级数据分析等应用场景的成本结构。
GPU 原为加速图像视频生成而设计，凭借大规模并行计算与海量数据处理能力，已成为人工智能的核心算力支撑。
编排技术破解AI成本难题
Digitro 产品与创新经理 Agenor Pacheco Junior 指出，大型语言模型体量庞大。“通过编排技术，我们能在恰当时机精准触发所需模型，复用同一基础设施，使 AI 在多场景应用中具备经济可行性。我们的目标是解决企业 AI 落地的核心痛点——成本，并以可访问、高效且可扩展的方式优化资源供给。”
该项目成功克服了性能节省、GPU 使用率优化及实时应用短响应时间等多重挑战。
创新赋能AI服务落地
在实际应用中，编排系统已深度集成至公司解决方案，支持以下核心功能：
- 自然语言处理（NLP）：精准解读开放式问题；
- 检索增强生成（RAG）：为各组织构建专属知识库；
- 计算机视觉：从图像中提取关键信息（如识别健康保险卡数据以自动安排预约）。
该项目于 2024 年 10 月启动并全面投入运营，现已覆盖 Digitro 全系解决方案，重点聚焦客服中心的对话自动化与分析，推动 AI 成为日常运营的核心组成部分。