大数跨境

Perplexity 的混合计算将敏感任务在云端和本地 AI 之间拆分

Perplexity 的混合计算将敏感任务在云端和本地 AI 之间拆分 AI情报社
2026-09-01
0
导读:此外,本地处理也有助于降低成本。

早在二月,Perplexity 就推出了 AI 代理套件 Perplexity Computer。与 Claude Cowork 类似,该套件能够利用网络及本地文件、应用程序自主完成任务。此后平台陆续推出面向 Mac 的 Personal Computer 等产品,今日又宣布了新分支——Hybrid Compute。

核心功能与应用场景

Hybrid Compute 允许将任务拆分给前沿云端模型(如 Opus 5 或 GPT-5.6 Sol)和本地大语言模型协同处理。其核心理念是让本地模型处理敏感信息,确保数据在设备端安全。

适用场景包括:

  • 隐私保护:例如律师准备简报时,可将案件与判例法比对,同时保障客户数据机密性。
  • 成本优化:通过将部分工作从昂贵的云端模型卸载至本地模型,帮助节俭用户节省推理成本。

隐私分类与任务分配机制

“该功能直接集成在 Mac 应用中。上传文件或发送信息时,系统会自动检查敏感内容,并确认用户是否愿意共享数据到云端。”负责 Mac 产品的 Jon Staff 表示。此次发布还训练了新的隐私分类器,自动建议应保留在本地的文件和信息。

在任务分配前,用户可查看拟转移的文件进行双重确认,防止遗漏重要内容,并可自主选择处理模型:

  • 本地模型选项:包括 Gemma E4B 及 Qwen 350亿参数 3.6 模型的两种变体(其中一种经 Perplexity 后训练),未来将提供更多选择。
  • 便捷安装:无需打开终端,Perplexity 应用会自动处理本地模型安装过程。

实时监控与交互体验

系统启动后提供可视化界面,实时显示本地 CPU、GPU 和内存使用情况;侧边栏同步展示任务消耗的 Token 数量。需注意:本地模型生成的 Token 不收费。输出生成后,用户可正常编写后续指令,也支持通过 iPhone 排队任务。

性能权衡与用户控制权

针对 Hybrid Compute 与纯云端系统的基准测试对比,Staff 坦言:“就原始内容生成而言,完全前沿的输出几乎总是更好,但成本更高、能力更强。”不过,对于不需要最先进 AI 模型的用户,数据隐私和成本可能是更关键的考量因素。

“这应该是一个滑动比例,我们希望用户能根据自身工作类型控制位置。我们会根据上下文建议最佳方案,但最终由用户决定最适合的解决方案。”Staff 补充道。

硬件要求与订阅权限

目前,Hybrid Compute 仅适用于运行 macOS 15 的 Apple Silicon Mac,建议至少配备 32GB 统一内存。该功能面向 Pro 和 Max 订阅者,以及企业客户开放。

【声明】内容源于网络
0
0
AI情报社
AI行业资讯
内容 389
粉丝 0
AI情报社 AI行业资讯
总阅读118
粉丝0
内容389