大数跨境

Perplexity 与英伟达联合推出可在设备上运行的 AI 智能体:Portable Computer

Perplexity 与英伟达联合推出可在设备上运行的 AI 智能体:Portable Computer 土耳其小莫
2026-08-26
0
导读:Perplexity 与英伟达(Nvidia)联合开发的便携式计算机,能够在无需依赖云端的条件下,让用户在自己的硬件上直接运行人工智能模型和智能体工作流。

Perplexity推出新产品Portable Computer,专注于将AI代理从云端迁移至用户本地设备。该产品与Nvidia紧密合作开发,是今年二月推出的Computer平台的完全本地运行版本。

Portable Computer最初在Nvidia DGX Spark桌面超级计算机及配备Nvidia RTX GPU的Linux电脑上运行。它整合了AI模型、文件、工具和网页访问功能,可执行文档审查、数据分析和报告准备等多阶段任务。

该版本将体验扩展至用户本地设备,涵盖本地模型、推理引擎、工具、应用连接及安全环境。除使用的模型外,用户的文件和操作过程均保留在设备上。

本地运行无需Token成本

Portable Computer在成本方面优势显著。设备端操作不消耗Perplexity云端信用额度,即使代理长时间进行文件审查或分析,也不会产生额外云端费用。

系统默认在本地启动所有任务;若本地模型能力不足,可借助更强大的云端模型,但向云端发送任何操作前均需先征求用户许可。

隐私方面,系统会对发送至云端的内容进行个人信息审查,并明确展示哪些数据将被传出。云端模型仅提供基于文本的引导,无法直接访问用户本地文件或工具。

尽管采用全本地架构,Portable Computer仍保留连接功能。演示显示,代理在本地分析CSV数据后,可将结果发送至Slack频道,同时支持连接Google Drive、Gmail和GitHub。

Portable Computer支持哪些模型?

发布初期,Portable Computer支持Qwen 3.8 27B及Perplexity自研训练的PPLX 27B模型,Nvidia Nemotron 3.5 Lightning模型也计划很快获得支持。相比云端平台,目前本地模型库较为有限。

针对本地模型容量较低的特点,Perplexity重新设计了代理基础设施:采用更短的系统提示词和有限核心工具,将不同能力以按需加载的“技能”形式集成;Gmail和GitHub等连接改为紧凑的命令行工具形式,而非消耗更多令牌的MCP服务器。

根据Perplexity自有测试,PPLX 27B模型在包含53项信息工作任务的Local Knowledge Work Bench测试中取得85.4%得分,Qwen模型得分为82.6%。需注意,这些结果基于Perplexity自行开发的基准测试,且较小的本地模型在复杂推理任务中表现仍不及强大云端模型。

至少需要24 GB VRAM

Portable Computer目前面向Perplexity Pro、Max、Enterprise Pro和Enterprise Max订阅用户提供Linux版服务,Windows版计划于九月推出。运行需配备至少24 GB VRAM的Nvidia RTX GPU,GeForce RTX 3090及更新型号为近似起点。Apple Silicon设备暂未列入路线图。

图片来源:ChatGPT

【声明】内容源于网络
0
0
土耳其小莫
小莫带你了解土耳其电商,探索AI应用
内容 26498
粉丝 0
土耳其小莫 小莫带你了解土耳其电商,探索AI应用
总阅读242
粉丝0
内容26.5k