BigScience是由Hugging Face支持的社区项目，旨在推动文本生成式AI的普及。其正在开发的Petals系统，通过整合互联网上的分布式算力来运行类ChatGPT模型。该项目代码已开源，志愿者可捐赠硬件资源协同处理任务，模式类似Folding@home等分布式计算项目。
Petals首席开发者、Yandex研究工程师Alexander Borzunov表示：“Petals是Hugging Face、Yandex Research和华盛顿大学的协作项目。与灵活性较低的API不同，Petals完全开源，允许研究人员集成最新方法或访问系统内部状态以研究其特性。”
开源但非免费
尽管存在不足，ChatGPT等工具在自动化编程、写作及数据科学等繁琐工作方面展现出巨大价值。然而，其运行成本极高，据估算OpenAI每日支出约10万美元，月耗资高达300万美元。高昂成本使得此类技术仅限于资金雄厚的机构，相关公司多获数亿美元风投支持。
Petals旨在实现AI民主化，大幅降低运行成本。Hugging Face研究员Colin Raffel指出：“Petals是实现模型真正协作与持续改进的第一步，标志着大模型从超级计算机向更广泛可访问性的转变。”过去一年，得益于志愿者与科技巨头的支持，前沿开源模型如Bloom（媲美GPT-3）、Meta OPT及微软MT-NLG相继问世并开放部署。
但这些系统仍需昂贵GPU硬件。Petals网络应运而生，用户安装开源库并连接后，即可使用Bloom生成文本或创建服务器贡献算力。网络具备容错机制，单节点宕机可自动切换；虽空闲约1.5秒会断开以节省资源，但能快速恢复会话，仅造成轻微延迟。
实测显示，简单提示响应需数秒，复杂请求超20秒，冗长回答耗时近三分钟。这明显慢于ChatGPT，但目前免费且未来收费不确定性更低。Borzunov透露已有多个GPU用户加入，未来计划推出奖励系统，捐赠者可获“Bloom积分”以换取更高优先级或安全保证。
分布式计算的局限性
Petals虽提供低成本替代方案，但仍存技术缺陷。GitHub页面警告，由于工作机制，服务器可能恢复并重放输入文本，导致敏感数据泄露或被篡改。此外，它未解决主流模型生成有毒或偏见内容的固有问题。Yandex高级科学家Max Ryabinin强调，Petals目前仅适用于研究和学术用途。
Ryabinin建议：“因中间数据经公共网络传输，请勿用于敏感信息。涉及敏感数据的用户应建立由可信组织托管的私有集群，在享受便利的同时保障数据安全。”
作为分布式系统，Petals也可能被滥用于生成有害内容或资源密集型应用。Raffel承认初期难免存在问题，但认为降低门槛的使命值得付出，并希望Petals能激发更多去中心化深度学习项目的发展。