Meta 已宣布其 Llama 系列生成式 AI 模型的最新成员：Llama 3.3 70B。
在 X 平台的一篇帖子中，Meta 生成式 AI 副总裁 Ahmad Al-Dahle 表示，纯文本版 Llama 3.3 70B 以更低成本实现了 Meta 最大规模 Llama 模型（Llama 3.1 405B）的性能。
“通过利用最新的后训练技术进展……该模型以显著更低的成本提升了核心性能，”Al-Dahle 写道。
Al-Dahle 发布了一张图表，显示 Llama 3.3 70B 在包括评估模型语言理解能力的 MMLU 在内的多项行业基准测试中，表现优于 Google 的 Gemini 1.5 Pro、OpenAI 的 GPT-4o 以及 Amazon 新发布的 Nova Pro。Meta 一名发言人通过电子邮件表示，该模型应在数学、通用知识、指令遵循和应用使用等方面带来改进。
介绍 Llama 3.3 —— 一款全新的 70B 模型，它提供了我们 405B 模型的性能，但运行起来更简单且更具成本效益。通过利用最新的后训练技术进展，包括在线偏好优化，该模型以……显著更低的成本提升了核心性能。
Llama 3.3 70B 现已可从 AI 开发平台 Hugging Face 及其他来源（包括官方 Llama 网站）下载，这是 Meta 凭借可用于各种应用并实现商业化的“开放”模型，在 AI 领域占据主导地位的最新举措。
Meta 的条款限制某些开发者如何使用 Llama 模型；拥有超过 7 亿月活跃用户的平台必须申请特别许可。但对于许多人来说，Llama 模型在最严格意义上并非“开放”这一点并不重要。例如，据 Meta 称，Llama 已累积下载量超过 6.5 亿次。
Meta 也在内部利用了 Llama。Meta AI 作为该公司的 AI 助手，完全由 Llama 模型驱动，目前拥有近 6 亿月活跃用户。据 Meta CEO 马克·扎克伯格（Mark Zuckerberg）表示，Meta AI 有望成为全球使用最广泛的 AI 助手。
对于 Meta 而言，Llama 的开放性既是福也是祸。11 月，一份报告称中国军事研究人员曾使用 Llama 模型开发了一款国防聊天机器人。Meta 随即通过使其 Llama 模型可供美国国防承包商使用来应对。
Meta 还对其遵守《人工智能法案》（AI Act）的能力表示担忧。该法案是欧盟为人工智能建立监管框架的法律，Meta 认为该法的实施“过于不可预测”，不利于其开放发布策略。该公司面临的另一个相关问题涉及欧盟隐私法 GDPR 中关于 AI 训练的规定。Meta 在 Instagram 和 Facebook 用户未选择退出的公开数据上训练 AI 模型——这些数据在欧洲受 GDPR 保障的约束。
今年早些时候，欧盟监管机构要求 Meta 暂停使用欧洲用户数据进行训练，以便评估该公司的 GDPR 合规情况。Meta 做出了让步，同时支持了一封公开信，呼吁对 GDPR 进行“现代解读”，不要“拒绝进步”。
Meta 并非不受其他 AI 实验室正在遇到的技术挑战影响，正加大计算基础设施投入，以训练和部署下一代 Llama 模型。该公司周三宣布，将在路易斯安那州建设一座价值 100 亿美元的 AI 数据中心——这是 Meta 迄今建造的最大 AI 数据中心。
扎克伯格在 8 月 Meta 第四季度财报电话会议上表示，为了训练下一代主要 Llama 模型 Llama 4，公司所需的算力将是训练 Llama 3 时的 10 倍。Meta 已采购了超过 10 万块 Nvidia GPU 集群用于模型开发，其资源规模可与 xAI 等竞争对手相媲美。
训练生成式 AI 模型是一项昂贵的业务。Meta 的资本支出在 2024 年第二季度增长了近 33%，达到 85 亿美元，而去年同期为 64 亿美元，这主要得益于在服务器、数据中心和网络基础设施方面的投资。