夏季期间,人工智能模型密集发布。从苹果、Meta到OpenAI、Mistral,多家企业推出新品,端侧小模型日益普及,英伟达与LG也强化了AI布局。以下是本季备受瞩目的10款AI模型。
苹果70亿参数开源语言模型:DCLM-7B
Apple DCLM语言模型包含70亿和14亿两种参数规模。其中70亿版本在多项指标上超越此前最佳DCLM模型MAP-Neo,幅度达6.6%;且DataComp-LM模型实现该性能仅消耗少40%的算力。该模型在公开数据集模型中表现优异,具备与专有数据集模型竞争的实力。
两款模型在大任务多语言理解(MMLU)基准测试中得分亮眼,但DCLM-7B未超越Llama 3、Gemma、Phi-3及Qwen-2等模型。
Meta生成3D资产新模型:Meta 3D Gen
Meta 3D Gen可在1分钟内根据文本提示生成高分辨率3D资产,并支持为生成图或艺术家作品应用新纹理与表面。该模型由两部分组成:Meta 3D AssetGen负责创建3D模型,Meta 3D TextureGen负责赋予纹理。
据预测,AssetGen生成首个3D模型平均推理时间仅30秒;TextureGen通过文本修复或替换纹理耗时约20秒。此外,内置的纹理增强网络可将分辨率提升至4K,满足高端视觉需求。
Meta移动端大语言模型:MobileLLM
Meta首席AI科学家Yann LeCun指出,MobileLLM侧重“深度”而非“宽度”,采用嵌入共享、分组查询注意力及即时块级权重共享技术。相比同规模前代模型,其性能提升2.7%至4.3%。
3.5亿参数版本在特定API调用任务准确性上,可媲美70亿参数的LLaMA-2。这证明小型模型能以更少算力提供相似功能。
挑战GPT-4o与Claude 3.5 Sonnet:Llama 3.1 405B
Llama 3.1 405B是Meta迄今最大的开源模型(4050亿参数),使用1.6万块H100 GPU训练,旨在对标GPT-4o与Claude 3.5 Sonnet。该模型支持AWS、Azure、Google Cloud等平台,美国用户可通过WhatsApp和Meta.ai体验。
模型仅支持文本与文档处理(如PDF),不支持图像问答,但可解决编码与基础数学问题,支持英、德、法、意、葡、印地、西、泰8种语言。同期发布的Llama 3.1 8B/70B上下文窗口升级至12.8万token(原为8000),实现重大突破。
全系列支持第三方工具调用:时事查询用Brave Search,数理问题访问Wolfram Alpha API,代码验证借助Python解释器,且能使用未见过的工具。对比测试显示,Llama 3.1 405B在MMLU基准上仅次于GPT-4o,但在IFEval、GSMBK、ARC Challenge、Nexus及Multilingual MGSM等测试中优于GPT-4系列与Claude 3.5 Sonnet。
Hugging Face移动端小模型:SmolLM
SmolLM系列包含1.35亿、3.6亿、17亿三种参数规模,在推理与世界知识基准测试中超越微软、Meta及阿里Qwen的同类紧凑模型。
最小的SmolLM-135M虽token较少,仍优于Meta MobileLM-125M;SmolLM-360M超越所有5亿参数以下模型(含Meta与Qwen);旗舰SmolLM-1.7B在多项对比中领先Microsoft Phi-1.5、Meta MobileLM-1.5B及Qwen2-1.5B。
OpenAI轻量级模型:GPT-4o mini
GPT-4o mini作为ChatGPT旗舰模型的轻量化版本,目前支持文本与图像处理,未来将扩展语音/视频能力。相比GPT-3.5 Turbo,开发者成本降低60%(输入$5/百万token,输出$15/百万token),速度相当(约67 token/s)。
该模型将取代免费用户的GPT-3.5 Turbo,开发者仍可通过API访问旧版。在MMLU基准(57学科1.6万题)中,GPT-4o mini得分82%,显著优于GPT-3.5 Turbo(70分),略低于GPT-4o(88.7%)。
Mistral AI新语言模型:Large 2
Mistral Large 2在代码生成、数学及多语言支持方面突出,拥有128K上下文窗口,可处理海量数据。其在代码与数学性能上超越Llama 3.1 405B,参数量却不足后者三分之一,并优化了减少幻觉的能力。
模型支持英、法、德、西、意、葡、阿拉伯、印地、俄、中、日、韩12种语言及80种编程语言。
Nvidia联合Mistral AI企业级模型:Mistral-NeMo
Nvidia与Mistral AI联合推出Mistral-NeMo(120亿参数,128k上下文窗口),旨在办公电脑直接运行。该模型基于Megatron-LM框架,在DGX Cloud上使用3,072块H100 80GB GPU训练。
专为全球多语言设计,采用新分词器Tekken,文本压缩效率比SentencePiece更高,且在85%语言场景下优于Llama 3分词器。对比测试显示,其全面超越Llama 3 8B,除MMLU外均优于Gemma 2 9B。
LG开源AI模型:Exaone 3.0
LG AI Research推出78亿参数的开源模型Exaone 3.0,在韩语与英语任务中表现出色。英语实际应用、数学及编程类别优于Llama、Gemma等相近参数模型;韩语在实际应用与通用类别表现卓越。
该模型推理速度提升56%,内存占用减少35%,运营成本降低72%。训练数据涵盖专利、代码、数学、化学等领域的6000万份专业资料,但目前基准测试尚未全面超越其他开源模型。
xAI图像生成模型:Grok-2/Grok-2 mini
Grok-2在聊天、编码与推理能力上进一步提升,支持在X平台生成图像(仅限Premium/Premium+用户),图像生成基于Black Forest Labs的FLUX.1。首批生成结果显示,政治人物图像无限制。本月内将通过企业API向开发者开放。

