大数跨境

夏季备受瞩目的十大人工智能模型

夏季备受瞩目的十大人工智能模型 土耳其小莫
2024-08-26
2
导读:在夏季,我们见证了众多各具特色的AI模型纷纷亮相。从苹果到Meta,从OpenAI到Mistral,让我们一同回顾今夏备受瞩目的十大AI模型。

夏季期间,人工智能模型密集发布。从苹果、Meta到OpenAI、Mistral,多家企业推出新品,端侧小模型日益普及,英伟达与LG也强化了AI布局。以下是本季备受瞩目的10款AI模型。

苹果70亿参数开源语言模型:DCLM-7B

Apple DCLM语言模型包含70亿和14亿两种参数规模。其中70亿版本在多项指标上超越此前最佳DCLM模型MAP-Neo,幅度达6.6%;且DataComp-LM模型实现该性能仅消耗少40%的算力。该模型在公开数据集模型中表现优异,具备与专有数据集模型竞争的实力。

两款模型在大任务多语言理解(MMLU)基准测试中得分亮眼,但DCLM-7B未超越Llama 3、Gemma、Phi-3及Qwen-2等模型。

Meta生成3D资产新模型:Meta 3D Gen

Meta 3D Gen可在1分钟内根据文本提示生成高分辨率3D资产,并支持为生成图或艺术家作品应用新纹理与表面。该模型由两部分组成:Meta 3D AssetGen负责创建3D模型,Meta 3D TextureGen负责赋予纹理。

据预测,AssetGen生成首个3D模型平均推理时间仅30秒;TextureGen通过文本修复或替换纹理耗时约20秒。此外,内置的纹理增强网络可将分辨率提升至4K,满足高端视觉需求。

Meta移动端大语言模型:MobileLLM

Meta首席AI科学家Yann LeCun指出,MobileLLM侧重“深度”而非“宽度”,采用嵌入共享、分组查询注意力及即时块级权重共享技术。相比同规模前代模型,其性能提升2.7%至4.3%。

3.5亿参数版本在特定API调用任务准确性上,可媲美70亿参数的LLaMA-2。这证明小型模型能以更少算力提供相似功能。

挑战GPT-4o与Claude 3.5 Sonnet:Llama 3.1 405B

Llama 3.1 405B是Meta迄今最大的开源模型(4050亿参数),使用1.6万块H100 GPU训练,旨在对标GPT-4o与Claude 3.5 Sonnet。该模型支持AWS、Azure、Google Cloud等平台,美国用户可通过WhatsApp和Meta.ai体验。

模型仅支持文本与文档处理(如PDF),不支持图像问答,但可解决编码与基础数学问题,支持英、德、法、意、葡、印地、西、泰8种语言。同期发布的Llama 3.1 8B/70B上下文窗口升级至12.8万token(原为8000),实现重大突破。

全系列支持第三方工具调用:时事查询用Brave Search,数理问题访问Wolfram Alpha API,代码验证借助Python解释器,且能使用未见过的工具。对比测试显示,Llama 3.1 405B在MMLU基准上仅次于GPT-4o,但在IFEval、GSMBK、ARC Challenge、Nexus及Multilingual MGSM等测试中优于GPT-4系列与Claude 3.5 Sonnet。

Hugging Face移动端小模型:SmolLM

SmolLM系列包含1.35亿、3.6亿、17亿三种参数规模,在推理与世界知识基准测试中超越微软、Meta及阿里Qwen的同类紧凑模型。

最小的SmolLM-135M虽token较少,仍优于Meta MobileLM-125M;SmolLM-360M超越所有5亿参数以下模型(含Meta与Qwen);旗舰SmolLM-1.7B在多项对比中领先Microsoft Phi-1.5、Meta MobileLM-1.5B及Qwen2-1.5B。

OpenAI轻量级模型:GPT-4o mini

GPT-4o mini作为ChatGPT旗舰模型的轻量化版本,目前支持文本与图像处理,未来将扩展语音/视频能力。相比GPT-3.5 Turbo,开发者成本降低60%(输入$5/百万token,输出$15/百万token),速度相当(约67 token/s)。

该模型将取代免费用户的GPT-3.5 Turbo,开发者仍可通过API访问旧版。在MMLU基准(57学科1.6万题)中,GPT-4o mini得分82%,显著优于GPT-3.5 Turbo(70分),略低于GPT-4o(88.7%)。

Mistral AI新语言模型:Large 2

Mistral Large 2在代码生成、数学及多语言支持方面突出,拥有128K上下文窗口,可处理海量数据。其在代码与数学性能上超越Llama 3.1 405B,参数量却不足后者三分之一,并优化了减少幻觉的能力。

模型支持英、法、德、西、意、葡、阿拉伯、印地、俄、中、日、韩12种语言及80种编程语言。

Nvidia联合Mistral AI企业级模型:Mistral-NeMo

Nvidia与Mistral AI联合推出Mistral-NeMo(120亿参数,128k上下文窗口),旨在办公电脑直接运行。该模型基于Megatron-LM框架,在DGX Cloud上使用3,072块H100 80GB GPU训练。

专为全球多语言设计,采用新分词器Tekken,文本压缩效率比SentencePiece更高,且在85%语言场景下优于Llama 3分词器。对比测试显示,其全面超越Llama 3 8B,除MMLU外均优于Gemma 2 9B。

LG开源AI模型:Exaone 3.0

LG AI Research推出78亿参数的开源模型Exaone 3.0,在韩语与英语任务中表现出色。英语实际应用、数学及编程类别优于Llama、Gemma等相近参数模型;韩语在实际应用与通用类别表现卓越。

该模型推理速度提升56%,内存占用减少35%,运营成本降低72%。训练数据涵盖专利、代码、数学、化学等领域的6000万份专业资料,但目前基准测试尚未全面超越其他开源模型。

xAI图像生成模型:Grok-2/Grok-2 mini

Grok-2在聊天、编码与推理能力上进一步提升,支持在X平台生成图像(仅限Premium/Premium+用户),图像生成基于Black Forest Labs的FLUX.1。首批生成结果显示,政治人物图像无限制。本月内将通过企业API向开发者开放。

【声明】内容源于网络
0
0
土耳其小莫
小莫带你了解土耳其电商,探索AI应用
内容 26498
粉丝 0
土耳其小莫 小莫带你了解土耳其电商,探索AI应用
总阅读242
粉丝0
内容26.5k