大数跨境

Inception 悄然亮相,推出一种新型人工智能模型

Inception 悄然亮相,推出一种新型人工智能模型 海外洞察
2025-02-26
1
导读:初创公司Inception声称,他们开发了一种基于扩散架构的新型AI模型。

Inception,一家由斯坦福大学计算机科学教授 Stefano Ermon 创立的总部位于帕洛阿尔托的新公司,声称开发了一种基于“扩散”技术的全新 AI 模型。Inception 将其称为基于扩散的大型语言模型,简称“DLM”。

目前最受关注的生成式 AI 模型大致可分为两类:大型语言模型(LLM)和扩散模型。LLM 用于文本生成。与此同时,扩散模型为诸如 Midjourney 和 OpenAI 的 Sora等 AI 系统提供动力,主要用于创建图像、视频和音频。

据该公司称,Inception 的模型具备传统 LLM 的功能,包括代码生成和问答,但性能显著提升且计算成本降低。

Ermon 告诉 TechCrunch,他一直在研究如何应用扩散模型来处理文本,这一研究在斯坦福实验室进行了很长时间。他的研究基于这样一个观点:与传统 LLM 相比,扩散技术相对较慢。

Ermon 表示:“在使用 LLM 时,‘在你生成第一个词之前,你无法生成第二个词;在你生成前两个词之前,你无法生成第三个词。’”

Ermon 一直在寻找将扩散方法应用于文本的途径,因为与按顺序工作的 LLM 不同,扩散模型从对正在生成的数据(例如图片)的粗略估计开始,然后一次性将数据聚焦清晰。

Ermon 假设使用扩散模型并行生成和修改大段文本是可行的。经过多年的尝试,Ermon 和他的学生取得了重大突破,他们在去年发表的一篇研究论文中详细介绍了这一成果。

认识到这一进展的潜力,埃蒙(Ermon)去年夏天创立了Inception公司,并聘请两名前学生——加州大学洛杉矶分校教授阿迪蒂亚·格罗弗(Aditya Grover)和康奈尔大学教授沃洛迪米尔·库列肖夫(Volodymyr Kuleshov)共同领导该公司。

虽然埃蒙拒绝讨论Inception的融资情况,但TechCrunch获悉,梅菲尔德基金(Mayfield Fund)已进行投资。

埃蒙表示,Inception已经通过解决客户对降低AI延迟和提高速度的迫切需求,获得了包括几家未具名的财富100强公司在内的多个客户。

“我们发现,我们的模型可以更高效地利用GPU,”埃蒙说,他指的是常用于在生产环境中运行模型的计算机芯片。“我认为这意义重大。这将改变人们构建语言模型的方式。”

Inception提供API以及本地部署和边缘设备部署选项,支持模型微调,并提供一套开箱即用的DLM(领域特定语言模型),适用于各种用例。该公司声称,其DLM的运行速度比传统LLM快多达10倍,而成本仅为后者的十分之一。

“我们的小型编码模型与[OpenAI的] GPT-4o mini相当,但速度快了10倍以上,”该公司一名发言人告诉TechCrunch。“我们的‘mini’模型优于小型开源模型,如[Meta的] Llama 3.1 8B,每秒可实现超过1,000个token的处理速度。”

“Token”是行业术语,指原始数据的片段。每秒一千个token的速度确实令人印象深刻,前提是Inception的说法成立。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k