英伟达GPU需求创历史新高,初创公司Lemurian Labs获900万美元融资欲破局
可以说,英伟达(Nvidia)恰逢其时地处于正确的位置和时机,其GPU芯片的需求因生成式AI模型对资源的高需求而创下历史新高——但如果有一款芯片能以更低的成本提供类似的性能呢?这正是Lemurian Labs这家由Google、Intel和Nvidia前员工创办的早期初创公司试图构建的。
当然,这是一种“登月”式的想法,将芯片推向市场需要大量的时间和资金,但对于拥有特定背景的创始人提出的概念,投资者愿意冒险一试。今天,该公司宣布获得900万美元的种子轮融资。
重新构想加速计算:突破半导体物理限制
“从根本上说,在Lemurian,我们的目标是重新构想加速计算。我们之所以想这样做,是因为我们现有的计算方式开始走向尽头。问题不在于它不是一个优秀的架构或范式,而是半导体的物理特性正在对该范式产生阻力,”Lemurian联合创始人兼首席执行官Jay Dawani表示。
该公司旨在构建一款新芯片以及配套软件,使处理AI工作负载更加便捷、高效、廉价,并最终更加环保。
颠覆传统架构:让计算移动到数据
Lemurian像举办计算机体系结构大师课一样解释道,计算归结为三件事:“有数学运算,有内存,还有数据传输。目标在于互连。因此,数据存储在内存中,通过互连传输到数学单元进行处理,然后再写回内存。这就是传统架构中的关键点:数据必须移动。”Dawani解释说。
Lemurian希望颠覆这种思路。与其让数据移动到计算资源,不如让计算移动到数据。“我们的意思是,我们需要最大限度地缩短这一距离,这样我们就不是在移动数据,而是在移动计算能力。”他说。
他表示,GPU最初是为图形相关任务创建的,但随着时间的推移,由于其纯粹的处理能力,它们承担了各种其他角色。“因为你是在为某事设计,但同时又在尝试做别的事情,当你试图做好所有事情时,你其实并不擅长做好所有事情。而这正是GPU的阿喀琉斯之踵。这也是我们试图解决的问题。”Dawani说。
技术突破:对数系统替代浮点运算
Lemurian应对这一问题的方法是改变芯片上的数学运算方式,这无疑是一项巨大的工程。据Dawani介绍,在芯片开发的早期,工程师们决定采用一种浮点方法,因为当时没有人能让对数方法发挥作用。他声称他的公司已经解决了这个问题。
“对数系统的妙处在于,它将所有昂贵的乘法和除法运算转化为加法和减法,而这些在硬件中是几乎零成本的操作。因此,它在面积和能耗上实现了节省,同时提升了速度。此外,它在精确度或精度上也略有提升。”所有这些优势在降低大语言模型处理成本时都极具吸引力。
他们是如何做到这一点的?他说:“我们实际上偶然发现,通过以特定方式构建并扩展大数系统的定义,可以创造出一种精确解,其结果在相同位数下比浮点数更小且更准确。”
“随着位数的增加,在相同位数下,其动态范围会越来越好,这真的非常令人着迷。现在,这正是我们能够探索所采用的架构的重要原因之一,因为如果没有这种数系统,人们就会屈从于同样的限制。”
发展路线图与融资情况
他们采取循序渐进的策略,首先发布软件栈部分,希望明年第三季度实现普遍可用。硬件开发更具挑战性,需要时间和资金来进行研发、制造和生产测试,但目标是在未来几年内跟进推出。
该公司目前拥有24名员工,大多是具备此类项目背景的高技能技术工程师。这是一个有限的人才池,但他的目标是在未来几个月内再招聘六人,如果一切顺利并获得A轮融资,则将在下一年再招聘35人。
这笔900万美元的投资由Oval Park Capital领投,Good Growth Capital、Raptor Group和Alumni Ventures等机构参与投资。
打造这样一家公司并将芯片推向市场是一项巨大且昂贵的挑战,但如果他们能实现其所描述的目标,将使生成式AI模型(以及后续产品)的构建变得更加廉价和高效。

