训练OpenAI的ChatGPT等复杂人工智能模型所需的算力日益增长,最终可能与主流芯片技术“撞墙”。
2019年的一项分析显示,1959年至2012年间,AI模型训练功耗每两年翻一番;而2012年后,这一增速飙升至七倍。
压力已然显现。据报道,微软正面临运行AI所需服务器硬件的内部短缺,稀缺性推高了价格。CNBC采访分析师和技术专家后估计,从头训练一个类ChatGPT模型的成本当前已超过400万美元。
光子芯片被视为解决AI训练困境的方案之一。它利用光而非电力传输信号,理论上因发热少、传播快且对温度和电磁场不敏感,能带来更高的训练性能。
Lightmatter、LightOn、Luminous Computing、英特尔和NTT等公司均在开发光子技术。尽管该领域几年前曾引发极大兴奋并吸引大量投资,但此后明显降温。
原因多样,但投资者和分析师传递的普遍信息是:用于AI的光子芯片虽前景广阔,却并非曾经被认为的“万能药”。
M Ventures投资总监Christian Patze表示:“对于数据中心应用——即光子AI计算最可能的落地场景,客户不会只对推理或训练单一环节感兴趣。”M Ventures支持Celestial AI(一家开发基于光的AI加速芯片的公司)。他指出:“新技术无论是光子还是电子,必须同时适用于这两种应用,否则对客户缺乏吸引力。”
推理(即运行已训练模型)成本高昂。据估算,ChatGPT高峰期每天耗资10万美元,月均达300万美元。
但在更基础层面,Patze并不确信“光子计算”是训练的最佳选择。首先,受限于制造厂的不成熟,光子芯片物理尺寸更大且难以大规模生产。此外,光子架构仍主要依赖电子控制电路,可能形成瓶颈。
Patze强调:“光子芯片的效果很大程度上取决于训练算法、工作负载性质及其与光子架构的映射方式。人们忽略了AI计算不仅是高效执行操作,将先进模型映射到理论上的光学引擎并非易事,甚至非常困难。”
另一大问题是数据转换功耗。传统硅基硬件在数字域传输存储数据,而光子技术处理的是模拟信号。数模转换需专用组件,往往极其耗电。
信号再生也是未解挑战。多数芯片通过“光-电-光”转换恢复退化信号,但这会导致信号随时间失真,引发下游问题。
鉴于上述原因,Gartner分析师Anushree Verma认为,光子计算成为主流至少还需八年。
Verma指出:“全光计算系统需要光门、开关、存储器、互连及光源等多种组件。由于各种原因,关键组件的商业化供应遥遥无期。加之客户集中度高及技术挑战大,对新进入者并不友好。”
那么,光子技术在AI领域还有未来吗?可能有,但或许需要重新审视其定位。
Patze认为,光子技术有助于克服AI计算的主要瓶颈:为海量数据提供高速内存访问。像GPT-4这样的大型模型,其加速卡拥有数百核心及数百GB内存,需相互连接。当数据压力大时,传统电互连会失效或变慢,而光子互连凭借更大容量可避免此问题。
Patze表示:“高带宽、低延迟下的长距离连接正是光互连的优势所在。因此,部分公司转向光互连以突破数据移动瓶颈并不意外。且光互连组件和电路设计在光通信行业已成熟,开发周期短得多。”
Verma预测,光子AI加速器芯片行业未来几年将经历三个阶段:首先是硅基与光子封装的混合连接浪潮;其次是大量集成平台涌现;最终实现全栈光子计算。
到2027年,Verma预计10%的网络交换机部署将采用共封装光学技术(目前几乎为零),驱动力来自对更高带宽和更低功耗的需求。
Verma坦言:“主要挑战在于降低制造成本。市场将由增加带宽和降低功耗的需求驱动,但目前这一需求尚不明显……光子计算仍处于极早期阶段。”
正如她所指出的,Mordor Intelligence预测,到2027年光子集成电路市场规模将达264.2亿美元。

