现代计算的基础是晶体管，晶体管是一种微型电子开关，可以从中构建逻辑门，从而创建复杂的数字电路，如CPU或GPU。随着技术的进步，晶体管变得越来越小。根据摩尔定律，集成电路中的晶体管数量大约每 2 年翻一番。这种指数级增长使计算技术呈指数级发展。但是，晶体管的尺寸可以减小多少是有限的;我们很快就会达到晶体管无法工作的阈值。此外，人工智能的进步使得对提高计算能力的需求比以往任何时候都更加重要。
根本问题是自然是随机的（不可预测的）。在这里，我指的不仅仅是量子力学效应。在设计电路时，必须考虑环境影响、热噪声和其他破坏性因素。对于晶体管，期望它是确定性地（可预测地）运行。如果我连续运行一个算法 100 次，我每次都必须得到相同的结果。目前，晶体管足够大，这些因素不会干扰其运行，但随着其尺寸的减小，这些问题将变得越来越重要。那么，技术可以从这里走向何方呢？“通常”的答案是：量子计算机。
事实上，对于量子计算机，我们遇到了同样的问题：需要消除环境影响和热噪声。这就是为什么量子计算机必须冷却到接近绝对零度的温度。这些极端条件使量子处理器无法取代当今的 CPU。但是解决方案是什么呢？看来，要向前迈进，我们必须放弃确定性的计算机，拥抱世界的随机性。这个想法并不新鲜。它有几十亿年的历史。
教育视频通常将细胞的功能描述为小工厂，一切都以发条的精确度运行。酶，就像微型机器人一样，切割DNA和氨基酸附着在上面，导致蛋白质的产生。这些蛋白质整齐地互锁，并在细胞分裂过程中与旧细胞分离以形成新细胞。但是，这是一个高度简化的模型。实际上，粒子完全是随机移动的，当正确的成分碰巧聚集在一起时，它们就会结合。虽然人造结构在严格的规则下运行，但在这里，过程是在物理和化学定律的强制影响下自发形成的。当然，从鸟瞰的角度来看，该系统似乎以发条的精确度运行。
一个非常简单的例子是当我们将冷水与热水混合时。跟踪每个粒子的随机运动是不可能的。有些粒子移动得更快，而另一些粒子移动得更慢。有时，粒子会碰撞并交换能量。该系统完全是混乱的，需要巨大的计算能力来模拟。尽管如此，我们可以准确地预测，在短时间内，水将达到均匀的温度。这也是一个简单的自组织系统，在粒子水平上非常复杂，但由于物理定律和统计规则，它是完全可预测的。同样，由于复杂的化学过程和随机运动，细胞分裂变得可预测。当然，可能会发生错误。DNA可能无法正确复制，可能会发生突变，或者可能会发生其他错误。这就是为什么系统是高度冗余的。在发生错误（细胞凋亡）的情况下，有几个过程会破坏细胞，从而防止有缺陷的单位引起问题（或者只是非常罕见，这就是癌症等疾病的发展方式）。
晶体管的能量消耗可以与电池的能量消耗相媲美，即使电池的复杂程度要高出几个数量级。想象一下，如果我们利用自然法则以模拟方式进行计算，我们可以以如此低的消耗进行复杂的计算。
在生物学中，热噪声不仅不是问题，而且是必要的。低于一定温度，生物系统就无法运作。正是由热量引起的随机运动为它们提供动力。
热力学计算的基础是相似的。我们没有试图消除物理过程的随机性，而是利用它。但是，对于操作是不确定的计算机，可以做什么呢？
事实上，在机器学习领域，有很多随机成分。例如，在神经网络的情况下，初始权重是随机初始化的。消除过拟合的压差层也会随机丢弃输入。但是，在更高的层次上，例如，扩散模型也使用随机噪声进行操作。例如，在Midjourney的案例中，该模型经过训练，可以根据给定的指令从随机噪声中生成图像。
在这里，每一步都会向图像添加一点噪点，直到整个图像变成噪点。然后训练神经网络来逆转这一过程，即根据给定的文本从噪声中生成图像。如果系统使用足够的图像和文本进行训练，它将能够根据文本从随机噪声中生成图像。这就是Midjourney的运作方式。
在当前的系统中，我们消除随机热噪声以获得确定性晶体管，然后在这些确定性晶体管上模拟随机性，这对于神经网络的运行是必要的。与其模拟，为什么不利用自然的随机性呢？这个想法类似于任何模拟计算机。与其以数字方式模拟给定的过程，不如利用自然界提供的机会并以模拟方式运行它。
初创公司Extrophic正致力于开发这种芯片。与谷歌一样，该公司由两个人创立：纪尧姆·维登（Guillaume Verdon）和特雷弗·麦考特（Trevor McCourt）。在创立公司之前，两人都在量子计算领域工作，他们的芯片介于传统集成电路和量子计算机之间。
Extropic的电路以模拟方式工作。起始状态是完全随机的、正态分布的热噪声。通过对电路进行编程，可以在每个组件内修改该噪声。代替晶体管的是模拟权重，它们很嘈杂，但结果可以通过对输出的统计分析来确定。这些家伙称之为概率计算。
这些模拟电路速度更快，消耗的能量也更少，而且由于热噪声不仅无中断，而且是操作的重要组成部分，因此它们不需要量子计算机所需的特殊条件。这些芯片可以用现有的生产技术制造，因此它们可以在几年内进入商业市场。
从上面我们可以看出，Extropic的技术非常有前途。然而，激起我个人兴趣的是它在生物学上更合理。当然，我不认为人工神经网络中的神经元与人脑神经元有任何关系。这是两个截然不同的系统。然而，人脑不是通过梯度下降来学习的。生物学习是完全不同的东西，随机性当然在其中起着重要作用。
正如我所提到的，在生物学和自然界中，一切都是随机的。我们在高层次上看到的确定性正是从统计学上从许多随机事件中脱颖而出的东西。例如，许多生物（包括我们人类）就是这样通过完全随机的进化而形成的，但几乎是以工程精度建造的。我怀疑人类大脑的运作方式与进化相似。一个适当定向的系统中的大量随机事件，我们从外部将其视为一致的思维。这就是为什么遗传算法对我如此感兴趣，现在我在Extropic的芯片中看到了同样的原理。
关注我，一起探索元宇宙！