Kite是一家开发AI驱动编码助手的初创公司，上个月突然关闭。尽管获得了数千万美元的风险投资支持，Kite在支付账单方面却举步维艰。创始人Adam Smith在一篇事后分析博客文章中透露，他们遇到了工程方面的阻力，使得找到产品市场契合度几乎不可能。
Smith表示：“我们未能实现AI辅助编程的愿景，因为我们比市场早了10多年，即技术尚未成熟。”“我们的产品未能实现货币化，而且我们花了太长时间才弄清楚这一点。”
Kite的失败对其他许多致力于并试图商业化用于编码的生成式AI的公司来说并非好兆头。Copilot可能是最引人注目的例子，这是由GitHub和OpenAI开发的代码生成工具，每月收费10美元。但Smith指出，虽然Copilot显示出很大的潜力，但它仍“任重道远”——他估计，构建一个能够可靠合成代码的“生产级”工具的成本可能超过1亿美元。
为了了解生成式编码领域参与者面临的挑战，TechCrunch采访了正在开发AI编码系统的初创公司，包括Tabnine和DeepCode（后者于2020年被Snyk收购）。Tabnine的服务根据上下文和语法预测并建议下一行代码，类似于Copilot。DeepCode的工作方式略有不同，它使用AI在开发人员编码时通知他们存在的错误。
Tabnine首席执行官Dror Weiss坦诚地谈到了他认为阻碍代码合成系统大规模采用的障碍：AI本身、用户体验和货币化。
高昂的研发与推理成本
像Copilot这样的系统是通过从网络上获取海量数据——主要是开源代码库——并在由此产生的数据集上“训练”AI模型，直到它们“学会”代码中的统计关系来开发的。例如，当Copilot用户输入一些代码或注释时，系统会建议下一行代码，包括完整的方法、样板代码、单元测试和算法。
从计算角度来看，这些系统的开发成本高昂。Copilot包含120亿个参数，即模型从其训练数据中学习到的部分。（可以将参数视为决定模型执行任务准确性的变量，例如生成代码。）AI21 Labs在2020年的一项研究中估算，开发一个拥有15亿参数的文本生成模型的成本为160万美元，且未计入雇佣工程人才的成本。
推理——即实际运行训练好的模型——是另一项消耗财务资源的活动。一位消息人士估计，在单个AWS实例（p3dn.24xlarge）上运行拥有约1750亿参数的OpenAI文本生成GPT-3模型的最低年度成本为87,000美元。
高质量标注数据的稀缺性
抛开基于成本的代码生成AI模型训练和推理障碍不谈，还有获取训练所需正确数据的问题。负责DeepCode数据科学研究的Snyk AI负责人Veselin Raychev指出，虽然示例代码随处可见，但有助于AI系统识别正确编程模式的精心标注代码却往往稀缺。
考虑一段包含某种类型错误的代码片段。如果没有标签来突出显示该错误，AI系统可能会无意中在其生成的代码中复制它。有一个简单的解决方案，对吧？手动添加标签。但在大规模下这样做并不便宜。公司经常花费巨资为AI模型训练标注数据。鉴于所需的专业知识，标注代码的成本可能会更高。
“如何在未来几年内从可用数据中获得最大价值将是技术竞争的关键，”Raychev在接受TechCrunch电子邮件采访时说。
版权争议与合规策略
数据领域的另一场正在酝酿的斗争涉及合理使用，即美国法律中允许在未事先获得权利持有人许可的情况下使用受版权保护材料的学说。OpenAI和GitHub等公司声称，即使他们的系统在有意或无意的情况下接受了受版权保护的代码的训练，合理使用也能保护他们。
但并非所有人都认同这一观点。倡导自由软件运动的非营利组织自由软件基金会称 Copilot “不可接受且不公正”。微软、GitHub 和 OpenAI 正面临一起集体诉讼，该诉讼指控它们允许 Copilot 在未经署名授权的情况下复述受版权保护的代码片段，从而违反了版权法。
提供自有生成式编码系统 CodeWhisperer 的亚马逊试图通过让工具为其建议的代码引用来源来规避合理使用的问题。至于 Tabnine 和 DeepCode，两者均声称仅使用明确允许重用的宽松许可证代码库来训练其人工智能模型。
“我们计划允许开源项目选择退出AI训练，并在Tabnine中为所有用于训练的存储库提供归属，”Weiss说，并补充说Tabnine正在开发功能，以帮助开发者识别更长代码建议的潜在来源，类似于CodeWhisperer。“Tabnine做出了法律和道德上的决定，不在我们的用户编写的代码上训练模型。”
用户体验与商业化的双重挑战
超越代码生成AI的技术发展障碍之后，是Weiss earlier提到的UI挑战。就开发者工作流而言，很难确定将像Copilot这样的AI系统“插入”的正确位置，Weiss说。Kite在这方面遇到了困难——根据Smith的说法，该公司的生成式AI未能引起足够多的50万免费版本使用者的共鸣，从而使业务不可持续。
“我们常说 Tabnine 是 50% 的 AI 和 50% 的用户体验，但实际上，用户体验部分可能占比更大，”Weiss 对 TechCrunch 表示。“在软件开发的下一阶段中，AI 将带来一些关键的用户体验挑战：AI 代码审查员如何与开发者互动？通过 AI 分享最佳实践和推荐模式的正确体验是什么？AI 如何帮助开发者阅读和理解代码？如果有些夸张地说，这正在定义 21 世纪软件开发的面貌。”
关于变现问题，考虑到重重障碍，当前生成代码的 AI 能否成功实现商业化？也许可以。8 月，微软披露有 40 万用户订阅了 Copilot，每月带来 400 万美元的收入——这一数字可能不足以覆盖 Copilot 的研发和运营成本。Kite 在历经七年开发后，仍难以产生有意义的收入。
尽管如此，韦斯对企业界将认识到代码合成人工智能的价值持乐观态度，并认为回报将“大幅上升”。一些投资者似乎对此深信不疑；Tabnine 最近从高通风投、三星 Next 等机构筹集了 1550 万美元。
“Tabnine、Kite 和其他参与者都走过了一条我深信不疑的路径，即从开发者自身出发，”Weiss 说。“由于众所周知的原因，向开发者收费一直被认为非常困难，但只要有合适的产品方案，这是可行的，正如 Tabnine 和 GitHub Copilot 的商业成功所证明的那样。”