大数跨境

为什么 Flip AI 构建了一个定制的大语言模型来运行其可观测性平台

为什么 Flip AI 构建了一个定制的大语言模型来运行其可观测性平台 海外洞察
2023-11-08
2
导读:早期初创公司Flip AI采取了不寻常的做法,构建了一个大型语言模型,以更快获得系统问题的解答。

可观测性(Observability)如今在 IT 圈中是一个相当流行的术语,但它基本上涉及监控公司的系统,寻找问题或在问题发生后尝试找出根本原因——而问题确实经常发生,有时会导致网站或应用程序变慢,在最坏的情况下甚至会导致其离线。

许多初创企业和成熟公司都在尝试解决这一问题,但Flip AI为该类别带来了新的转折。这家处于早期阶段的初创公司已构建了自己的大型语言模型,专门用于应对监控问题。

今天,该公司宣布其产品已正式全面推出,并透露了一笔此前未公开的 650 万美元种子轮融资。

首席执行官兼联合创始人 Corey Harrison 表示,尽管市面上已有众多工具,但公司之间在跨系统追踪数据时,往往仍在使用高度手动化的流程。他和他的联合创始人、首席技术官 Sunil Mallya 以及首席产品官 Deap Ubhi 看到了一个机会,即利用智能和自动化来加快问题解决的速度。

Harrison 告诉 TechCrunch:“大型企业在广泛使用多种工具的同时,在实际排查故障时仍然面临困难。”他表示,这一问题在规模较大的组织中往往更为严峻,因为它们使用的工具更多,且数据通常分散在不同的系统中,这使得在没有大量手动查询的情况下,很难追踪到问题的根源。

通过构建一个基于 DevOps 数据训练的大型语言模型,他们相信可以加快故障排除和恢复的时间。Harrison 说:“我们拥有自己的大型语言模型——我们没有使用 OpenAI 或其他类似的产品——该模型是在超过 1000 亿个标记的 DevOps 特定数据上训练而成的,例如日志、指标、跟踪数据、配置文件等。然后,它可以像人类原本设计的那样,在不同系统之间进行合理的查询推理。”

根据 Harrison 的说法,结果是一款能够跨系统分析数据并在不到一分钟(通常只需几秒)内生成根本原因分析报告的工具。他表示,该工具将数据保留在原处,仅需读取权限即可完成分析。

Harrison 承认没有任何模型能始终正确,但他表示,他们会提供模型得出答案的路径,以便人类开发人员可以检查工作。“因此,即使最终的根本原因分析并非 100% 正确,我们已经定位了错误范围,执行了查询并提取了样本数据。所以,我们实际上已经为您完成了 90% 的工作。”他说。

训练自己的大型语言模型是一个大胆而雄心勃勃的想法,但Mallya和Ubhi此前均在亚马逊工作,其中Mallya负责Amazon Comprehend(该公司的自然语言处理服务),而Ubhi担任产品管理总监。Harrison同样拥有深厚的技术背景,最近曾担任NFL总裁运营高级副总裁兼首席幕僚长。

该公司目前共有 20 名员工,分布在旧金山和印度班加罗尔。随着公司规模扩大,它正试图平衡客户需求和稳步发展的节奏,据他称,客户需求相当强劲。身为非裔美国人的 Harrison 显然认识到科技就业市场中缺乏多样性这一现象,他表示自己对此深思熟虑。“鉴于我的背景,以及帮助我走到今天的人,包括一群多元化的人才助我成功,我希望确保 Flip AI 具备同等甚至更高的多样性水平。”他说。

这 650 万美元的种子轮融资由 Factory 领投,Morgan Stanley Next Level Fund 和 GTM Capital 参与投资。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k