大数跨境

Distributional 希望开发软件以降低人工智能风险

Distributional 希望开发软件以降低人工智能风险 海外洞察
2023-12-14
0
导读:专注于开发帮助管理人工智能风险的软件初创公司Distributional,已从风险投资机构处获得1,100万美元的种子轮融资。

企业对人工智能提升生产力充满期待,但也对其风险保持警惕。Workday调查显示,数据时效性与可靠性、潜在偏见及安全隐私问题,是实施AI的主要障碍。

曾联合创立AI训练平台SigOpt(2020年被英特尔收购)的斯科特·克拉克,察觉商机后成立Distributional公司,致力于打造“使AI安全可靠的软件”,将测试标准化并扩展至不同应用场景。

克拉克表示:“Distributional正构建面向企业的现代AI测试评估平台。随着AI能力增强,危害风险同步上升。我们的平台专为AI产品团队设计,助其在生产环境中主动、持续地识别和应对风险,避免客户受损。”

在英特尔担任AI及高性能计算部门副总裁期间,克拉克发现难以保证高质量AI测试的频率,这激发了他创立Distributional的想法。他指出:“无论是幻觉、不稳定性还是集成挑战,团队往往难以通过测试有效识别和应对AI风险。正确的AI测试需要深度与分布理解能力,这是亟待解决的难题。”

Distributional核心产品旨在检测诊断大语言模型等AI模型的“危害”,半自动化厘清测试内容、方式及地点,为组织提供预生产环境中的AI风险全面视图。

针对现有手动测试耗时低效或被动监控不完整的问题,克拉克介绍道:“我们的平台包含可扩展测试框架,用于持续分析稳定性与鲁棒性;可配置仪表盘,可视化呈现测试结果;以及智能测试套件,用于设计和生成合适的测试组合。”

目前克拉克对功能细节及平台整体轮廓仍持保留态度,称项目处于早期阶段,正与合作伙伴共同设计产品。

面对Kolena、Giskard等竞品及科技巨头的模型评估工具,尚未产生收入的Distributional如何竞争?克拉克强调其企业级定位:“我们专注于满足大型企业在数据隐私、可扩展性及复杂性方面的需求,这与侧重个体开发者的现有产品形成差异化。”

按计划,Distributional将于明年正式商用并开始创收。今日,该公司宣布完成1100万美元种子轮融资,由Andreessen Horowitz领投,Operator Stack、Point72 Ventures、SV Angel、Two Sigma及天使投资人参与。

克拉克表示:“完善的测试将增强团队部署AI的信心。随着应用增多,影响呈指数级增长,进而推动解决更复杂的问题,而这又需要更多测试来确保安全稳固,从而开启良性循环。”

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k