大数跨境

CTGT旨在使人工智能模型更安全

CTGT旨在使人工智能模型更安全 海外洞察
2024-10-29
0
导读:CTGT是入选TechCrunch Disrupt 2024“Battlefield 200”初创企业名单的公司之一,致力于让AI模型在部署时更加安全。

作为移民家庭长大的孩子,Cyril Gorlla自学编程并达到痴迷程度。他在断水停电的环境中成长,11岁时便在母亲的社区大学编程课程中取得优异成绩。

高中时期,Gorlla对AI产生浓厚兴趣,甚至拆解笔记本电脑升级散热系统以训练模型。这种实践能力助他大二时获得Intel实习机会,研究AI模型优化与可解释性。

大学期间正值AI热潮,Gorlla虽看好AI改变行业的潜力,但也担忧安全工作被忽视。他表示:“模型输出的不确定性和缺乏信任是医疗、金融等行业采用AI的重大障碍。”

辍学创立CTGT,专注AI安全审计

为此,Gorlla与同学Trevor Tuttle辍学创立CTGT,旨在帮助企业审慎部署AI。该公司在TechCrunch Disrupt 2024 Startup Battlefield竞赛中亮相。

CTGT通过与企业合作,识别并解决模型偏见输出和幻觉问题的根源。Gorlla指出,虽然无法完全消除错误,但CTGT的审计方法能有效减轻风险。他强调:“当患者获得过时信息或信贷决策基于幻觉时,后果不可接受;我们的技术揭示了模型对概念的内部理解。”

技术优势与市场验证

行业调研显示,可靠性是企业采用AI的核心关切。尽管TruEra、Patronus AI及科技巨头均在布局模型评估工具,但Gorlla声称CTGT性能更优。其核心在于不依赖训练“裁判”AI监控生产环境,从而在保证数学可解释性的同时降低计算成本,使企业无需额外训练模型即可严格测试AI安全性。

为消除数据泄露顾虑,CTGT提供托管和本地部署两种选项,年费相同且客户拥有完全数据控制权。

获知名投资人支持,前景广阔

作为Character Labs加速器毕业生,CTGT获得了前GV合伙人Jake Knapp、John Zeratsky、Mark Cuban及Zapier联合创始人Mike Knoop的支持。Mark Cuban表示:“无法解释推理过程的AI在复杂领域不够智能,CTGT解决了这一问题。”

目前,CTGT已服务多家财富10强品牌,曾帮助某公司通过平台即时洞察,修正了面部识别算法因过度关注头发服装而产生的偏见。

未来数月,CTGT将扩充工程团队并完善平台。分析机构预测,到2028年“可解释AI”市场规模将达162亿美元。Gorlla认为,随着模型规模扩张超越摩尔定律,必须专注于AI基础理解,以应对决策低效性和复杂性挑战。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14179
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读975
粉丝0
内容14.2k