庞大的训练数据集是通往强大AI模型的门户，但往往也是这些模型的致命弱点。
偏见源于大型数据集中隐藏的歧视性模式，例如图像分类数据集中主要包含白人CEO的照片。此外，大型数据集可能杂乱无章，以模型无法理解的格式呈现，其中包含大量噪声和无关信息。
在近期德勤对采用AI的公司的调查中，40%的企业表示，与数据相关的挑战（包括彻底准备和清理数据）是阻碍其AI计划的主要担忧之一。另一项针对数据科学家的民意调查显示，约45%的数据科学家时间花在数据准备工作上，如“加载”和清理数据。
阿里·莫科斯（Ari Morcos）在AI行业工作了近十年，他希望抽象化AI模型训练周围许多数据预处理流程——为此他创立了一家初创公司来实现这一目标。
莫科斯的公司在DatologyAI构建工具来自动整理用于训练OpenAI的ChatGPT、Google的Gemini及其他类似GenAI模型的数据集。据莫科斯声称，该平台可以根据模型的应用场景（例如撰写电子邮件）识别哪些数据最为重要，此外还能提供通过添加额外数据来扩充数据集的方法，以及在模型训练期间如何分批或将其划分为更易管理的块。
“模型即其所食——模型是其训练数据的反映，”莫科斯在电子邮件采访中表示。“然而，并非所有数据都生而平等，某些训练数据比其他数据有用得多。以正确的方式使用正确的数据训练模型，会对最终模型产生重大影响。”
Morcos拥有哈佛大学神经科学博士学位，曾在DeepMind工作两年，运用受神经学启发的技术来理解和改进AI模型，并在Meta的AI实验室工作了五年，揭示了模型功能背后的基本机制。他与联合创始人Matthew Leavitt以及前亚马逊和Twitter工程负责人Bogdan Gaza共同创立了DatologyAI，旨在简化各种形式的AI数据集策展工作。
正如Morcos所指出的，训练数据集的构成会影响在其上训练的模型的几乎所有特征——从模型在任务上的表现到其规模以及领域知识的深度。更高效的dataset可以减少训练时间并产生更小的模型，从而节省计算成本；而包含特别多样化样本的数据集通常能更熟练地处理冷门请求。
随着对GenAI（生成式人工智能）的兴趣因其高昂的成本而闻名达到历史新高，AI实施成本成为高管们关注的焦点。
许多企业选择针对自身目的微调现有模型（包括开源模型），或通过API选择托管供应商服务。但出于治理和合规等原因，一些企业正在从头开始基于自定义数据构建模型，并花费数万至数百万美元的计算资源来训练和运行这些模型。
Morcos说：“公司已经收集了海量的数据宝藏，并希望训练高效、高性能且专业化的AI模型，以最大化其对业务的益处。”“然而，有效利用这些海量数据集极具挑战性，如果处理不当，会导致性能更差、训练时间更长且[体积]大于必要的模型。”
DatologyAI可以扩展到任何格式的“PB级”数据——无论是文本、图像、视频、音频、表格数据，还是基因组学和地理空间等更“异类”的模态——并部署到客户的基础设施中，无论是本地部署还是通过虚拟私有云。这使其区别于其他数据准备和策展工具，如CleanLab、Lilac、Labelbox、YData和Galileo，Morcos声称，这些工具在处理数据的范围和类型方面往往更加有限。
DatologyAI还能够确定数据集中哪些“概念”——例如教育聊天机器人训练集中与美国历史相关的概念——更为复杂，因此需要更高质量的样本，以及哪些数据可能导致模型以非预期的方式行为。
Morcos说：“解决[这些问题]需要自动识别概念、它们的复杂性以及实际需要的冗余程度。”“数据增强通常使用其他模型或合成数据，具有极大的威力，但必须以谨慎、有针对性的方式进行。”
问题是，DatologyAI的技术究竟有多有效？我们有理由持怀疑态度。历史表明，无论方法多么先进或数据多么多样，自动化数据策展并不总是能按预期发挥作用。
LAION，一家主导多个生成式AI项目的德国非营利组织，被迫下架了一个由算法筛选的AI训练数据集，因为发现该数据集中包含儿童性虐待图像。此外，像ChatGPT这样的模型在针对特定提示时，已被证明会生成有害内容。这些模型是在经过手动和自动毒性过滤的数据集混合体上训练的。
一些专家可能会争辩说，无法摆脱人工整理——至少如果你希望用AI模型取得良好结果的话。目前最大的供应商，从AWS到Google再到OpenAI，都依赖团队的人类专家和(有时薪酬偏低)标注员来塑造和完善他们的训练数据集。
Morcos坚持认为DatologyAI的工具并非旨在完全取代人工策展，而是提供数据科学家可能未曾想到的建议，尤其是与缩减训练数据集规模问题相关的建议。他在这方面颇具权威——在2022年，他与斯坦福大学和蒂宾根大学的研究人员共同撰写了一篇关于在保持模型性能的同时进行数据集裁剪的学术论文，该论文获得了当年NeurIPS机器学习会议的最佳论文奖。
“大规模地识别合适的数据极具挑战性，这是一个前沿的研究问题，”Morcos表示。“[我们的方法]使模型训练速度大幅提高，同时提升了下游任务的性能。”
DatologyAI的技术显然足够有前景，足以说服科技和AI领域的巨头投资该公司的种子轮融资，包括Google首席科学家Jeff Dean、Meta首席AI科学家Yann LeCun、Quora创始人兼OpenAI董事会成员Adam D’Angelo以及Geoffrey Hinton，后者被誉为现代AI核心领域最重要技术的开发者之一。
DatologyAI 1165万美元种子轮融资的其他天使投资人包括Amplify Partners（领投）、Radical Ventures、Conviction Capital、Outset Capital和Quiet Capital等机构参与的Cohere联合创始人Aidan Gomez和Ivan Zhang、Contextual AI创始人Douwe Kiela、前英特尔人工智能副总裁Naveen Rao以及生成式扩散模型发明者之一的Jascha Sohl-Dickstein。至少可以说，这是一份令人印象深刻的AI名人名单——这也表明Morcos的主张可能确有几分道理。
“模型的优劣取决于其训练数据，但在数十亿甚至数万亿个样本中识别合适的训练数据是一个极其困难的问题，”LeCun在声明中表示。“Ari及其在DatologyAI的团队是该问题的世界级专家，我相信他们正在打造的产品——让任何人都有机会获得高质量的数据策展服务以训练模型——对于帮助实现AI普惠大众至关重要。”
总部位于旧金山的DatologyAI目前拥有10名员工，包括联合创始人，但如果达到某些增长里程碑，计划到今年年底将员工人数扩展至约25人。
我问Morcos这些里程碑是否与获客有关，但他拒绝透露——而且颇具神秘色彩的是，他不愿披露DatologyAI当前客户群的大小。