周三,德国维基媒体协会宣布推出“Wikidata Embedding Project”新数据库。该项目对维基百科及其姊妹平台近1.2亿条现有数据应用基于向量的语义搜索技术,使人工智能模型能更便捷地理解词语含义及相互关系。
结合对模型上下文协议(MCP)的新支持,该系统允许大型语言模型通过自然语言查询访问数据。项目由维基媒体德国分部、神经搜索公司Jina.AI及IBM旗下DataStax合作开展。
相较于以往仅支持关键词和SPARQL查询的工具,新系统更好地适配检索增强生成(RAG),帮助开发者构建基于经编辑验证知识的AI模型。数据结构化提供了关键语义上下文,例如查询“科学家”时,不仅列出相关人物名单,还包含多语言版本、授权图片及“研究员”等相关概念延伸。
该数据库已在Toolforge公开可访问,Wikidata将于10月9日举办面向开发者的网络研讨会。
在AI开发者争抢高质量微调数据的背景下,尽管训练环境日趋复杂,但精心策划的数据仍是系统良好运行的基础。相比Common Crawl等互联网抓取的大杂烩数据集,维基百科数据更具事实导向性,对高准确性部署尤为迫切。
追求高质量数据可能带来高昂成本。今年8月,Anthropic为终结不当使用作品训练的指控,同意支付15亿美元与作者达成和解。
Wikidata AI项目负责人Philippe Saadé强调项目独立于主要AI实验室或科技巨头。他表示:“此次Embedding Project的发布表明,强大的人工智能不必由少数公司控制,它可以是开放的、协作的,并旨在为所有人服务。”

