VNGRS从零开发并预训练的74亿参数土耳其语大模型Kumru近日向开发者开放。该模型完全针对土耳其语从零预训练，同时支持英语和代码。Kumru拥有8192个token上下文长度，可处理多达20页A4纸文档，用户可通过Kumru.ai界面体验。
VNGRS机器学习（ML）负责人Melikşah Türker在博客文章中表示，基于安全性、合规性及土耳其语卓越性考量，机构内部需要基础大模型。因此公司决定开发轻量级、零样本（zero-shot）的70亿参数模型，确保消费级GPU即可运行。
Kumru的训练过程
在为期45天的预训练阶段，Kumru使用H100和H200 GPU在500GB清洗去重文本上训练，接触了3000亿个token；随后针对约100万样本混合数据进行微调，以支持多种应用场景。
Kumru的突出特点
Kumru架构基于Mistral-v0.3，批量大小、优化器和学习率等设计参考LLaMA-3技术文档，可在仅配备16GB显存的GPU（如RTX A4000或RTX 3090）上运行。
Türker强调土耳其数据隐私法规，指出Kumru是本地部署的理想模型，在金融、医疗等行业定制化LLM解决方案方面表现突出。
Kumru应用范围广泛，涵盖研究到企业级应用，可轻松集成至RAG聊天机器人、文档摘要、呼叫中心分析及社交媒体内容生成等场景。
评估基准Cetvel结果显示，Kumru总体显著落后于LLaMA-3.3–70B、Gemma-3–27B、Qwen-2–72B和Aya-32B等更大规模模型。Kumru.ai界面已添加警告，提示该技术处于积极开发中，可能存在错误。
除Kumru-7B外，更小的开源版本Kumru-2B已在Hugging Face发布，具备相同规格：8192 token上下文长度和3000亿token预训练数据。VNGRS人工智能与数据总裁兼总经理Aydın Han表示，70亿参数模型已就绪演示和内部使用，即使在16GB GPU本地部署也能实现高性能运行。