JetBrains（一家推出多款热门应用开发工具的公司）发布了其首款面向编程的“开放”AI模型。
周三，JetBrains 将其去年发布的代码生成模型 Mellum 在 AI 开发平台 Hugging Face 上公开提供。Mellum 基于超过 4 万亿个 token 进行训练，拥有 40 亿参数，专为代码补全（即根据上下文完成代码片段）而设计。
参数量大致对应模型的解决问题能力，而token是模型处理的原始数据位。一百万个token大约相当于3万行代码。
JetBrains 在一份技术报告中指出："Mellum 专为集成到专业开发者工具中（例如集成开发环境中的智能代码建议）、AI 驱动的编码助手以及代码理解和生成的研究而设计，同样非常适合教育应用和微调实验。"
JetBrains表示，它在包括来自GitHub的宽松许可代码和英文维基百科文章在内的多个数据集上训练了Mellum（该模型采用Apache 2.0许可证）。训练过程在由256块Nvidia H200 GPU组成的集群上进行了约20天。
Mellum需要一些工作才能运行起来。基础模型不能开箱即用，必须先进行微调。虽然JetBrains提供了一些针对Python微调过的Mellum模型，但该公司警告称，这些模型仅用于“评估潜在能力”，而非部署到生产环境中。
毫无疑问，AI 生成的代码正在改变软件构建的方式，但也带来了新的安全挑战。根据 2023 年底 开发者安全平台 Snyk 的一项调查，超过 50% 的组织偶尔或经常遇到由 AI 生成代码引发的安全问题。
事实上，JetBrains指出，Mellum可能“反映公共代码库中存在的偏见”（例如，生成与开源仓库风格相似的代码），并且其代码建议不一定“安全或无漏洞”。
"这仅仅是开始，" JetBrains 在 一篇博客文章 中写道，"我们并非追求通用性——而是专注于特定领域。如果 Mellum 能激发哪怕一次有意义的实验、贡献或合作，我们就认为这是成功的。"