StarRocks 开源之夏项目亮相：打造内置 LLM 函数 llm()

项目名称：为 StarRocks 添加 llm() 用户自定义函数以实现 LLM 交互

项目简述：

本项目旨在为 StarRocks 数据仓库系统新增一个内置用户自定义函数（UDF）llm()，使用户能够直接在 SQL 查询中调用大型语言模型（LLM），执行情感分析、文本摘要、数据分类、实体抽取等任务，从而显著简化 AI 驱动的数据处理流程。

该函数支持通过 SQL 与 OpenAI、Azure OpenAI 以及 Ollama 等兼容服务进行交互，并通过灵活的配置参数允许用户自定义 LLM 交互的各个方面。函数签名为：llm(prompt: string, config: json_string) -> string，其中 prompt 可为静态字符串或基于表列动态生成，config 用于定义调用细节，返回值为 LLM 的响应内容。

这一功能将显著降低数据出库和二次处理的复杂度，让用户能够在数据存储位置直接利用大模型能力，提升整体数据处理效率和智能化水平。

未来，项目还计划扩展对嵌入式推理引擎（如 llama.cpp）以及文本嵌入生成等能力的支持，进一步拓展 StarRocks 在 AI 场景下的应用边界。

项目产出要求：

• 功能完整的 LLM UDF 实现与测试

• 使用文档 + 示例教程 + 故障排查

• 符合 StarRocks 质量标准的开源贡献

项目技术要求：

• 熟悉 C++ 和数据库开发

• 理解 RESTful API、JSON、HTTP 通信

• 熟悉 LLM API（如 OpenAI API）的基本概念

• 能够编写清晰、可维护的代码和全面的测试

• 良好的问题解决能力和调试技能

项目难度：基础

项目奖金：税前 8000 RMB

导师：常冰琳

报名时间：05/09 - 06/09

报名方式：点击官网右上角【学生登录】按钮，注册并提交个人资料，资料通过组委会审核后可进行项目申请。

StarRocks 项目申请入口：https://summer-ospp.ac.cn/org/orgdetail/fbddcc44-29d8-407b-abc4-13dcaf02d662?lang=zh

提交材料：包含技术方案、开发计划及个人简历（需注明技术栈与项目经验）。

如你对 StarRocks 的开源之夏项目感兴趣，或在报名、申请书撰写过程中有任何疑问，欢迎通过邮件联系项目导师（changbinglin@starrocks.com），或添加小助手微信与我们沟通，我们将第一时间为你提供帮助。