在生成式AI浪潮中，创新总监们正加强企业IT力量，开发基于领域特定信息的定制化聊天机器人或大语言模型（LLM）。这些方案需兼具强大功能、数据安全合规性以及高准确性。
面对“从头构建LLM”还是“用自有数据微调现有模型”的选择，对大多数公司而言均不可行。原因如下：
TL;DR（太长不看）：只要提示词序列得当，LLM即可精准执行指令。为适应特定领域信息，无需修改LLM本身或其训练数据。
建议在考虑高成本替代方案前，优先投入精力构建全面的“提示架构”。该方法旨在从各类提示中提取最大价值，增强基于API工具的性能。
若提示架构仍无法满足需求（少数情况），才考虑微调（因涉及数据准备，成本通常更高）。而从头构建几乎总是不可行的。
核心目标是利用现有文档创建定制化解决方案，以准确、快速且安全地自动化高频任务或解答常见问题。提示架构是实现该目标最高效、最具成本效益的途径。
提示工程与微调有何区别？
若考虑采用提示工程，需先厘清其与微调的关键区别：
微调涉及修改底层基础LLM，而提示工程不会。
微调是一项重大工程，需用大型新数据集（理想情况下为专有数据）重新训练LLM部分参数，赋予其领域特定知识以适应行业和业务背景。
相比之下，提示工程在不修改模型及训练数据的前提下，通过结合复杂且精心设计的提示序列，利用现有LLM获取一致输出结果。
微调适用于对数据隐私要求最严格的公司（例如银行）
表面上看，微调似乎高效：省去构建新模型的麻烦，仅需用自有数据重训现有模型。
但微调的隐藏成本在于获取数据集并使其兼容LLM及业务需求。一旦数据集就绪，后续过程（上传数据、支付API及计算费用）相对轻松。
鉴于高昂成本，仅当基于提示工程的解决方案失败时，才建议采用微调。
此外，无论何种情况，通常都需要强大的提示架构来充分利用微调的输出结果。
咨询技术合作伙伴时，应重点询问其数据集准备的专业能力及全面成本估算。若对方省略这些信息，需警惕服务可靠性或实践经验不足的风险。
通常，有价值的微调案例在投入运营前，应先进行基于提示架构的概念验证阶段。
构建针对贵公司数据量身定制的安全解决方案
以研究工具为例：该解决方案能为涉及数百份文档的问题提供近乎即时的答案。员工可通过具备企业级安全控制和用户管理功能的网页界面访问。系统通过API构建，并利用提示架构针对您的数据和目标进行定制。
例如，用户提问“显示简·多伊和约翰·史密斯之间所有提及‘交易’的对话”，工具会扫描文档并提供易读结果。该系统结合精心设计的检索机制与智能提示，处理长篇文本并生成连贯响应。
Dentons [Springbok AI 的客户] 最近推出了 FleetAI：这是法律行业首创的专有 ChatGPT 版本，用于分析和查询上传的法律文档。
从头开始构建新的 LLM 并非易事
若选择从零构建“自己的 LLM”以达到相同效果，将面临艰巨挑战。这种雄心往往不切实际：成本至少高达1.5亿美元，且结果可能仅具实验性质。试图创建专有LLM，意味着要与Meta、OpenAI、Google等成熟玩家或顶尖大学研究部门竞争。
全球具备此能力的公司可能仅有两位数。高管们常说的“自己的LLM”，实际上是指针对其数据量身定制的安全LLM驱动解决方案。对于大多数寻求“自己的LLM”的高管而言，务实途径是通过微调或提示架构，构建针对自身数据的定制化解决方案。
提示架构的基本最佳实践
首先，需创建数据流和软件架构图，表示解决方案整体设计，并纳入分析反馈机制。
其次，制定基于上下文的文本增强指南，包括提示模板以及指定的语气和长度。
随后，根据所选输出模式调整架构，例如仪表板、对话式界面或基于模板的文档。
可集成其他数据源：数据库用于高效检索，Salesforce用于CRM通信，光学字符识别（OCR）功能用于处理图像或扫描文档中的文本。
最后，实施输出质量评估措施。当输出不符合标准时，系统通过反馈循环修改文本，检查是否存在冒犯性语言、不当语气、长度问题及虚假信息。通过所有检查后，消息才会发送给用户。
无法保证LLM不发生幻觉或偏离正轨，AI永远无法达到100%准确率。尽管如此，这些响应准确性检查仍致力于将异常输出扼杀在萌芽状态。
关键要点
创新总监们寻求定制化聊天机器人和LLM，却面临从零构建还是微调的两难选择。对大多数人而言，这两种方案都难以实现。
LLM通过结构良好的提示词展现出令人印象深刻的适应性。建议在尝试高成本替代方案前，全面探索提示词架构；此外，即使选择微调或自行构建模型，也需借助提示词架构才能实现预期效果。