大模型与组合优化的碰撞，正把过去只能靠启发式求解器反复调参的NP-hard问题，推向自然语言建模、端到端近似求解的新路径。从LLM直接生成可行解、大模型充当求解器的策略与算子选择器，到语言模型与图神经网络、强化学习求解框架的混合调度，两条原本割裂的技术线正在快速并轨。
本文从近年顶会顶刊中整理了10篇该方向的最新前沿论文，正在做相关课题的伙伴可以直接下方领取论文及代码（部分包含），不管是快速搭baseline、找创新切口，还是跟最新技术趋势，都能省不少从零摸索的功夫。
长按识别下方二维码，回复【llm组合】
无偿领全部论文合集及项目代码
Aligning LLMs with Graph Neural Solvers for Combinatorial Optimization
对齐大语言模型与图神经求解器的组合优化方法
文章内容
本文指出纯语言模型难以刻画组合优化问题（COP）中的复杂结构关系，在中等及以上规模实例上效果显著衰减。据此提出AlignOPT框架：利用LLM编码COP的文本描述与实例信息，同时用图神经编码器显式建模节点与边的拓扑结构，通过文本-图对比损失TGC（拉近同一节点的语义与结构表示）与文本-图匹配损失TGM（二分类判别图文是否同源）做多任务预训练对齐。微调阶段仅用图编码器与解码器做强化学习训练，推理时不再依赖LLM。在TSP、CVRP、KP、MVCP、SMTWTP上最优性间隙逼近0%，且可零样本迁移到未见过的COP。
Efficient Heuristics Generation for Solving Combinatorial Optimization Problems Using Large Language Models
基于大语言模型的高效组合优化启发式生成方法
文章内容
本文针对LLM驱动启发式生成中搜索方向不明确、评测开销过大两个瓶颈，提出Hercules与Hercules-P。核心创新是零样本的核心抽象提示CAP：从当前种群中提取若干精英启发式的共同核心组件，作为先验注入提示词，使LLM输出更具体的搜索方向，作者用信息增益公式证明其能降低方向熵。Hercules-P进一步引入少样本性能预测提示PPP，让LLM基于与已评测启发式的语义相似度预测适应度，并配置信度分层机制区分可靠与待复核预测。在5类COP、8种LLM上，Hercules平均增益优于随机与EoH/ReEvo，Hercules-P可节省70%~77%的搜索时间。
Large Language Models as End-to-End Combinatorial Optimization Solvers
大语言模型作为端到端组合优化求解器
文章内容
本文提出让LLM直接从自然语言问题描述生成解，跳过代码生成与求解器调用的中间环节。采用两阶段微调：先用领域专用求解器（LKH3、QIG、OR-Tools等）产出的高质量解构造"问题-解答"对，以指令微调SFT学习解生成模式，仅更新LoRA参数；但SFT策略存在过拟合式贪婪，会为优化目标而轻微违反约束。第二阶段引入可行性-最优性感知强化学习FOARL，以约束违反数为惩罚、目标值为奖励构建复合回报，采用group relative policy optimization训练，并配合Best-of-N推理采样。用7B参数模型在TSP、OP、CVRP、MIS、MVC、PFSP、JSSP七类问题上最优性间隙1.03%–8.20%，全面超越GPT-4o、DeepSeek-R1与领域启发式。
↓↓听说在下方一键三连的都Accept了🌝
