无监督学习磨练整数打算求解器的新范式来了绫 丝袜。

中国科学本事大学王杰教学团队（MIRA Lab）提倡了一种全新的整数打算求解方法—— DiffILO（Differentiable Integer Linear Programming Optimization），干系论文已被东谈主工智能顶级海外会议 ICLR 2025 采选为 Spotlight。

效果线路：与现存主流的监督学习方法对比，DiffILO 不仅显贵加速磨练速率，还能生成更高质地的可行解。

小序：用机器学习解 ILP，为如何此勤劳？

整数线性打算（ILP） 是组合优化中最基础亦然最要道的一类问题，芜俚诳骗于工业改换、物流输送、收罗打算、芯片布图等现实场景。然则 ILP 的求解很是勤劳 —— 变量杂乱、可行域复杂、搜索空间指数爆炸，实验上属于 NP 难问题。

连年来，机器学习安祥被引入这一过程，尝试通过数据运转的方式加速求解器。但面前主流作念法大多依赖监督学习：先用传统求解器（如 Gurobi）生成一批解看成标签，然后磨练模子去"效法"这些解。这种作念法存在两大瓶颈：

腾贵的磨练本钱：每个样本齐需调用求解器生成标签；

磨练目的与测试目的不一致：只优化估量流毒，无法保险最终解的可行性与质地。

有莫得可能全齐开脱标签依赖，径直让模子"我方"学会求解 ILP 问题？

谜底是：不错！该论文提倡了DiffILO方法，不错用梯度下落来"解整数打算"！

中枢方法：DiffILO 是如何作念到的？

DiffILO，全称  Differentiable Integer Linear Programming Optimization，是一种无监督、端到端、可微分的 ILP 求解新范式。它的中枢转换是将杂乱、带拘谨的整数打算问题，振荡为连气儿、可微、无拘谨的问题，并借助深度学习模子来径直估量高质地解。

方法历程如下图所示：

方法苟简不错分为三个递次：

Step 1：从杂乱到连气儿——概率建模与拘谨期许化

ILP 问题的方法频频如下：

DiffILO 的第一步是将每个 0-1 变量视为伯努利散播下的就地变量，即。

其中是需要优化的概率值。

传统 ILP 的"硬拘谨"   被振荡为"期许拘谨抵触为零"：

这种期许建模方式有两个刚正：

仍能保留原问题的最优解结构；

易于被措置函数进一步振荡为无拘谨方法。

Step 2：从拘谨到目的——措置函数与可微重参数化

该方法使用措置函数法将上述期许拘谨合入目的函数：

但由于该函数的采样项并不成微，DiffILO 接收了Gumbel-Softmax + 重参数手段，将杂乱采样访佛为一个连气儿可导的函数：

使用  ，杀青对伯努利的可微访佛；

使用保留组合结构；

梯度通过回传，值通过保留，兼顾

"可微"和"杂乱"的双重需求。

最终得到一个险些处处可导的目的函数，不错径直用梯度下落

进行优化。

Step 3：从图中学—— GNN 建模与端到端磨练

每个 ILP 实例实验上不错被默示为一个二分图：左边是变量，右边是拘谨，边代表变量出当今对应拘谨中。

使用一个图神经收罗（GNN）来编码这个结构，输入为图 G，输出为概率向量，再接入一个 MLP 进行最终估量。

磨练过程全齐无监督，目的是最小化上述可微目的函数。还引入了三种磨练手段来增强踏实性：

样本归一化：对目的函数作念归一处理，安妥不同实例范畴；

余弦退火：自安妥学习率改换；

措置通盘调控：动态疗养 μ，均衡解质地与可行性。

实验效果

作家在多个递次 ILP 数据集（如 Set Covering、Independent Set、Combinatorial Auction）上进行了系统评估。效果线路：与现存主流的监督学习方法对比，DiffILO 不仅显贵加速磨练速率，还能生成更高质地的可行解，而况在与 Gurobi、SCIP 吞并使用时，显贵进步求解器的合座性能。

作家先容

本论文作家耿子介是中国科学本事大学 MIRA 实验室 2022 级博士生，师从王杰教学。此前，他于 2022 年毕业于少年班学院，取得数学与诳骗数学专科学士学位。他的主要计议观念包括机器学习在运筹优化与芯片想象等范畴的诳骗、大说话模子等。他在 NeurIPS、ICML、ICLR 等东谈主工智能顶级会议上发表论文十余篇，其中五篇论文入选 Oral/Spotlight。他曾获 2024 年度国度奖学金；曾两次获取丘成桐大学生数学竞赛优越奖；曾在微软亚洲计议院实习，获取"明日之星"名称；曾屡次担任顶会审稿东谈主，获评 NeurIPS 2023 Top 审稿东谈主；参与创办南京真则收罗科技有限公司。

论文地址：

openreview.net/pdf?id=FPfCUJTsCn

一键三连「点赞」「转发」「注重心」

接待在指摘区留住你的思法！

—  完  —

学术投稿请于使命日发邮件到：

ai@qbitai.com

标题注明【投稿】，告诉咱们：

你是谁，从哪来，投稿内容‍

附上论文 / 样式主页相连，以及计划方式哦

咱们会（尽量）实时复兴你

� � 点亮星标 � �

科技前沿证明逐日见绫 丝袜