情色图片

丝袜 芯片瞎想效能进步2.5倍,中科大华为诺亚调治,用GNN+蒙特卡洛树搜索优化电路瞎想

发布日期:2025-04-10 15:05    点击次数:80

丝袜 芯片瞎想效能进步2.5倍,中科大华为诺亚调治,用GNN+蒙特卡洛树搜索优化电路瞎想

芯片瞎想是当代科技的中枢丝袜,逻辑优化(Logic Optimization, LO)行为芯片瞎想经过中的关键要害,其效坦荡接影响着芯片瞎想的举座性能。

可是,传统逻辑优化算子由于存在大量无效和冗余的变换,导致优化过程耗时较长,成为制约芯片瞎想效能的主要瓶颈。

为解决这一挑战,中科大王杰训导团队(MIRALab)和华为诺亚方舟实验室(HuaweiNoah ’ sArkLab)调治建议了基于神经象征函数挖掘的高效逻辑优化模范,权贵进步传统关键逻辑优化算子开动效能最高达 2.5 倍。

论文已被 ICLR 2025 接受。

计划团队建议了一种翻新的数据驱动的电路神经象征学习框架—— CMO。

平庸解释,计划团队开导了一种贤慧又高效的 AI 算法框架。这个系统通过"看图识路"(图神经辘集)加上"会棋战的战略"(蒙特卡洛树搜索),大约自动学会如何更快、更智能地"剪枝"电路逻辑——就像帮电路减肥,让它开动得更快但不丢性能。

在履行测试中,CMO 能让关键算法开动效能进步最多 2.5 倍,也便是说,蓝本跑 10 分钟的任务,当今 4 分钟就处理了。这个时期依然被集成进华为自研的EMU 逻辑详细器具中,有劲地相沿了 EDA 器具全链条国产化任务。

小引

芯片瞎想自动化(EDA)被称为"芯片之母",是半导体行业的关键基石。逻辑优化(LO)是前端瞎想经过中最进攻的 EDA 器具之一,其中枢任务是通过功能等效的调度来优化电路,减少电路的限制和深度,从而进步芯片的质地。

LO 任务是一个 NP-hard 问题。为了解决 LO 问题,现存的启发式算子(如 Mfs2 [ 1 ] 、Resub [ 2 ] 、Rewrite [ 3 ] 、Refactor [ 4 ] 等)通过遍历电路图节点并进行局部调度而竣事逻辑优化。但由于现存算子存在大量无效和冗余的调度,导致优化过程相配耗时,严重罢了了芯片瞎想的效能。为了提高 LO 的效能,先前的计划建议使用打分函数来展望并剪枝无效的节点调度。

现存的打分函数约莫分为两类,第一类是东谈主工瞎想的启发式决策 [ 5 ] ,这些模范天然具有可解释性,但瞎想过程复杂,且泛化性能较差,难以保证算子优化性能。第二类是基于图神经辘集(GNN)的深度学习决策 [ 6 ] ,尽管 GNN 在 LO 任务中阐扬出色,但且推理严重依赖于 GPU,难以在纯 CPU 的工业环境中部署。此外,GNN 的"黑箱"特质也激勉了对其可靠性的担忧。因此,如何找到兼具推理效能、可解释性和泛化性能的打分函数是逻辑优化鸿沟亟待解决的费事。

为了解决上述费事,计划团队建议了首个数据驱动的电路神经象征学习框架(Circuit symbolic learning framework,CMO ) ,该框架收受老师 - 学生范式,哄骗泛化性强的 GNN 模子行为老师,并指挥行为学生的基于蒙特卡洛树搜索的象征学习决策,从而有用生成兼具泛化智商与轻量化的象征打分函数。

在三个具有挑战性的电路基准测试中,离线实验罢了标明,CMO 学习到的可解释象征函数在推理效能和泛化智商方面均权贵优于此前基于 GPU 的开头进模范以及东谈主工瞎想的决策。此外,在线实验进一步考据了 CMO 的履行应用价值:CMO 大约在保抓关键算子优化性能的同期进步其开动效能最高达 2.5 倍。该决策为芯片瞎想器具的高效化提供了新的解决决策,咫尺已得胜应用于华为自研 EMU 逻辑详细器具中。

布景与问题先容 1. 逻辑优化(Logic Optimization,LO)

逻辑优化是电子瞎想自动化(EDA)器具中的关键模块,旨在通过优化由有向无环图暗示的电路图 ( 即减少电路图的面积与深度 ) ,进步芯片的性能、功耗和面积(PPA)。逻辑优化每每分为两个阶段:

映射前优化(Pre-mapping Optimization):在电路映射到时期库之前,使用启发式算法(如 Rewrite、 Resub、 Refactor 等)对电路进行优化。

映射后优化(Post-mapping Optimization):在电路映射到时期库(如圭臬单位网表或 K 输入查找表)后,进一步使用启发式算法(如 Mfs2)对电路进行优化。

逻辑优化的中枢任务是通过功能等效的调度减少电路的限制和深度,从而进步芯片的质地。可是,逻辑优化是一个 NP 难问题,现存的启发式算法天然有用,但由于存在大量无效和冗余的调度,导致优化过程相配耗时。因此,如何提高逻辑优化的效能成为芯片瞎想中的一个关键挑战。

2. 基于节点剪枝的高效逻辑优化框架

为了进步逻辑优化的效能,计划者建议了如图 1 所示的展望与剪枝框架(Prediction and Prune Framework),该框架通过引入打分函数来展望并剪枝无效的节点调度,从而减少无谓要的诡计支拨。具体来说:

乱伦小说

节点级调度(Node-level Transformations):逻辑优化启发式算子(如 Mfs2)每每会对电路中的每个节点按次应用调度。可是,好多调度是无效的,即它们不会对电路的优化罢了产生骨子性影响。

打分函数的作用:打分函数用于评估每个节点的调度是否有用。通过展望并剪枝无效的节点调度,不错权贵减少启发式算法的诡计量,从而进步优化效能。

△图 1. 逻辑优化中的展望与剪枝框架

可是,现存的评分函数在以下几个方面存在局限性:

1. 推理效能:基于深度学习的评分函数(如 GNN)天然展望准确率高,但其推理时刻长,在纯 CPU 环境的大限制工业电路上推理时刻最高可占算子开动时刻的 30%,因此难以得志工业需求。

2. 可解释性:深度学习模子(如 GNN)的"黑箱"特质使得其在履行应用中的可靠性受到质疑。

3. 泛化性能:东谈主工瞎想的评分函数天然具有可解释性,但其泛化性能较差,难以稳妥不同电路的特质。

为了解决这些问题,本文建议了CMO 框架,通过学习轻量级、可解释且泛化智商强的象征函数来优化逻辑综划算子。

模范

为了挖掘轻量化象征打分函数,最初建议了数据驱动的神经象征学习框架 ( Circuit Symbolic Learning framework, CMO ) ,在 CMO 中的中枢时期孝顺是图增强的蒙特卡洛树搜索决策 ( Graph Enhanced Symbolic Discovery Framework, GESD ) ,通过学习图神经辘集内蕴的常识以进步象征函数的泛化智商。

1. 数据驱动的神经象征学习框架 -CMO

如图 2 所示,CMO 描绘了该计划所有这个词这个词象征函数学习与履行部署的 pipeline。

△数据驱动的神经象征学习框架 CMO 数据汇集

通过应用逻辑优化启发式算法(如 Mfs2)对电路进行优化,生成数据集。关于电路中的每个节点,生成一个数据对,其中是节点特征,是标签(淌若节点调度有用则标签为 1,不然为 0)。

关于一个给定的电路图,汇集到的数据为

,预计打算是从中学习轻量且可解释的象征函数。

结构 - 语义特征解析

关于节点特征的瞎想,计划团队参考了 [ 5 ] 的瞎想,将节点特征瞎想为了包含图结构与图语义信息的高维特征。其中,结构特征包含电路的拓扑信息(如节点的层级、扇入 / 扇出数等),而语义特征包含功能信息(如节点的真值表)。可是,高维特征会导致搜索空间急剧增多,为了解决这一问题,建议了结构 - 语义特征解析战略。团队不雅察到结构特征是一语气的,相宜数学象征记忆;而语义特征是闹翻的,相宜布尔象征学习。因此,将特征分离并永诀使用不同的象征记忆决策学习,权贵减少了象征搜索空间,并从结构与语义两个维度集成信息,故意于模子泛化性能的进步。

神经象征函数学习

结构函数学习:关于一语气的结构特征,该函数将结构特征映射为一语气值。

语义函数学习:关于闹翻的语义特征,该函数将语义特征映射为闹翻值。

特征信息会通

在测试阶段,将历练取得的结构函数与语义函数同期行为部署模子,并将结构函数和语义函数的输出会通,取得节点的最终分数:

其中是一个权重参数,用于均衡两种特征的进攻性。

2. 图增强的蒙特卡洛树象征搜索决策 -GESD

在 CMO 中,如何从给定的电路数据中发现具有强泛化智商的象征函数是一个关键问题。为此,建议了首个图增强的蒙特卡洛树象征搜索决策—— GESD(如图 3 所示)。

该决策通过图神经辘集(GNN)指挥蒙特卡洛树的生成,机密说合了图神经辘集的高泛化智商与象征函数的轻量化上风,从而权贵进步了象征函数的泛化性能。

△图 3. 图增强的蒙特卡洛树象征搜索决策 GESD 象征树生成

象征操作符:在生成象征函数之前,需要界说搜索中使用的象征。用于生成结构抒发式树的数学运算符包括:{+, − , × , ÷ , log, exp, sin, cos}。团队莫得使用占位符来生成常数,因为引入里面常熟优化轮回每每会导致 更高的历练老本。此外,团队发现像 exp、sin、cos 等复杂操作符大约有用进步象征函数的展望性能。关于生谚语义抒发式树的布尔运算符包括:{ 与,或,非 },通过与或非的组合大约拟合纵情一个布尔抒发式。

蒙特卡洛树搜索:受到蒙特卡洛树搜索(MCTS)在有用探索大型复杂象征空间方面的上风启发(Sun 等,2023;Xu 等,2024),使用象征抒发式树来暗示象征函数通过抒发式树并哄骗 MCTS 生成象征树。关于一棵象征树,他的里面节点是数学运算符(如加、减、乘、除、对数、指数等),叶子节点是输入变量或常数。界说景况(s)为现时抒发式树的先序遍历,动作(a)为添加到景况中的象征操作符或变量。具体来说,此计划中的 MCTS 包括四个标准:遴荐、推广、模拟和反向传播。

1. 遴荐:在遴荐阶段,MCTS 代理遍历现时抒发式树,遴荐具有最大 UCT 值的动作。为了确保生成抒发式的正当性,在现时景况下,MCTS 代甘心屏蔽掉现时非结尾节点的无效动作,并在此基础上遴荐一个有用的动作行为。

2. 推广:当遴荐阶段达到一个可推广节点——即它的子节点并非一谈已被造访—— MCTS 代甘心通过立时遴荐一个未造访的有用子节点来推广该节点。

3. 模拟:在现时景况和推广节点的基础上,通过立时遴荐下一个节点进行仿真,直到抒发式树完成。具体来说,进行 10 次仿真,并复返最大仿真奖励,而不是传统 MCTS 算法中的平均奖励,以找到惟一的最优象征解,这是一种与传统 MCTS 算法不同的贪念搜索启发式模范。

4. 反向传播:仿真收尾后,更新旅途中从现时节点到根节点的最大奖励 Q 和造访次数 N。该搜索算法会不断雷同上述标准,直到得志罢手准则。

图增强象征函数

老师 - 学生框架:

引入图神经辘集(GNN)行为老师模子,通过蒸馏 GNN 的"暗常识"来增强象征函数的泛化智商。具体来说,最初在历练数据集上历练一个 GNN,该 GNN 大约有用捕捉电路中的复杂结构和语义信息,从而解决由于电路鸿沟散布大幅度变化而导致的泛化智商差的问题。然后,哄骗 GNN 的展望输出和果然标签来指挥象征函数的学习过程。

这种老师 - 学生框架的中枢想想是通过 GNN 的高泛化智商来辅导象征函数的生成,从而弥补传统象征模范在泛化性能上的不及。

奖励函数瞎想:

在 MCTS 的模拟阶段,使用以下奖励函数评估象征函数:

其中是基于标签的亏损,用于确保象征函数的展望罢了与果然标签一致;

是基于 GNN 输出的亏损,用于将 GNN 的泛化智商挪动到象征函数中。通过调治权重不错均衡标签信息和老师常识的进攻性。此外,是一个刑事背负因子,用于功令象征函数的复杂度,确保生成的象征函数既简略又高效。

图蒸馏

通过最小化象征函数输出与 GNN 输出之间的均方弱点(MSE),将 GNN 的泛化智商挪动到象征函数中。与以往使用 KL 散度的模范不同,MSE 大约平直学习 GNN 输出的泛化信息,从而竣事与 GNN 终点的泛化性能。具体来说,计划团队发现电路特征与 GNN 输出之间存在浅易的非线性映射相关,这使得象征函数大约在不放弃性能的情况下保抓轻量化。

此外,针对电路数据中正负样本严重对抗衡的问题,收受焦点亏损(Focal Loss)行为学生模子的亏损函数,进一步进步象征函数的学习后果。焦点亏损通过调治难易样本的权重,有用缓解了样本对抗衡带来的负面影响,从而提高了象征函数在寥落数据上的阐扬。

实验罢了

在实验部分,在两个平素使用的开源电路数据集(EPFL 和 IWLS)以及一个工业电路数据集上进行了全面测试。实验罢了标明,该模范在多个方面阐扬出色:

1. 效能进步:CMO 框架权贵进步了传统关键逻辑优化算子(如 Mfs2)的开动效能,最高可达 2.5 倍加快。举例,在超大限制电路 Sixteen 上,CMO-Mfs2 将开动时刻从 78,784 秒减少到 32,001 秒,进步了约 59.4%。

2. 优化质地进步:通过在雷同时代内屡次开动 CMO 驱动的新式算子(如 2CMO-Mfs2),进一步进步了电路的优化质地(QoR)。具体来说,电路的限制和深度取得了权贵改善,其中电路深度的最大优化幅度达到 30.23%。举例,在 Hyp 电路上,2CMO-Mfs2 将电路深度从 8,259 层减少到 5,762 层,权贵缩小了电路的蔓延。

这些实验罢了充分阐扬了 CMO 框架在进步逻辑优化效能和质地方面的双重上风,为芯片瞎想中的逻辑优化任务提供了强有劲的相沿。

△表 1. 实验罢了标明该模范不仅大约进步算子效能,同期还大约进步算子优化质地

本论文作家白寅岐是中国科学时期大学 2024 级硕士生,师从王杰训导,主要计划地点为东谈主工智能驱动的芯片瞎想、图机器学习、大模子等。他曾在东谈主工智能顶级会议 ICML、Neurips 等会议上发表论文两篇,本科时代曾获首批国度后生学生基础计划名堂资助(宇宙 108 东谈主)。

论文地址:https://openreview.net/forum?id=EG9nDN3eGB

代码地址:https://gitee.com/yinqi-bai/cmo

一键三连「点赞」「转发」「堤防心」

接待在指摘区留住你的目的!

—  完  —

学术投稿请于使命日发邮件到:

ai@qbitai.com

标题注明【投稿】,告诉咱们:

你是谁,从哪来,投稿内容‍

附上论文 / 名堂主页集合,以及关联神气哦

咱们会(尽量)实时修起你

� � 点亮星标 � �

科技前沿进展逐日见丝袜



热点资讯
相关资讯


Powered by 情色图片 @2013-2022 RSS地图 HTML地图

Copyright Powered by365站群 © 2013-2024