专题导读 · PINN从入门到实战共4期神经网络只能靠数据死记硬背这组专题带你看看AI怎么把物理定律写进损失函数从原理到架构到基准测试一次讲透。期数内容进度第1期PINN的基本原理介绍已更新第2期PINN的训练难题与自适应策略已更新第3期PINN的架构进化已更新第4期PINN基准测试与对比← 本文看完4期你将能理解PINN核心原理、掌握训练调优方法、了解前沿架构选型、知道如何做公平评测。关注「能见AI」不错过后续更新。上期我们盘点了 PINN 的架构进化史——从原始 MLP 到域分解、自适应激活函数、变分形式花样越来越多。但问题来了这么多架构到底哪个最好需要一个公平的基准测试来回答。今天我们就来聊聊目前最大的 PINN 基准测试平台——PINNacle。这篇论文来自清华大学 Hao Zhongkai、Yao Jiachen、Lu Fanzhi、Zhu Jun 等联合宾夕法尼亚大学 Lu Lu 教授团队全文 50 页覆盖 22 个 PDE 算例、12 种 PINN 方法。可以说这是目前 PINN 领域最全面的一次高考。▲ PINNacle 整体架构数据集20 PDE 工具箱10 方法 评估模块 | 图源Hao et al., arXiv:2306.08827一、为什么 PINN 需要一次高考PINN 从 2019 年 Raissi 等人提出以来已经发展出数百种变体。几乎每篇论文都会展示“我的方法在某某方程上比原始 PINN 好 30%”。但问题是——每篇论文选的不一定是同一道考题。有的挑简单的泊松方程有的挑自己调过参的 Burgers 方程有的甚至在特定初始条件下才能跑通。这种各考各的模式导致我们根本没法回答一个朴素的问题如果让所有方法做同一套卷子谁考得最好这不是 PINN 独有的问题但在科学计算领域尤其突出。传统数值方法有限元、有限差分经过几十年发展已经有成熟的基准测试体系和标准算例库。而 PINN 作为新兴方法一直缺少这样的统一考卷。PINNacle 要做的就是出这一套考卷。二、PINNacle 是什么PINNacle 由清华大学计算机系和人工智能研究院的 Hao Zhongkai、Yao Jiachen、Lu Fanzhi、Zhu Jun 等研究者联合开发论文于 2023 年 6 月发布在 arXiv 上。它的名字取得很妙——PINN aclepeak/summit 的词根暗示这是 PINN 领域的顶峰基准。 覆盖 22 种 PDE横跨多个物理领域PINNacle 的数据集包含22 个独特的 PDE 算例来自以下领域流体力学Burgers 方程1D 和 2D 耦合、Navier-Stokes 方程三种场景顶盖驱动流、复杂几何后台阶流、非定常流动热传导热方程四种情况经典、多尺度、变系数、复杂几何电磁学Poisson-Boltzmann 方程Helmholtz 型含复杂几何数学物理Poisson 方程四种情况经典、复杂几何、3D 复杂几何、多尺度波动现象波动方程三种情况经典、复杂几何、多尺度混沌系统Gray-Scott 反应扩散方程、Kuramoto-Sivashinsky 方程高维问题高维 Poisson 方程、高维扩散方程反问题Poisson 方程参数反演、扩散方程参数反演 四大关键挑战这 22 个算例不是随意挑的而是刻意覆盖了 PINN 面临的四大核心挑战。理解这四大挑战就能理解为什么 PINN 在论文里有时表现惊艳、有时惨不忍睹挑战类型典型场景为什么难复杂几何后台阶流、带孔洞的区域边界条件难以精确施加collocation points 的分布需要适应几何形状多尺度现象湍流、快速振荡网络需要在不同尺度上同时拟合容易出现顾了大尺度、丢了小细节非线性/混沌Burgers、Navier-Stokes、Gray-Scott解空间复杂存在大量局部极小训练极易陷入看起来收敛了但解完全不对的陷阱高维性高维 Poisson/扩散方程“维度灾难”——采样效率随维度指数级下降传统 MLP 的表示能力也面临挑战论文作者在设计数据集时每个算例都标注了它涉及哪些挑战见表1这样就可以有针对性地分析哪种方法适合应对哪类挑战。️ 内置约 12 种主流 PINN 方法PINNacle 在工具箱中实现了约 12 种代表性方法覆盖了 PINN 改进的主要方向方法类别具体方法核心思想基线Vanilla PINN (Adam/L-BFGS)原始方法损失重加权PINN-LRA (Learning Rate Annealing)基于梯度方差的自适应权重损失重加权PINN-NTK (Neural Tangent Kernel)基于 NTK 理论的权重分配重采样RAR (Residual-based Adaptive Refinement)在残差大的区域密集采样优化器MultiAdam参数级尺度不变优化器新型损失函数gPINN (gradient-enhanced)加入梯度信息作为正则化新型损失函数hp-VPINN (Variational PINN)变分形式用弱形式代替强形式自适应激活LAAF (Locally Adaptive Activation)局部自适应激活函数斜率自适应激活GAAF (Global Adaptive Activation)全局自适应激活函数域分解FBPINN (Finite Basis PINN)将域分解为子域各自训练子网络这几乎囊括了 2019–2023 年间 PINN 领域最具代表性的改进方向。三、基准测试是怎么设计的做基准测试最怕的是不公平——给某个方法开小灶。PINNacle 在设计上非常严谨。 统一评估指标所有方法使用相同的评估指标L2 相对误差 (L2RE)∥u−u′∥2∥u∥2\frac{\|u - u\|_2}{\|u\|_2}∥u∥2∥u−u′∥2衡量整体预测精度L1 相对误差 (L1RE)对异常值更鲁棒最大误差 (mERR)最差点有多大均方误差 (MSE)传统回归指标傅里叶误差 (fMSE)衡量频谱层面的差异——对多尺度问题尤其重要⚙️ 统一训练配置每种方法在每个 PDE 上跑相同的配置相同的网络深度和宽度相同的训练轮数epochs相同的 collocation points 采样策略相同的初始条件这不是谁调参好谁赢的比赛而是在同等条件下看谁的方法论更强。 正向问题 逆向问题基准测试覆盖了两大类任务正向问题给定 PDE 和边界条件求解场分布——共 20 个算例。这是传统数值方法的主场也是 PINN 试图证明自己能打得过有限元的地方。逆向问题从带噪声的观测数据中反演 PDE 的未知参数——共 2 个算例PInv 和 HInv。这是 PINN 的杀手锏——传统方法求解反问题需要在优化循环中反复调用正问题求解器而 PINN 只需把未知参数当作额外的可训练变量顺便就求出来了。 消融实验除了主实验论文还做了大量消融分析这也是 PINNacle 超越一般对比实验的地方不同 batch size512 vs 2048 vs 8192 vs 32768的影响发现更大的 batch size 通常带来更精确的梯度估计从而得到更好的结果。但在 Gray-Scott 和 Poisson 2D-C 上超过 2048 后就饱和了。不同训练轮数5k vs 20k vs 80k vs 160k的影响误差随轮数增加而下降但存在饱和点——通常在 20k 到 80k 轮之间继续训练收益不大。不同学习率10−210^{-2}10−2到10−510^{-5}10−5和学习率策略的影响学习率的影响很微妙最优值因问题而异。10−210^{-2}10−2容易导致误差尖峰训练不稳定10−510^{-5}10−5收敛太慢。论文建议使用10−310^{-3}10−3或10−410^{-4}10−4的中等学习率或采用 step decay 策略。FBPINN 的子域划分数量和重叠率的敏感性分析重叠率在 0.4 到 0.6 之间通常表现最好太低导致子域间信息交换不足太高则增加了计算冗余。域尺度变化对优化器的影响MultiAdam 被设计为对域尺度变化鲁棒的优化器实验验证了这一点——在 Poisson 2D-C 上当域尺度从 0.5 变化到 16 时MultiAdam 的表现始终稳定而 Vanilla Adam 在尺度为 0.5 时误差高达 6.94×10⁻¹。四、核心发现没有银弹好重头戏来了。22 道题12 个考生成绩如何 发现一不同方法在不同方程上表现差异巨大这是论文最核心的结论——没有哪个方法能在所有 PDE 上称霸。来看几个典型例子Poisson 2D 经典问题Vanilla PINN 的误差是 6.94×10⁻¹NTK 重加权方法大幅降低到 1.23×10⁻²最佳FBPINN 也达到了 4.49×10⁻²。差距接近15 倍。Burgers 1DVanilla PINN 的误差是 1.45×10⁻²NTK 方法与之相当1.33×10⁻²但 LAAF 反而更差3.47×10⁻¹——比基线差了 20 多倍。Navier-Stokes 2D-CgPINN梯度增强方法以 7.27×10⁻¹ 的误差垫底而 FBPINN 的 LAAF 变体8.24×10⁻²和 LAAF3.60×10⁻²表现更好。Gray-Scott 混沌方程这是个有趣的反转——Vanilla PINN 误差 3.19×10⁻¹而 FBPINN 以 7.99×10⁻² 大幅领先甚至 gPINN 和 hp-VPINN 也跑到了 9.37×10⁻²。一句话总结在这个方程上称王的方法在另一个方程上可能垫底。▲ 四类 PINN 方法在不同难度问题上的相对误差对比对数刻度Vanilla PINN、Domain Decomposition、Loss Reweighting、Neural Operator。柱子越低误差越小 | 图源PINNacle 基准测试 发现二域分解方法在处理复杂几何时优势明显FBPINNFinite Basis PINN是论文中唯一的域分解方法代表。它的核心思路是把整个求解域切成多个子域每个子域训练一个子网络最后在重叠区域拼接。实验结果非常直观Poisson 2D 复杂几何带孔洞区域FBPINN 的 L2RE 仅为2.90×10⁻²而 Vanilla PINN 高达 6.36×10⁻¹差距20 倍以上。Navier-Stokes 后台阶流NS2d-CG这里出现了一个意外——FBPINN 的误差高达 8.27×10⁰即 8.27完全发散远不如 LAAF1.54×10⁻¹和 GAAF9.94×10⁻¹。这说明域分解方法并非在所有复杂几何上都有效——当流场存在强烈的剪切层和回流区时子域间的交界面可能引入额外的数值误差导致整体解发散。这也印证了没有银弹的结论域分解在 Poisson 型问题上表现优异但在强非线性流动问题上可能适得其反。论文作者指出域分解之所以在复杂几何上有效是因为子网络可以专注于局部区域的拟合避免了单一全局网络需要同时处理多尺度特征时出现的顾此失彼。▲ 域分解方法将复杂几何划分为多个子域每个子域由独立子网络处理 | 图源Hao et al., arXiv:2306.08827 发现三损失重加权对多尺度问题至关重要PINN-LRALearning Rate Annealing和 PINN-NTK 是两种典型的损失重加权方法。LRA的思路是在训练过程中根据各损失项的梯度方差动态调整权重让训练更关注当前拟合不好的部分。NTK的思路是基于 Neural Tangent Kernel 理论为各损失项分配最优权重使训练动态更加平衡。在多尺度的 Poisson 2D-MS 问题上Vanilla PINN 的误差是 6.30×10⁻¹而 LRA 将误差降低到 7.60×10⁻¹这里反而变差了说明 LRA 并非万能。但在 Poisson 2D-CG复杂几何多尺度上NTK 方法将误差从 6.36×10⁻¹ 大幅降到 6.08×10⁻²——超过 10 倍的改进。论文明确指出对于包含多种损失项PDE 残差、边界条件、初始条件、数据项的问题不加权重的简单求和往往导致训练被某一项主导。重加权机制就是解决这个偏科问题的关键。⚫ 发现四某些变体在特定方程上比原始 PINN 还差这可能是最令人意外的发现。LAAF局部自适应激活在 Burgers 1D 上的误差是 3.47×10⁻¹而 Vanilla PINN 只有 1.45×10⁻²——差了近 24 倍。GAAF全局自适应激活在 Burgers 1D 上同样表现不佳误差 5.20×10⁻²虽比 LAAF 好但仍然不如基线。MultiAdam在 NS2d-C 上的误差达到 7.27×10⁻¹远不如 Vanilla PINN4.70×10⁻²。gPINN梯度增强在 Burgers 2D-C 上误差高达 4.85×10⁻¹而 Vanilla PINN 是 3.24×10⁻¹。这不是说这些方法不好而是说明PINN 的改进不是通用buff而是针对特定挑战的特效药。用错了地方反而比不吃药还差。 方法选型速查表根据 PINNacle 的基准测试结果以下是各类方法的适用场景总结方法核心机制✅ 最适合❌ 最不适合典型表现Vanilla PINN原始架构AdamL-BFGS简单PDEPoisson经典、Burgers 1D复杂几何、多尺度问题基准线简单题够用PINN-LRA梯度方差自适应加权多损失项均衡困难的问题多尺度Poisson反而变差非万能需看具体问题PINN-NTKNTK理论最优权重多尺度复杂几何Poisson-CG降10倍简单问题收益不明显多尺度问题的首选RAR残差大区域密集采样边界层、梯度剧烈变化区域全局均匀误差问题中等收益MultiAdam参数级尺度不变优化域尺度变化大的问题NS2d-C误差0.73 vs 基线0.047对尺度鲁棒但对非线性敏感gPINN梯度信息正则化需要高精度梯度的问题Burgers 2D-C误差0.49 vs 基线0.32加入梯度可能引入噪声hp-VPINN变分弱形式解不连续或奇异点问题光滑解问题计算开销大特定场景有优势LAAF局部自适应激活斜率需要局部表达力增强的问题Burgers 1D误差0.35 vs 基线0.015差24倍用错场景比基线差很多GAAF全局自适应激活斜率全局特征尺度差异大的问题Burgers 1D误差0.052 vs 基线0.015比LAAF温和但仍需慎用FBPINN域分解子网络复杂几何Poisson-CG降20倍、高维问题强非线性流动NS-CG误差8.27发散几何复杂时首选流动复杂时慎用选型建议先跑 Vanilla PINN 做基线——很多简单问题上它就是够用的遇到复杂几何 → 优先试 FBPINN域分解在 Poisson 型问题上优势明显遇到多尺度 → 优先试 NTK 重加权Poisson-CG 上 10 倍改进不要盲目叠加改进——每个方法都有翻车场景消融实验后再上生产五、PINN vs 传统数值方法谁更厉害这是所有做 PINN 的人都会被问到的问题。 什么时候 PINN 赢反问题传统方法有限元、有限差分求解反问题通常需要反复迭代正问题求解器计算量巨大。而 PINN天然把反问题融入训练——未知参数只是额外的可训练变量。PINNacle 的反问题实验也验证了这一点vPINN 在 HInv 上的误差低至 1.19×10⁻²。数据融合当问题既有物理方程约束又有实验观测数据时PINN 可以同时利用两种信息源在传统方法中这通常需要复杂的同化技术。无网格对于复杂几何尤其是 3D传统方法需要高质量的网格生成这本身就是一个耗时且容易出错的步骤。PINN只需在域内随机采样免去了网格生成的麻烦。参数化问题PINNacle 的扩展实验包含了参数化 PDEparametric PDEs即一次训练可以覆盖一组参数。这对需要快速评估多工况的工程设计非常有用。 什么时候传统方法赢论文中有一段非常诚实的讨论“Overall performance of PINNs is not yet on par with traditional numerical methods.”具体来说高精度需求传统有限元方法在成熟算例上可以达到10−610^{-6}10−6甚至更高的精度而 PINNacle 的最佳结果大多在10−210^{-2}10−2量级——差了4 个数量级。对于需要高精度的工程计算如航空航天结构分析、精密仪器设计PINN 目前还无法胜任。长时间跨度问题在 Heat 2D-LT长时间热传导和 NS 2D-LT长时间 Navier-Stokes上几乎所有 PINN 方法的误差都接近 100%——完全失效。论文作者指出这是因为误差随时间不断累积而 PINN 的 MLP 结构很难捕捉长期动态。对于波动方程WavePINN 的表现同样堪忧——2D 复杂几何和多尺度场景下大多数方法的误差都在 100% 以上。论文附录中的时间误差分析图Figure 19、20清晰地展示了误差随时间单调增长的趋势。▲ 误差随时间指数增长L2 Relative Error vs Time)PINN 在长时间跨度的 PDE 求解中误差迅速累积最终发散 | 图源PINNacle 论文附录 Figure 19大规模问题当自由度达到百万级别时传统方法有成熟的并行算法和预处理技术如多重网格法而 PINN 的内存和计算需求随网络规模急剧增长且缺乏有效的并行训练策略。成熟稳定性有限元方法经过了 70 年的发展有大量成熟的软件包COMSOL、ANSYS、OpenFOAM和理论保证。PINN 仍然处于研究阶段训练过程缺乏理论收敛性保证结果可重复性也是问题。运行时效率论文附录中的运行时间分析Table 12显示PINN 的训练时间普遍较长——即使是简单问题也需要数分钟到数小时而传统求解器可以在秒级完成。域分解方法FBPINN因为需要训练多个子网络训练时间更长。 正确的定位论文作者的结论是PINN 不是要取代传统方法而是要在特定场景下提供补充能力。这个观点非常重要。把 PINN 当成万能求解器的期待是不现实的但把它当成传统方法不好用的场景下的替代方案则是一个非常务实的定位。六、对电力领域意味着什么读这篇论文时我一直在想一个问题电力系统的 PDE 在这个基准测试里吗答案是没有。PINNacle 覆盖的 22 个 PDE 算例来自流体力学、热传导、波动、混沌系统等领域但没有一个是电力系统特有的例如解决以下问题❌潮流方程Power Flow Equations❌电磁暂态方程Electromagnetic Transient Equations❌分布式参数线路方程Telegrapher’s Equations❌发电机摇摆方程Swing Equations❌电池电化学模型如 Newman 的 P2D 模型但这恰恰指出了未来的一个方向。 电力系统 PDE 的特殊挑战电力系统中的 PDE 有其独特性这些挑战与 PINNacle 识别的四大挑战高度重合电力场景对应挑战举例多时间尺度多尺度现象电磁暂态微秒级vs 机电暂态秒级vs 长期动态分钟级——跨度达 10 个数量级比 PINNacle 中任何多尺度问题都更极端复杂拓扑复杂几何变压器绕组内部的 3D 电磁场、GIS 设备的复杂几何、架空线路的不规则地形强非线性非线性/混沌电力系统混沌振荡、电压崩溃、铁磁谐振——非线性程度甚至超过 Burgers 方程大规模网络高维性省级/国家级电网的节点方程组万维以上远超 PINNacle 中最高的维度测试此外电力系统还有一些 PINNacle 未曾涉及的特殊挑战离散-连续混合系统电力系统同时包含连续的电磁过程PDE 描述和离散的控制动作断路器跳闸、继电保护这种混合动态在纯 PDE 框架下难以处理。参数不确定性线路参数、负荷特性、发电机参数都存在不确定性PINN 需要在不确定性下保持鲁棒性。实时性要求电网调度需要在秒级甚至毫秒级给出决策PINN 的训练时间虽然可以前置但推理时的精度-速度权衡仍需仔细评估。 呼吁建立电力系统专用的 PINN 基准PINNacle 为我们做了一个很好的示范。电力领域也需要自己的考卷标准化的测试算例从简单的单机电力系统到复杂的多机系统从稳态潮流到暂态过程。统一评估指标不只是误差还应包括收敛时间、泛化能力、对参数扰动的鲁棒性。基线对比至少应包含 Vanilla PINN、域分解 PINN、损失重加权 PINN以及传统求解器如 PSS/E、PSCAD的结果作为参照。这对于电力领域的研究者来说是一个很好的切入点——与其在通用 PDE 上卷不如在自己熟悉的领域建立标杆。七、PINN 的未来方向基于 PINNacle 的实验结果和论文讨论部分PINN 的未来发展有几个清晰的方向 方向一与神经算子融合PINN 是针对一个具体实例求解——每换一组边界条件或参数就需要重新训练一次网络。而神经算子Neural Operators如 DeepONet、FNO学的是从输入函数到输出函数的映射——训练一次就能处理同一 PDE 族的任意实例。两者结合的思路是在训练阶段利用 PINN 的物理约束来保证神经算子的输出符合物理规律这比纯数据驱动的神经算子更可靠推理阶段利用神经算子的即时预测能力实现毫秒级响应。论文作者在展望中明确提到了这个方向。实际上PDEBench 等基准已经包含了 FNO、U-Net 等神经算子方法的对比而 PINNacle 目前专注于 PINN 方法本身——未来如果扩展到神经算子将提供更有价值的对比。 方向二不确定性量化UQPINN 目前的输出是一个点估计——它告诉你解是什么但不告诉你有多确定。在电力系统中不确定性量化至关重要一个 99% 置信区间比一个最优点有用得多。贝叶斯 PINNB-PINN通过在权重上引入先验分布来量化不确定性集成方法Ensemble PINN通过训练多个网络并分析输出方差来估计不确定性。这两种方法在 PINNacle 的基准中尚未包含但无疑是未来值得关注的方向。 方向三与强化学习结合做控制优化PINN 擅长求解给定物理方程求场分布强化学习擅长决策给定状态选动作。两者结合可以实现物理约束下的最优控制——比如电网的最优潮流控制在满足物理约束的前提下最小化成本、微电网的能量管理考虑电池退化模型等物理约束。一个具体的场景用 PINN 快速求解潮流方程或暂态方程作为强化学习的环境模型实现仿真即训练大幅减少与真实系统交互的风险。 方向四工业级部署数字孪生论文在讨论中提到了一个务实的方向将 PINN 集成到数字孪生系统中。数字孪生需要实时或近实时的物理仿真传统方法往往太慢尤其是需要多次迭代求解时而 PINN尤其是训练完成后可以在毫秒级给出解——这是其最大的商业价值所在。但要做到这一点还需要解决几个关键问题模型的泛化能力超出训练域的预测是否可靠PINNacle 的参数化 PDE 实验初步验证了这一点但还需要更广泛的验证。推理精度 vs 速度的权衡在工业场景中10−210^{-2}10−2的误差可能不够——需要在网络规模和精度之间找到平衡点。与传统仿真软件的互操作性PINN 需要能够作为插件集成到现有的仿真工作流中而不是完全替代它们。八、系列总结四期 PINN 之旅这是我们「PINN 与电力系统」系列的第四期也是目前这个系列的一个阶段性总结。让我们快速回顾一下期数主题核心内容第1期PINN 是什么为什么电力人应该关注PINN 的基本原理、与传统方法的区别、在电力系统中的应用潜力第2期PINN 能解电力系统的哪些方程从潮流方程到电磁暂态具体应用案例分析第3期PINN 的架构进化从 MLP 到变体损失重加权、域分解、自适应激活函数、变分形式等架构改进第4期谁是 PINN 之王基准测试揭示真相PINNacle 基准测试深度解读没有银弹只有场景适配 给读者的行动建议如果你是学术研究者下载 PINNacle 的开源代码GitHub: https://github.com/i207M/PINNacle在自己关注的 PDE 上跑一遍基准考虑在电力领域建立类似的基准测试——这是高影响力的研究机会如果你是工程师关注域分解FBPINN和损失重加权LRA/NTK两个方向——这是目前最有工程实用价值的改进在简单算例上验证 PINN 与传统方法的精度差距再决定是否引入生产环境如果你是电力行业决策者PINN 目前更适合用在传统方法太慢或太贵的场景比如反问题、参数识别、快速近似不要指望 PINN 替代成熟的电磁暂态仿真软件——至少在精度要求极高的场景下还不行参考文献核心论文Hao, Z., Yao, J., Su, C., Su, H., Wang, Z., Lu, F., Xia, Z., Zhang, Y., Liu, S., Lu, L., Zhu, J. (2023).PINNacle: A Comprehensive Benchmark of Physics-Informed Neural Networks for Solving PDEs. arXiv preprint arXiv:2306.08827.论文中引用的关键方法Raissi, M., Perdikaris, P., Karniadakis, G. E. (2019). Physics-informed neural networks: A deep learning framework for solving forward and inverse problems involving nonlinear partial differential equations.Journal of Computational Physics, 378, 686–707.Jagtap, A. D., Karniadakis, G. E. (2021). Extended physics-informed neural networks (XPINNs): A generalized space-time domain decomposition based deep learning framework.AAAI Spring Symposium: MLPS.Moseley, B., Markham, A., Nissen-Meyer, T. (2021). Finite basis physics-informed neural networks (FBPINNs): A scalable domain decomposition approach.arXiv preprint arXiv:2107.07871.Wang, S., Teng, Y., Perdikaris, P. (2021). Understanding and mitigating gradient flow pathologies in physics-informed neural networks.SIAM Journal on Scientific Computing, 43(5), A3055–A3081.Yu, J., Lu, L., Meng, X., Karniadakis, G. E. (2022). Gradient-enhanced physics-informed neural networks for forward and inverse PDE problems.Computer Methods in Applied Mechanics and Engineering, 393, 114823.Jagtap, A. D., Kawaguchi, K., Karniadakis, G. E. (2020). Locally adaptive activation functions with slope recovery for deep and physics-informed neural networks.Proceedings of the Royal Society A, 476(2239), 20200334.Yao, J., Su, C., Hao, Z., Liu, S., Su, H., Zhu, J. (2023). MultiAdam: Parameter-wise scale-invariant optimizer for multiscale training of physics-informed neural networks.arXiv preprint arXiv:2306.02816.Wu, C., Zhu, M., Tan, Q., Kartha, Y., Lu, L. (2023). A comprehensive study of non-adaptive and residual-based adaptive sampling for physics-informed neural networks.Computer Methods in Applied Mechanics and Engineering, 403, 115671.「能见AI」专注电力能源 × AI 交叉领域的深度解读。如果你觉得这篇文章有帮助欢迎转发给同样关注这个方向的朋友。下期预告PINN 能不能解潮流方程我们拿真实电网数据来试一把。
物理AI论文精读4：PINN基准测试与对比
发布时间：2026/7/8 11:32:27
专题导读 · PINN从入门到实战共4期神经网络只能靠数据死记硬背这组专题带你看看AI怎么把物理定律写进损失函数从原理到架构到基准测试一次讲透。期数内容进度第1期PINN的基本原理介绍已更新第2期PINN的训练难题与自适应策略已更新第3期PINN的架构进化已更新第4期PINN基准测试与对比← 本文看完4期你将能理解PINN核心原理、掌握训练调优方法、了解前沿架构选型、知道如何做公平评测。关注「能见AI」不错过后续更新。上期我们盘点了 PINN 的架构进化史——从原始 MLP 到域分解、自适应激活函数、变分形式花样越来越多。但问题来了这么多架构到底哪个最好需要一个公平的基准测试来回答。今天我们就来聊聊目前最大的 PINN 基准测试平台——PINNacle。这篇论文来自清华大学 Hao Zhongkai、Yao Jiachen、Lu Fanzhi、Zhu Jun 等联合宾夕法尼亚大学 Lu Lu 教授团队全文 50 页覆盖 22 个 PDE 算例、12 种 PINN 方法。可以说这是目前 PINN 领域最全面的一次高考。▲ PINNacle 整体架构数据集20 PDE 工具箱10 方法 评估模块 | 图源Hao et al., arXiv:2306.08827一、为什么 PINN 需要一次高考PINN 从 2019 年 Raissi 等人提出以来已经发展出数百种变体。几乎每篇论文都会展示“我的方法在某某方程上比原始 PINN 好 30%”。但问题是——每篇论文选的不一定是同一道考题。有的挑简单的泊松方程有的挑自己调过参的 Burgers 方程有的甚至在特定初始条件下才能跑通。这种各考各的模式导致我们根本没法回答一个朴素的问题如果让所有方法做同一套卷子谁考得最好这不是 PINN 独有的问题但在科学计算领域尤其突出。传统数值方法有限元、有限差分经过几十年发展已经有成熟的基准测试体系和标准算例库。而 PINN 作为新兴方法一直缺少这样的统一考卷。PINNacle 要做的就是出这一套考卷。二、PINNacle 是什么PINNacle 由清华大学计算机系和人工智能研究院的 Hao Zhongkai、Yao Jiachen、Lu Fanzhi、Zhu Jun 等研究者联合开发论文于 2023 年 6 月发布在 arXiv 上。它的名字取得很妙——PINN aclepeak/summit 的词根暗示这是 PINN 领域的顶峰基准。 覆盖 22 种 PDE横跨多个物理领域PINNacle 的数据集包含22 个独特的 PDE 算例来自以下领域流体力学Burgers 方程1D 和 2D 耦合、Navier-Stokes 方程三种场景顶盖驱动流、复杂几何后台阶流、非定常流动热传导热方程四种情况经典、多尺度、变系数、复杂几何电磁学Poisson-Boltzmann 方程Helmholtz 型含复杂几何数学物理Poisson 方程四种情况经典、复杂几何、3D 复杂几何、多尺度波动现象波动方程三种情况经典、复杂几何、多尺度混沌系统Gray-Scott 反应扩散方程、Kuramoto-Sivashinsky 方程高维问题高维 Poisson 方程、高维扩散方程反问题Poisson 方程参数反演、扩散方程参数反演 四大关键挑战这 22 个算例不是随意挑的而是刻意覆盖了 PINN 面临的四大核心挑战。理解这四大挑战就能理解为什么 PINN 在论文里有时表现惊艳、有时惨不忍睹挑战类型典型场景为什么难复杂几何后台阶流、带孔洞的区域边界条件难以精确施加collocation points 的分布需要适应几何形状多尺度现象湍流、快速振荡网络需要在不同尺度上同时拟合容易出现顾了大尺度、丢了小细节非线性/混沌Burgers、Navier-Stokes、Gray-Scott解空间复杂存在大量局部极小训练极易陷入看起来收敛了但解完全不对的陷阱高维性高维 Poisson/扩散方程“维度灾难”——采样效率随维度指数级下降传统 MLP 的表示能力也面临挑战论文作者在设计数据集时每个算例都标注了它涉及哪些挑战见表1这样就可以有针对性地分析哪种方法适合应对哪类挑战。️ 内置约 12 种主流 PINN 方法PINNacle 在工具箱中实现了约 12 种代表性方法覆盖了 PINN 改进的主要方向方法类别具体方法核心思想基线Vanilla PINN (Adam/L-BFGS)原始方法损失重加权PINN-LRA (Learning Rate Annealing)基于梯度方差的自适应权重损失重加权PINN-NTK (Neural Tangent Kernel)基于 NTK 理论的权重分配重采样RAR (Residual-based Adaptive Refinement)在残差大的区域密集采样优化器MultiAdam参数级尺度不变优化器新型损失函数gPINN (gradient-enhanced)加入梯度信息作为正则化新型损失函数hp-VPINN (Variational PINN)变分形式用弱形式代替强形式自适应激活LAAF (Locally Adaptive Activation)局部自适应激活函数斜率自适应激活GAAF (Global Adaptive Activation)全局自适应激活函数域分解FBPINN (Finite Basis PINN)将域分解为子域各自训练子网络这几乎囊括了 2019–2023 年间 PINN 领域最具代表性的改进方向。三、基准测试是怎么设计的做基准测试最怕的是不公平——给某个方法开小灶。PINNacle 在设计上非常严谨。 统一评估指标所有方法使用相同的评估指标L2 相对误差 (L2RE)∥u−u′∥2∥u∥2\frac{\|u - u\|_2}{\|u\|_2}∥u∥2∥u−u′∥2衡量整体预测精度L1 相对误差 (L1RE)对异常值更鲁棒最大误差 (mERR)最差点有多大均方误差 (MSE)传统回归指标傅里叶误差 (fMSE)衡量频谱层面的差异——对多尺度问题尤其重要⚙️ 统一训练配置每种方法在每个 PDE 上跑相同的配置相同的网络深度和宽度相同的训练轮数epochs相同的 collocation points 采样策略相同的初始条件这不是谁调参好谁赢的比赛而是在同等条件下看谁的方法论更强。 正向问题 逆向问题基准测试覆盖了两大类任务正向问题给定 PDE 和边界条件求解场分布——共 20 个算例。这是传统数值方法的主场也是 PINN 试图证明自己能打得过有限元的地方。逆向问题从带噪声的观测数据中反演 PDE 的未知参数——共 2 个算例PInv 和 HInv。这是 PINN 的杀手锏——传统方法求解反问题需要在优化循环中反复调用正问题求解器而 PINN 只需把未知参数当作额外的可训练变量顺便就求出来了。 消融实验除了主实验论文还做了大量消融分析这也是 PINNacle 超越一般对比实验的地方不同 batch size512 vs 2048 vs 8192 vs 32768的影响发现更大的 batch size 通常带来更精确的梯度估计从而得到更好的结果。但在 Gray-Scott 和 Poisson 2D-C 上超过 2048 后就饱和了。不同训练轮数5k vs 20k vs 80k vs 160k的影响误差随轮数增加而下降但存在饱和点——通常在 20k 到 80k 轮之间继续训练收益不大。不同学习率10−210^{-2}10−2到10−510^{-5}10−5和学习率策略的影响学习率的影响很微妙最优值因问题而异。10−210^{-2}10−2容易导致误差尖峰训练不稳定10−510^{-5}10−5收敛太慢。论文建议使用10−310^{-3}10−3或10−410^{-4}10−4的中等学习率或采用 step decay 策略。FBPINN 的子域划分数量和重叠率的敏感性分析重叠率在 0.4 到 0.6 之间通常表现最好太低导致子域间信息交换不足太高则增加了计算冗余。域尺度变化对优化器的影响MultiAdam 被设计为对域尺度变化鲁棒的优化器实验验证了这一点——在 Poisson 2D-C 上当域尺度从 0.5 变化到 16 时MultiAdam 的表现始终稳定而 Vanilla Adam 在尺度为 0.5 时误差高达 6.94×10⁻¹。四、核心发现没有银弹好重头戏来了。22 道题12 个考生成绩如何 发现一不同方法在不同方程上表现差异巨大这是论文最核心的结论——没有哪个方法能在所有 PDE 上称霸。来看几个典型例子Poisson 2D 经典问题Vanilla PINN 的误差是 6.94×10⁻¹NTK 重加权方法大幅降低到 1.23×10⁻²最佳FBPINN 也达到了 4.49×10⁻²。差距接近15 倍。Burgers 1DVanilla PINN 的误差是 1.45×10⁻²NTK 方法与之相当1.33×10⁻²但 LAAF 反而更差3.47×10⁻¹——比基线差了 20 多倍。Navier-Stokes 2D-CgPINN梯度增强方法以 7.27×10⁻¹ 的误差垫底而 FBPINN 的 LAAF 变体8.24×10⁻²和 LAAF3.60×10⁻²表现更好。Gray-Scott 混沌方程这是个有趣的反转——Vanilla PINN 误差 3.19×10⁻¹而 FBPINN 以 7.99×10⁻² 大幅领先甚至 gPINN 和 hp-VPINN 也跑到了 9.37×10⁻²。一句话总结在这个方程上称王的方法在另一个方程上可能垫底。▲ 四类 PINN 方法在不同难度问题上的相对误差对比对数刻度Vanilla PINN、Domain Decomposition、Loss Reweighting、Neural Operator。柱子越低误差越小 | 图源PINNacle 基准测试 发现二域分解方法在处理复杂几何时优势明显FBPINNFinite Basis PINN是论文中唯一的域分解方法代表。它的核心思路是把整个求解域切成多个子域每个子域训练一个子网络最后在重叠区域拼接。实验结果非常直观Poisson 2D 复杂几何带孔洞区域FBPINN 的 L2RE 仅为2.90×10⁻²而 Vanilla PINN 高达 6.36×10⁻¹差距20 倍以上。Navier-Stokes 后台阶流NS2d-CG这里出现了一个意外——FBPINN 的误差高达 8.27×10⁰即 8.27完全发散远不如 LAAF1.54×10⁻¹和 GAAF9.94×10⁻¹。这说明域分解方法并非在所有复杂几何上都有效——当流场存在强烈的剪切层和回流区时子域间的交界面可能引入额外的数值误差导致整体解发散。这也印证了没有银弹的结论域分解在 Poisson 型问题上表现优异但在强非线性流动问题上可能适得其反。论文作者指出域分解之所以在复杂几何上有效是因为子网络可以专注于局部区域的拟合避免了单一全局网络需要同时处理多尺度特征时出现的顾此失彼。▲ 域分解方法将复杂几何划分为多个子域每个子域由独立子网络处理 | 图源Hao et al., arXiv:2306.08827 发现三损失重加权对多尺度问题至关重要PINN-LRALearning Rate Annealing和 PINN-NTK 是两种典型的损失重加权方法。LRA的思路是在训练过程中根据各损失项的梯度方差动态调整权重让训练更关注当前拟合不好的部分。NTK的思路是基于 Neural Tangent Kernel 理论为各损失项分配最优权重使训练动态更加平衡。在多尺度的 Poisson 2D-MS 问题上Vanilla PINN 的误差是 6.30×10⁻¹而 LRA 将误差降低到 7.60×10⁻¹这里反而变差了说明 LRA 并非万能。但在 Poisson 2D-CG复杂几何多尺度上NTK 方法将误差从 6.36×10⁻¹ 大幅降到 6.08×10⁻²——超过 10 倍的改进。论文明确指出对于包含多种损失项PDE 残差、边界条件、初始条件、数据项的问题不加权重的简单求和往往导致训练被某一项主导。重加权机制就是解决这个偏科问题的关键。⚫ 发现四某些变体在特定方程上比原始 PINN 还差这可能是最令人意外的发现。LAAF局部自适应激活在 Burgers 1D 上的误差是 3.47×10⁻¹而 Vanilla PINN 只有 1.45×10⁻²——差了近 24 倍。GAAF全局自适应激活在 Burgers 1D 上同样表现不佳误差 5.20×10⁻²虽比 LAAF 好但仍然不如基线。MultiAdam在 NS2d-C 上的误差达到 7.27×10⁻¹远不如 Vanilla PINN4.70×10⁻²。gPINN梯度增强在 Burgers 2D-C 上误差高达 4.85×10⁻¹而 Vanilla PINN 是 3.24×10⁻¹。这不是说这些方法不好而是说明PINN 的改进不是通用buff而是针对特定挑战的特效药。用错了地方反而比不吃药还差。 方法选型速查表根据 PINNacle 的基准测试结果以下是各类方法的适用场景总结方法核心机制✅ 最适合❌ 最不适合典型表现Vanilla PINN原始架构AdamL-BFGS简单PDEPoisson经典、Burgers 1D复杂几何、多尺度问题基准线简单题够用PINN-LRA梯度方差自适应加权多损失项均衡困难的问题多尺度Poisson反而变差非万能需看具体问题PINN-NTKNTK理论最优权重多尺度复杂几何Poisson-CG降10倍简单问题收益不明显多尺度问题的首选RAR残差大区域密集采样边界层、梯度剧烈变化区域全局均匀误差问题中等收益MultiAdam参数级尺度不变优化域尺度变化大的问题NS2d-C误差0.73 vs 基线0.047对尺度鲁棒但对非线性敏感gPINN梯度信息正则化需要高精度梯度的问题Burgers 2D-C误差0.49 vs 基线0.32加入梯度可能引入噪声hp-VPINN变分弱形式解不连续或奇异点问题光滑解问题计算开销大特定场景有优势LAAF局部自适应激活斜率需要局部表达力增强的问题Burgers 1D误差0.35 vs 基线0.015差24倍用错场景比基线差很多GAAF全局自适应激活斜率全局特征尺度差异大的问题Burgers 1D误差0.052 vs 基线0.015比LAAF温和但仍需慎用FBPINN域分解子网络复杂几何Poisson-CG降20倍、高维问题强非线性流动NS-CG误差8.27发散几何复杂时首选流动复杂时慎用选型建议先跑 Vanilla PINN 做基线——很多简单问题上它就是够用的遇到复杂几何 → 优先试 FBPINN域分解在 Poisson 型问题上优势明显遇到多尺度 → 优先试 NTK 重加权Poisson-CG 上 10 倍改进不要盲目叠加改进——每个方法都有翻车场景消融实验后再上生产五、PINN vs 传统数值方法谁更厉害这是所有做 PINN 的人都会被问到的问题。 什么时候 PINN 赢反问题传统方法有限元、有限差分求解反问题通常需要反复迭代正问题求解器计算量巨大。而 PINN天然把反问题融入训练——未知参数只是额外的可训练变量。PINNacle 的反问题实验也验证了这一点vPINN 在 HInv 上的误差低至 1.19×10⁻²。数据融合当问题既有物理方程约束又有实验观测数据时PINN 可以同时利用两种信息源在传统方法中这通常需要复杂的同化技术。无网格对于复杂几何尤其是 3D传统方法需要高质量的网格生成这本身就是一个耗时且容易出错的步骤。PINN只需在域内随机采样免去了网格生成的麻烦。参数化问题PINNacle 的扩展实验包含了参数化 PDEparametric PDEs即一次训练可以覆盖一组参数。这对需要快速评估多工况的工程设计非常有用。 什么时候传统方法赢论文中有一段非常诚实的讨论“Overall performance of PINNs is not yet on par with traditional numerical methods.”具体来说高精度需求传统有限元方法在成熟算例上可以达到10−610^{-6}10−6甚至更高的精度而 PINNacle 的最佳结果大多在10−210^{-2}10−2量级——差了4 个数量级。对于需要高精度的工程计算如航空航天结构分析、精密仪器设计PINN 目前还无法胜任。长时间跨度问题在 Heat 2D-LT长时间热传导和 NS 2D-LT长时间 Navier-Stokes上几乎所有 PINN 方法的误差都接近 100%——完全失效。论文作者指出这是因为误差随时间不断累积而 PINN 的 MLP 结构很难捕捉长期动态。对于波动方程WavePINN 的表现同样堪忧——2D 复杂几何和多尺度场景下大多数方法的误差都在 100% 以上。论文附录中的时间误差分析图Figure 19、20清晰地展示了误差随时间单调增长的趋势。▲ 误差随时间指数增长L2 Relative Error vs Time)PINN 在长时间跨度的 PDE 求解中误差迅速累积最终发散 | 图源PINNacle 论文附录 Figure 19大规模问题当自由度达到百万级别时传统方法有成熟的并行算法和预处理技术如多重网格法而 PINN 的内存和计算需求随网络规模急剧增长且缺乏有效的并行训练策略。成熟稳定性有限元方法经过了 70 年的发展有大量成熟的软件包COMSOL、ANSYS、OpenFOAM和理论保证。PINN 仍然处于研究阶段训练过程缺乏理论收敛性保证结果可重复性也是问题。运行时效率论文附录中的运行时间分析Table 12显示PINN 的训练时间普遍较长——即使是简单问题也需要数分钟到数小时而传统求解器可以在秒级完成。域分解方法FBPINN因为需要训练多个子网络训练时间更长。 正确的定位论文作者的结论是PINN 不是要取代传统方法而是要在特定场景下提供补充能力。这个观点非常重要。把 PINN 当成万能求解器的期待是不现实的但把它当成传统方法不好用的场景下的替代方案则是一个非常务实的定位。六、对电力领域意味着什么读这篇论文时我一直在想一个问题电力系统的 PDE 在这个基准测试里吗答案是没有。PINNacle 覆盖的 22 个 PDE 算例来自流体力学、热传导、波动、混沌系统等领域但没有一个是电力系统特有的例如解决以下问题❌潮流方程Power Flow Equations❌电磁暂态方程Electromagnetic Transient Equations❌分布式参数线路方程Telegrapher’s Equations❌发电机摇摆方程Swing Equations❌电池电化学模型如 Newman 的 P2D 模型但这恰恰指出了未来的一个方向。 电力系统 PDE 的特殊挑战电力系统中的 PDE 有其独特性这些挑战与 PINNacle 识别的四大挑战高度重合电力场景对应挑战举例多时间尺度多尺度现象电磁暂态微秒级vs 机电暂态秒级vs 长期动态分钟级——跨度达 10 个数量级比 PINNacle 中任何多尺度问题都更极端复杂拓扑复杂几何变压器绕组内部的 3D 电磁场、GIS 设备的复杂几何、架空线路的不规则地形强非线性非线性/混沌电力系统混沌振荡、电压崩溃、铁磁谐振——非线性程度甚至超过 Burgers 方程大规模网络高维性省级/国家级电网的节点方程组万维以上远超 PINNacle 中最高的维度测试此外电力系统还有一些 PINNacle 未曾涉及的特殊挑战离散-连续混合系统电力系统同时包含连续的电磁过程PDE 描述和离散的控制动作断路器跳闸、继电保护这种混合动态在纯 PDE 框架下难以处理。参数不确定性线路参数、负荷特性、发电机参数都存在不确定性PINN 需要在不确定性下保持鲁棒性。实时性要求电网调度需要在秒级甚至毫秒级给出决策PINN 的训练时间虽然可以前置但推理时的精度-速度权衡仍需仔细评估。 呼吁建立电力系统专用的 PINN 基准PINNacle 为我们做了一个很好的示范。电力领域也需要自己的考卷标准化的测试算例从简单的单机电力系统到复杂的多机系统从稳态潮流到暂态过程。统一评估指标不只是误差还应包括收敛时间、泛化能力、对参数扰动的鲁棒性。基线对比至少应包含 Vanilla PINN、域分解 PINN、损失重加权 PINN以及传统求解器如 PSS/E、PSCAD的结果作为参照。这对于电力领域的研究者来说是一个很好的切入点——与其在通用 PDE 上卷不如在自己熟悉的领域建立标杆。七、PINN 的未来方向基于 PINNacle 的实验结果和论文讨论部分PINN 的未来发展有几个清晰的方向 方向一与神经算子融合PINN 是针对一个具体实例求解——每换一组边界条件或参数就需要重新训练一次网络。而神经算子Neural Operators如 DeepONet、FNO学的是从输入函数到输出函数的映射——训练一次就能处理同一 PDE 族的任意实例。两者结合的思路是在训练阶段利用 PINN 的物理约束来保证神经算子的输出符合物理规律这比纯数据驱动的神经算子更可靠推理阶段利用神经算子的即时预测能力实现毫秒级响应。论文作者在展望中明确提到了这个方向。实际上PDEBench 等基准已经包含了 FNO、U-Net 等神经算子方法的对比而 PINNacle 目前专注于 PINN 方法本身——未来如果扩展到神经算子将提供更有价值的对比。 方向二不确定性量化UQPINN 目前的输出是一个点估计——它告诉你解是什么但不告诉你有多确定。在电力系统中不确定性量化至关重要一个 99% 置信区间比一个最优点有用得多。贝叶斯 PINNB-PINN通过在权重上引入先验分布来量化不确定性集成方法Ensemble PINN通过训练多个网络并分析输出方差来估计不确定性。这两种方法在 PINNacle 的基准中尚未包含但无疑是未来值得关注的方向。 方向三与强化学习结合做控制优化PINN 擅长求解给定物理方程求场分布强化学习擅长决策给定状态选动作。两者结合可以实现物理约束下的最优控制——比如电网的最优潮流控制在满足物理约束的前提下最小化成本、微电网的能量管理考虑电池退化模型等物理约束。一个具体的场景用 PINN 快速求解潮流方程或暂态方程作为强化学习的环境模型实现仿真即训练大幅减少与真实系统交互的风险。 方向四工业级部署数字孪生论文在讨论中提到了一个务实的方向将 PINN 集成到数字孪生系统中。数字孪生需要实时或近实时的物理仿真传统方法往往太慢尤其是需要多次迭代求解时而 PINN尤其是训练完成后可以在毫秒级给出解——这是其最大的商业价值所在。但要做到这一点还需要解决几个关键问题模型的泛化能力超出训练域的预测是否可靠PINNacle 的参数化 PDE 实验初步验证了这一点但还需要更广泛的验证。推理精度 vs 速度的权衡在工业场景中10−210^{-2}10−2的误差可能不够——需要在网络规模和精度之间找到平衡点。与传统仿真软件的互操作性PINN 需要能够作为插件集成到现有的仿真工作流中而不是完全替代它们。八、系列总结四期 PINN 之旅这是我们「PINN 与电力系统」系列的第四期也是目前这个系列的一个阶段性总结。让我们快速回顾一下期数主题核心内容第1期PINN 是什么为什么电力人应该关注PINN 的基本原理、与传统方法的区别、在电力系统中的应用潜力第2期PINN 能解电力系统的哪些方程从潮流方程到电磁暂态具体应用案例分析第3期PINN 的架构进化从 MLP 到变体损失重加权、域分解、自适应激活函数、变分形式等架构改进第4期谁是 PINN 之王基准测试揭示真相PINNacle 基准测试深度解读没有银弹只有场景适配 给读者的行动建议如果你是学术研究者下载 PINNacle 的开源代码GitHub: https://github.com/i207M/PINNacle在自己关注的 PDE 上跑一遍基准考虑在电力领域建立类似的基准测试——这是高影响力的研究机会如果你是工程师关注域分解FBPINN和损失重加权LRA/NTK两个方向——这是目前最有工程实用价值的改进在简单算例上验证 PINN 与传统方法的精度差距再决定是否引入生产环境如果你是电力行业决策者PINN 目前更适合用在传统方法太慢或太贵的场景比如反问题、参数识别、快速近似不要指望 PINN 替代成熟的电磁暂态仿真软件——至少在精度要求极高的场景下还不行参考文献核心论文Hao, Z., Yao, J., Su, C., Su, H., Wang, Z., Lu, F., Xia, Z., Zhang, Y., Liu, S., Lu, L., Zhu, J. (2023).PINNacle: A Comprehensive Benchmark of Physics-Informed Neural Networks for Solving PDEs. arXiv preprint arXiv:2306.08827.论文中引用的关键方法Raissi, M., Perdikaris, P., Karniadakis, G. E. (2019). Physics-informed neural networks: A deep learning framework for solving forward and inverse problems involving nonlinear partial differential equations.Journal of Computational Physics, 378, 686–707.Jagtap, A. D., Karniadakis, G. E. (2021). Extended physics-informed neural networks (XPINNs): A generalized space-time domain decomposition based deep learning framework.AAAI Spring Symposium: MLPS.Moseley, B., Markham, A., Nissen-Meyer, T. (2021). Finite basis physics-informed neural networks (FBPINNs): A scalable domain decomposition approach.arXiv preprint arXiv:2107.07871.Wang, S., Teng, Y., Perdikaris, P. (2021). Understanding and mitigating gradient flow pathologies in physics-informed neural networks.SIAM Journal on Scientific Computing, 43(5), A3055–A3081.Yu, J., Lu, L., Meng, X., Karniadakis, G. E. (2022). Gradient-enhanced physics-informed neural networks for forward and inverse PDE problems.Computer Methods in Applied Mechanics and Engineering, 393, 114823.Jagtap, A. D., Kawaguchi, K., Karniadakis, G. E. (2020). Locally adaptive activation functions with slope recovery for deep and physics-informed neural networks.Proceedings of the Royal Society A, 476(2239), 20200334.Yao, J., Su, C., Hao, Z., Liu, S., Su, H., Zhu, J. (2023). MultiAdam: Parameter-wise scale-invariant optimizer for multiscale training of physics-informed neural networks.arXiv preprint arXiv:2306.02816.Wu, C., Zhu, M., Tan, Q., Kartha, Y., Lu, L. (2023). A comprehensive study of non-adaptive and residual-based adaptive sampling for physics-informed neural networks.Computer Methods in Applied Mechanics and Engineering, 403, 115671.「能见AI」专注电力能源 × AI 交叉领域的深度解读。如果你觉得这篇文章有帮助欢迎转发给同样关注这个方向的朋友。下期预告PINN 能不能解潮流方程我们拿真实电网数据来试一把。
 与扩散模型对比：3 大核心差异与 Langevin 采样演进分析)
