1. 项目概述当Transformer遇见激光聚变在激光聚变研究领域我们这些做模拟计算的人常年面临一个核心矛盾物理过程太复杂想算得准就得用高精度的流体动力学程序比如MULTI-IFE但算一次耗时巨大想算得快简化模型又往往牺牲了关键的物理细节预测结果和实验对不上。这个“模拟-实验鸿沟”一直是制约实验设计和优化的瓶颈。特别是对于像双锥点火DCI这类前沿方案激光波形复杂靶丸参数多变传统“试错式”的模拟校准效率低下让人头疼。最近几年眼看着人工智能在图像、语言领域大杀四方我们也在琢磨能不能把这股“东风”借到物理模拟里来最初的尝试多用多层感知机MLP但它处理我们动辄上百个时间点的激光功率序列时显得有点力不从心长程依赖关系抓不准。直到Transformer架构的出现让我们看到了曙光。它那套“注意力机制”天生就是为处理序列数据设计的能从冗长的激光波形里精准捕捉到哪个时间点的能量输入对最终的内爆速度或碰撞时间起到了关键作用。我们这项工作的核心就是构建了一个基于Transformer的深度学习模型我们称之为MULTI-Net。它的目标很明确成为一个高效的“代理模拟器”。你输入实验测得的激光波形和靶丸初始半径它就能在毫秒级时间内预测出内爆动力学的关键特征比如平均内爆速度、面密度、碰撞时刻的峰值密度等。这背后我们不仅用上了Transformer还创新性地引入了一个物理信息解码器PID来优化训练数据的采样过程。传统的高维采样方法如拉丁超立方采样在成百上千维的参数空间里很容易“浪费”采样点在物理上不现实或无意义的区域。而PID方法则反其道而行之让我们能在我们更关心的、物理上合理的“内爆特征空间”里进行高效采样从而用更少的数据训练出泛化能力更强的模型。最终我们将这套“AI赋能模拟”的框架应用到了上海神光II升级装置上开展的DCI-R10实验系列中。通过校准我们发现对于该实验的一维模拟一个大约65%的有效激光能量吸收率能让模拟结果与实验观测高度吻合。模型成功预测了实验中的内爆轨迹、碰撞时间等关键动力学过程。这不仅仅是证明了AI模型的预测能力更重要的是它为我们提供了一套数据驱动的、可快速迭代的分析框架让物理学家能从海量的模拟和实验数据中更快地提取物理洞见指导下一轮实验。对于从事高能量密度物理、惯性约束聚变乃至任何涉及复杂物理系统模拟与优化的研究人员和工程师来说这套思路都具有相当的参考价值。2. 核心思路拆解为何是Transformer与物理信息采样2.1 从MLP到Transformer处理时序数据的必然选择在构建代理模型的初期我们和大多数人一样首先尝试了经典的多层感知机MLP。MLP结构简单对于输入输出维度固定、且特征间关系相对独立的问题表现良好。但在我们的场景下输入是激光功率随时间变化的序列通常被插值为100个等间隔时间点这是一个典型的时序信号。激光聚变的内爆过程具有强烈的历史依赖性早期激光脉冲的“预热”效果、主脉冲的强度和形状、以及脉冲后的“余晖”都会对最终的内爆压缩状态产生累积性影响。MLP在处理这种序列时存在固有缺陷。它将整个序列“压平”为一个长向量输入完全丧失了序列中元素的顺序信息。尽管我们可以加入位置编码但MLP的全连接结构难以有效建模序列中远距离元素之间的复杂依赖关系。例如一个在2 ns时刻的激光尖峰可能对6 ns时的碰撞时刻产生决定性影响这种跨越数百个时间步的关联MLP很难精准捕捉。而Transformer架构尤其是其核心的多头自注意力机制正是为解决此类问题而生。注意力机制允许模型在计算每个位置的输出时“关注”序列中所有其他位置的信息并通过学习到的权重来决定关注的程度。这意味着模型可以自动学习到“在预测碰撞时间时需要重点关注激光主脉冲峰值附近几十个时间点的功率同时适当参考脉冲上升沿的形态”。这种动态的、内容相关的依赖关系建模能力是MLP无法比拟的。在我们的对比实验中在模型参数量相近的情况下基于Transformer的MULTI-Net在预测内爆速度Vmean和碰撞时间tcol等关键指标时其决定系数R²更高预测残差的分布更集中中位数残差平均降低了88.2%。这清晰地证明了Transformer在处理此类物理时序预测任务上的优越性。2.2 物理信息解码器破解高维采样困境的钥匙拥有了强大的模型还需要高质量的“燃料”——数据。传统流体动力学模拟如MULTI-IFE生成一个数据样本成本高昂。为了训练一个可靠的代理模型我们需要在输入参数空间激光波形100维 靶丸厚度1维中进行采样以生成训练数据集。101维的空间如果采用网格采样所需的样本数量是天文数字完全不现实。因此我们转向了拉丁超立方采样LHS。LHS是一种准蒙特卡洛方法它能在每个维度上进行均匀分层采样并保证所有维度的投影分布均匀从而用相对较少的样本较好地覆盖整个高维空间。我们用LHS生成了包含2万个样本的初始数据集。然而问题随之而来。LHS虽然保证了采样点在每个输入维度上的均匀性但它无法保证采样点在我们关心的输出空间即内爆特征空间也是均匀或合理的。在高维空间中LHS可能会产生大量物理上不现实或极端的激光波形组合例如功率出现非物理的剧烈震荡这些样本对应的模拟结果可能没有意义甚至会干扰模型的学习。这就像在一片广阔的沙漠中均匀地扔沙子但我们需要研究的只是其中几片绿洲的生态。为此我们提出了物理信息解码器PID采样方法。其核心思想是“反客为主”与其在难以掌控的高维输入空间盲目采样不如直接在我们更熟悉、维度更低仅9维的内爆特征空间进行采样。具体步骤如下训练解码器首先我们利用初始的LHS数据集训练一个简单的解码器神经网络。这个解码器的任务是学习从内爆特征如Vmean, ρR等到激光波形的逆向映射。这相当于让AI学习“什么样的内爆结果对应什么样的激光驱动条件”。特征空间采样接着我们在9维的内爆特征空间内使用LHS等方法生成一系列我们期望研究或覆盖的特征点组合。波形生成将这些采样得到的内爆特征点输入训练好的解码器由解码器“幻想”出对应的激光功率波形。物理验证最后将这些AI生成的激光波形送入真实的MULTI-IFE程序进行模拟计算出真实的内爆特征。这一步至关重要它检验了解码器“幻想”的波形是否物理并将生成的数据锚定在真实的物理规律上。通过这种方式PID方法让我们能够主动地、有指向性地在高维空间的“物理合理”子区域生成数据。实验证明用PID方法补充数据后训练出的MULTI-Net模型在面密度、内爆速度等关键特征的预测误差上比单纯使用LHS数据训练的模型平均降低了82.4%。这相当于用更“优质”的数据喂出了一个更“聪明”的模型。注意PID方法并非没有限制。解码器进行的是一种从低维到高维的映射这本身是一个不适定问题可能存在多个激光波形对应同一组内爆特征的情况。因此PID生成的数据范围必须严格限制在原始数据集所覆盖的物理范围内不能随意外推否则可能产生非物理的、不稳定的结果。3. MULTI-Net模型架构与训练实战3.1 模型架构深度解析我们的MULTI-Net模型采用了Encoder-Only的Transformer架构类似于BERT等预训练语言模型但任务从自然语言理解变成了物理序列回归。下图勾勒了其核心结构下面我们来拆解每一个模块的设计考量1输入嵌入与位置编码输入是长度为100的激光功率序列和一个标量靶丸厚度。首先通过一个线性嵌入层将每个时间点的功率值映射到一个高维向量模型维度d_model64。同时我们为序列添加了标准的正弦余弦位置编码。这是必须的因为Transformer的自注意力机制本身是置换不变的没有位置信息模型就无法区分激光脉冲的先后顺序。位置编码让模型知晓“这是第几个时间点”。2Transformer编码器层× N这是模型的核心我们堆叠了N4层相同的编码器层。每一层包含两个子层多头自注意力层我们设置了n_heads8个注意力头。每个头可以学习关注序列中不同方面的依赖关系。例如有的头可能专门关注激光脉冲的上升沿有的头则关注峰值平台。这种并行处理机制让模型能够从不同子空间理解序列信息。前馈神经网络层一个简单的两层MLP中间层维度d_ff128对每个位置的向量进行非线性变换。 每个子层前后都采用了“Pre-Norm”残差连接即在子层操作之前进行层归一化LayerNorm然后将子层输出与输入相加。这种结构被证明比“Post-Norm”更有利于深层模型的稳定训练能有效缓解梯度消失问题。3注意力池化与预测头经过4层编码器后我们得到了一个100×64的序列表示。为了回归出9个标量的内爆特征我们需要将变长的序列聚合为一个固定长度的全局表示。这里我们没有直接用简单的全局平均池化而是使用了注意力池化。我们引入一个可学习的查询向量让它与整个序列做注意力交互最终加权聚合出一个能代表整个序列上下文的全局向量。这种方式比简单平均更灵活能让模型动态决定哪些时间步的信息对最终预测更重要。 最后这个全局向量通过一个两层的MLP预测头输出维度为9映射到最终的内爆特征预测值。在预测头我们也加入了残差连接有助于优化训练。3.2 数据准备与训练细节数据集构建 我们使用MULTI-IFE程序生成数据。靶丸外半径固定为550微米厚度在50-110微米之间变化激光总能量在16-32 kJ之间。通过LHS和PID方法我们总共构建了包含2万个样本的数据集。按照8:1:1的比例随机划分为训练集、验证集和测试集。所有输入特征激光功率序列和输出标签内爆特征都进行了归一化处理缩放到[0, 1]区间以加速模型收敛并提高数值稳定性。训练超参数与技巧优化器使用AdamW优化器初始学习率设置为3e-4并采用带热重启的余弦退火学习率调度有助于模型跳出局部最优。损失函数采用平滑L1损失Huber损失它对异常值的敏感度低于均方误差MSE能使训练更稳定。批大小设置为64。正则化除了权重衰减AdamW内置我们在注意力分数和FFN输出后使用了较高的Dropout率0.1以防止过拟合这对于数据量相对有限的科学计算任务尤为重要。训练监控我们不仅监控训练集和验证集的整体损失更关键的是监控每个内爆特征单独预测的验证集误差。例如碰撞时间tcol的预测误差对我们后续的校准至关重要需要特别关注其收敛情况。实操心得模型容量与数据量的平衡在科学机器学习中模型复杂度和数据量必须匹配。我们的Transformer模型约有16万个参数对于2万个数据样本来说是一个合理的规模。如果模型过于复杂例如层数或维度翻倍很容易在有限的、带有数值噪声的模拟数据上过拟合。我们的策略是先用一个中等容量的模型配合强正则化确保其泛化能力然后通过PID方法提升数据质量而非盲目增加模型参数。实践表明在数据质量提升后同一模型的性能得到了显著改善这比单纯增大模型规模更有效。4. 从模拟到实验校准与预测全流程4.1 模型校准弥合模拟与实验的鸿沟即使代理模型在模拟数据上表现完美直接用它预测实验结果也会产生偏差。因为一维流体模拟做了大量简化假设如对称性、忽略某些不稳定性、使用理想化的状态方程等而真实实验涉及复杂的二维/三维效应、激光等离子体不稳定性LPI、以及诊断设备的测量误差等。因此校准Calibration是连接模拟世界与真实世界的关键桥梁。我们的校准思路非常直接寻找一个“有效”的激光波形使得用这个波形输入模拟或代理模型得到的结果与实验测量结果尽可能一致。我们定义了一个损失函数。对于N发实验我们将实验测得的激光波形L_exp与待求的有效激光波形L_eff进行比较目标是让模拟预测的内爆特征F_sim(L_eff)与实验推断的特征F_exp(L_exp)之间的差异最小化。损失函数是各特征误差的加权平方和。在实际操作中我们进行了重要简化假设有效激光波形L_eff是实验波形L_exp乘以一个常数吸收率因子 η。即L_eff η * L_exp。这意味着我们假设激光能量在时间和空间上被均匀地吸收了一部分而波形形状保持不变。这个简化虽然粗糙但非常实用它将要校准的参数从上百个整个波形减少到1个η极大降低了校准的复杂度。校准流程我们选取DCI-R10实验中的3发22, 24, 37作为校准集它们提供了可靠的碰撞时间诊断数据。使用PID采样方法围绕这3发实验的激光波形生成一系列带有不同吸收率η猜测值的波形并用MULTI-Net快速预测其碰撞时间。以碰撞时间预测值与实验测量值的平均绝对误差MAE作为指标绘制η与误差的关系曲线。如图6所示曲线呈现出一个清晰的“V”形最低点对应的η值即为最优吸收率。无论是全尺度MULTI-IFE模拟还是MULTI-Net代理模型都指向了约65%的最佳值。这个65%的吸收率具有明确的物理意义它表明在DCI-R10实验的一维模拟框架下大约有35%的激光能量由于二维几何效应、激光等离子体不稳定性、辐射损失等原因未能有效地用于驱动靶丸内爆。校准后碰撞时间的预测误差从约0.7 ns大幅降低到0.1 ns以内。重要提示这种常数吸收率的校准是一种“有效参数”方法它用一个简单的参数囊括了所有未被模拟考虑的复杂物理过程。它不是为了揭示具体的物理机制而是为了让模拟工具在特定实验条件下变得“可用”和“可预测”。这是工程实践中常用的、非常有效的数据同化手段。4.2 实验预测实战以DCI-R10第33发为例校准完成后我们将最优吸收率η65%整合进MULTI-Net模型形成一个“校准版”的预测管道。现在我们可以用它来预测其他未参与校准的实验了。我们以DCI-R10的第33发实验为例。其实验靶丸为金锥内嵌塑料C8D8壳层CD壳层外半径560微米厚度60微米由16束激光共28 kJ能量驱动。预测与对比分析输入将实验测量的原始激光波形乘以65%的吸收率作为有效输入波形连同靶丸厚度60微米一起输入校准后的MULTI-Net模型。快速预测模型在瞬间输出预测结果碰撞时间t_col 6.11 ns平均内爆速度V_mean 190 km/s峰值面密度ρR 0.47 g/cm²。与全尺度模拟对比作为验证我们将同一输入送入MULTI-IFE程序进行完整的一维模拟得到结果t_col 6.17 ns,V_mean 195 km/s,ρR 0.48 g/cm²。两者高度吻合证明了代理模型的可靠性。与实验诊断对比图7(b)将模拟计算出的内爆轨迹黑线、内爆速度黄线叠加在实验X射线条纹相机图像上。可以看到模拟轨迹清晰地再现了实验图像中反映的等离子体加速行为2-4 ns间的弯曲条纹并且预测的碰撞时刻约6.17 ns与X射线辐射突然增强的时刻吻合得很好。模拟还预测了激光关闭后约5.69 ns冠状等离子体快速冷却的现象。物理量推断从模拟中我们可以进一步提取实验难以直接测量的量如图7(c)所示的密度和面密度随时间演化曲线预测碰撞时峰值密度可达约117 g/cc。结果解读与价值 这次成功的预测具有多重意义效率验证MULTI-Net的预测是毫秒级的而一次一维MULTI-IFE模拟可能需要数分钟到数小时。对于需要大量参数扫描或实时分析的应用场景效率提升是数量级的。物理一致性预测结果与多个独立的实验诊断条纹相机的时间分辨图像、碰撞时刻等相互印证增强了我们对模型物理可信度的信心。方案可行性预测显示DCI方案能够产生~200 km/s的内爆速度和超过100 g/cc的碰撞密度这些是实现聚变点火的必要条件为DCI方案的可行性提供了积极的数据支持。5. 局限、挑战与未来展望5.1 当前框架的局限性尽管取得了令人鼓舞的成果我们必须清醒地认识到当前方法的局限性这主要源于其物理建模的简化维度限制本工作完全基于一维球对称模拟。而真实的DCI内爆特别是两个锥体对撞的等离子体射流其相互作用是高度二维甚至三维的。二维效应如瑞利-泰勒不稳定性、不对称性、涡流结构等会显著影响等离子体的混合、加热和最终的能量耦合效率。我们的一维模型和代理模型都无法捕捉这些关键物理。当前预测的“成功”在很大程度上依赖于通过常数吸收率η这个有效参数将复杂的二维损失效应进行了“打包”处理。物理过程简化MULTI-IFE一维模拟本身包含了许多物理模型近似如辐射输运、电子热传导、状态方程等。我们的代理模型本质上是这些近似模型的“快速复制品”继承了其所有简化假设。对于激光等离子体不稳定性LPI这种高度非线性、多尺度的过程一维模拟通常只能通过经验或定标律进行非常粗略的刻画。数据依赖性与外推风险深度学习模型严重依赖于训练数据的分布。PID方法虽然改善了数据质量但其生成范围仍受限于原始模拟数据所覆盖的物理参数空间。对于远离训练区域的、全新的实验设计如 drastically不同的激光脉冲形状或靶丸结构模型的预测可能会不可靠。模型不具备物理第一性原理的泛化能力。5.2 实操中的挑战与应对策略在实际构建和运用此类AI代理模型时我们踩过不少坑也总结了一些经验挑战一模拟数据的噪声与不确定性。数值模拟本身存在离散误差、收敛性问题不同参数下的计算精度可能不一致。这些“噪声”会被模型学习。应对在数据预处理阶段进行严格的模拟结果验证。对于明显违反物理守恒律或异常的数据点需要手动检查或剔除。在训练时使用更鲁棒的损失函数如Huber损失并适当增加正则化。挑战二多目标回归的平衡。我们需要同时准确预测多个内爆特征速度、密度、时间等它们的量纲和数值范围差异巨大。应对输出层归一化至关重要。我们对每个输出特征进行单独的Z-score标准化减均值除标准差。在损失函数中可以为不同特征设置不同的权重系数α_F根据其物理重要性或预测难度进行调节。例如我们可能更关注碰撞时间的精度。挑战三模型的可解释性。Transformer是个“黑箱”我们如何知道它是否学到了正确的物理而不是数据中的虚假关联应对利用注意力权重可视化。我们可以分析模型在预测某个特征时对输入激光波形不同时间点的关注程度。如果发现模型在物理上关键的激光脉冲时刻如峰值给予了高注意力这能增强我们的信心。此外进行敏感性分析微调输入看输出变化与物理直觉对比也是一种有效的验证手段。5.3 未来发展方向这项工作是我们构建的面向激光聚变实验的多模态人工智能模型“朱融-I”ZhuRong-I的一部分。未来的发展将沿着以下几个方向深入迈向高维模拟代理最直接和重要的扩展是将此框架应用于二维甚至三维的辐射流体力学模拟。这需要处理图像或网格数据作为输入/输出可能引入卷积神经网络CNN或图神经网络GNN与Transformer结合。数据生成成本将呈指数增长对高效采样如主动学习、强化学习和模型架构设计提出了更高要求。深度融合物理信息超越目前“数据驱动”的范式向“物理信息驱动”发展。例如将流体力学方程组的残差作为约束项加入损失函数物理信息神经网络PINNs或构建具有明确物理含义的模型架构如编码守恒律的神经网络让模型在数据稀缺区域也能做出物理合理的预测。闭环优化与主动实验设计将训练好的代理模型与优化算法如贝叶斯优化结合形成一个闭环系统。给定实验目标如最大化中子产额系统可以自动搜索最优的激光波形和靶丸设计参数并建议下一步最具信息量的实验点从而加速“设计-模拟-实验-分析”的迭代周期。多模态数据融合未来的代理模型不应只预测有限的几个积分量而应能同时处理并关联多种诊断数据如X射线图像、中子谱、干涉仪数据等。这需要发展多模态融合的AI模型实现对实验状态的更全面、更可靠的实时评估与预测。这条路才刚刚开始。AI不会取代物理学家对复杂物理机制的深刻思考也不会取代高保真度模拟程序的基石地位。但它正在成为一个强大的“加速器”和“放大器”帮助我们将有限的模拟和实验资源用在最关键的物理问题和最优的设计参数上从而更快地逼近那个终极目标——可控的聚变能源。