|普林,DeepMind新研究:结合深度学习符号回归,深度模型中看见宇宙( 三 )



用符号回归近似内部函数
该研究展示了如何使用符号回归从消息中提取力学定律 , 且无需使用关于每种力的形式的先验知识 。
哈密顿动力学
基于牛顿动力学案例中的数据集 , 研究者使用哈密顿归纳偏置训练了 FlatHGN , 并展示了它可以为所有问题提取标量势能 , 而不是力 。
就性能结果而言 , 哈密顿模型在所有数据集上的表现都可以和 L_1 正则化模型媲美 。
宇宙学中的暗物质晕
最后 , 研究者将该方法应用于现实问题:宇宙学中的暗物质晕 。
在研究这个问题时 , 研究团队采用的是来自 [40] 的开源多体暗物质模拟 。 研究者选择了该数据集中的第零模拟 , 在最后一个时间步(current day Universe)该模拟包含 215,854 个暗物质晕 。
下表 2 中「Best, with mass」行即为使用该研究方法提取的公式 。 研究者在没有质量信息的情况下做了相同的分析 , 并发现了一个有趣的类似公式 。 相邻两者之间的相对速度可用于表示质量 , 如表 2 所示:
|普林,DeepMind新研究:结合深度学习符号回归,深度模型中看见宇宙
本文插图

在该问题中 , 符号表达式的泛化性能要比原本的图神经网络好很多 。 这又反映了尤金 · 维格纳(Eugene Wigner)的那句话:简单的符号模型语言却能够深刻地描述宇宙 。
论文地址:https://arxiv.org/pdf/2006.11287.pdf
博客地址:https://astroautomata.com/paper/symbolic-neural-nets/
github 地址:https://github.com/MilesCranmer/symbolic_deep_learning
【|普林,DeepMind新研究:结合深度学习符号回归,深度模型中看见宇宙】交互式 demo 地址:https://colab.research.google.com/github/MilesCranmer/symbolic_deep_learning/blob/master/GN_Demo_Colab.ipynb


推荐阅读