基于物理信息的神经网络求解微分方程
微分方程可以描述各种各样的自然和社会现象。在深度学习框架下的基于物理信息的神经网络(PINNs)方法是求解微分方程正/反问题的有效手段。本课程的主要内容是讲解近年来关于PINN研究工作的文献,包括PINN及其各种改进方法的原理、数值算例和代码。同时,鼓励研究PINN相关问题的听众分享自身研究经验和成果。
讲师
日期
2023年03月07日 至 06月27日
位置
Weekday | Time | Venue | Online | ID | Password |
---|---|---|---|---|---|
周二 | 13:30 - 16:05 | A3-3-201 | ZOOM 03 | 242 742 6089 | BIMSA |
修课要求
掌握数学物理方程、深度神经网络相关的基础知识,会使用Python语言。
课程大纲
1. 综述,PINN原文,Tensorflow代码框架
2. 区域分解:cPINN、XPINN,并行,自适应激活函数
3. 残差点采样方法:DeepXDE(自适应加密),gPINN,系统研究
4. 改善网络训练方式:bcPINN,Seq2seq/Curriculum learning,Causality
5. Loss中的权重设计:动态权重,point-weighted,gwPINN
6. 变分法框架:基础知识回顾,DGM,Deep Ritz,hp-VPINNs
7. PINN与离散数值格式结合
8. PINN失效的探索和改进(1):Loss的landscape,代码,频率原则简介
9. PINN失效的探索和改进(2):NTK理论,傅里叶特征嵌入,Multi-scale DNN
10. PINN解双曲守恒律方程(1):cvPINN,discrete divergence operator
11. PINN解双曲守恒律方程(2):PINN解欧拉方程文献综述,反问题上的应用
12. 算子学习(1):泛函基础知识回顾,Chen & Chen(1995),DeepONet原文
13. 算子学习(2):physics-informed DeepONet,V-DeepONet
14. 算子学习(3):MIONet,DeepM&Mnet, Multifidelity DeepONet
15. 算子学习(4):FNO,DeepONet与FNO的对比
16. 课程回顾,互动交流
2. 区域分解:cPINN、XPINN,并行,自适应激活函数
3. 残差点采样方法:DeepXDE(自适应加密),gPINN,系统研究
4. 改善网络训练方式:bcPINN,Seq2seq/Curriculum learning,Causality
5. Loss中的权重设计:动态权重,point-weighted,gwPINN
6. 变分法框架:基础知识回顾,DGM,Deep Ritz,hp-VPINNs
7. PINN与离散数值格式结合
8. PINN失效的探索和改进(1):Loss的landscape,代码,频率原则简介
9. PINN失效的探索和改进(2):NTK理论,傅里叶特征嵌入,Multi-scale DNN
10. PINN解双曲守恒律方程(1):cvPINN,discrete divergence operator
11. PINN解双曲守恒律方程(2):PINN解欧拉方程文献综述,反问题上的应用
12. 算子学习(1):泛函基础知识回顾,Chen & Chen(1995),DeepONet原文
13. 算子学习(2):physics-informed DeepONet,V-DeepONet
14. 算子学习(3):MIONet,DeepM&Mnet, Multifidelity DeepONet
15. 算子学习(4):FNO,DeepONet与FNO的对比
16. 课程回顾,互动交流
参考资料
Published literatures related to PINNs since 2019, which will be informed before each class.
听众
Undergraduate
, Graduate
视频公开
公开
笔记公开
公开
语言
中文
讲师介绍
熊繁升,现任北京雁栖湖应用数学研究院助理研究员,曾任北京应用物理与计算数学研究所所聘博士后。先后毕业于中国地质大学(北京)、清华大学,美国耶鲁大学联合培养博士。研究兴趣主要集中于基于机器学习算法(DNN、PINN、DeepONet等)求解微分方程模型正/反问题及其在地球物理波传播问题中的应用,相关成果发表在JGR Solid Earth、GJI、Geophysics等期刊上。