北京雁栖湖应用数学研究院 北京雁栖湖应用数学研究院

  • 关于我们
    • 院长致辞
    • 理事会
    • 协作机构
    • 参观来访
  • 人员
    • 管理层
    • 科研人员
    • 博士后
    • 来访学者
    • 行政团队
  • 学术研究
    • 研究团队
    • 公开课
    • 讨论班
  • 招生招聘
    • 教研人员
    • 博士后
    • 学生
  • 会议
    • 学术会议
    • 工作坊
    • 论坛
  • 学院生活
    • 住宿
    • 交通
    • 配套设施
    • 周边旅游
  • 新闻
    • 新闻动态
    • 通知公告
    • 资料下载
关于我们
院长致辞
理事会
协作机构
参观来访
人员
管理层
科研人员
博士后
来访学者
行政团队
学术研究
研究团队
公开课
讨论班
招生招聘
教研人员
博士后
学生
会议
学术会议
工作坊
论坛
学院生活
住宿
交通
配套设施
周边旅游
新闻
新闻动态
通知公告
资料下载
清华大学 "求真书院"
清华大学丘成桐数学科学中心
清华三亚国际数学论坛
上海数学与交叉学科研究院
BIMSA > BIMSA Computational Math Seminar 扩散模型与演化算法的深层联系
扩散模型与演化算法的深层联系
组织者
李震 , 梁鑫 , 马志婷 , Hamid Mofidi , 王丽 , 熊繁升 , 杨朔 , 杨武岳
演讲者
Yanbo Zhang
时间
2025年02月27日 09:00 至 10:00
地点
A3-4-312
线上
Zoom 787 662 9899 (BIMSA)
摘要
在现实世界中,创造性的产物往往源自演化。随机的变异,加上自然选择,就产生了丰富多样的物种。而如今,在计算的世界中,创造性常常来自生成式模型,而其中则以扩散模型为主流。演化与降噪在直觉上就具有很多相似性——都在逐步优化,都能产生丰富的内容,都同时蕴含着确定与随机。

我们在最近的工作中发现:扩散模型在数学上就是一个演化算法,天然地蕴涵了自然选择、随机变异,以及生殖隔离。基于这个发现,我们提出了「**扩散演化算法**」(Diffusion Evolution Algorithm),无需训练任何神经网络,可以直接优化黑盒系统的参数。不仅如此,我们刻意地减少人为设计的成分,使得扩散模型领域的工具可以用于此算法:扩散模型的加速采样方法同样可以加速演化;而隐空间扩散模型的思想也可以导出「隐空间演化算法」,使得我们可以轻松优化上万维的系统(例如神经网络),解决一些强化学习的任务。

扩散模型与演化算法的联系不仅在于性能,我们也关心它的理论潜力——演化算法可以反过来导出更好的生成模型吗?如何进行开放式的演化?其他扩散模型会对应哪些演化算法?
北京雁栖湖应用数学研究院
CONTACT

No. 544, Hefangkou Village Huaibei Town, Huairou District Beijing 101408

北京市怀柔区 河防口村544号
北京雁栖湖应用数学研究院 101408

Tel. 010-60661855
Email. administration@bimsa.cn

版权所有 © 北京雁栖湖应用数学研究院

京ICP备2022029550号-1

京公网安备11011602001060 京公网安备11011602001060