施郁:2026年可能的诺贝尔物理学奖:学习、记忆和计算的统计物理

学习、记忆和计算的统计物理

今年诺贝尔物理学奖可能授予复杂系统的统计物理,可能奖励将统计物理引入计算、推断、大脑与人工智能的物理学家,或许是Hanoch Gutfreund、Haim Sompolinsky和Marc Mézard。Mézard的贡献是用自旋玻璃理论解决计算机科学问题,包括腔方法和满足性问题,而Gutfreund和Sompolinsky的贡献主要是神经网络的统计物理理论。Bernard Derrida也有重要贡献,包括随机能量模型与广义随机能量模型、Brunet–Derrida 截断、非对称排他过程等。 Riccardo Zecchina则在实际算法上有重要贡献。

,

图片

图片

图片

如果确实如此,这是在人工智能大发展的时代,表彰在相关领域发展中做出开创性工作的物理学工作,也是Giorgio Parisi2021年诺奖工作(自旋玻璃复本对称破缺理论)和John Hopfield2024年诺奖工作(神经网络模型)的续篇,是关于复本对称破缺和神经网络的进一步意义。

2024年诺贝尔物理学奖授予神经网络研究是统计物理和层展论的胜利[1]。今年的获奖成就可能是统计物理和层展论的再次胜利。

从2020年、2021年和2024年说起

2020年,Roger Penrose因为黑洞理论工作分享诺贝尔物理学奖。我当时说:“本次诺奖也可算是首次颁发给数学物理,或者理论物理中与实验联系不具体、不直接的方面。诺奖对这些领域的态度变得更友好。这些领域不一定研究黑洞奇点这种完全不能直接观测的课题,但是与围绕实验或观测的相关领域相比,关心的问题、研究的风格和方法,乃至价值标准都有所不同。彭罗斯的工作属于与天体物理相关的引力理论,类似的领域,还有与凝聚态物理相关的统计物理,与粒子物理相关的量子场论,等等。传统来说,它们的成果显然不容易获得诺奖。物理诺奖的新时代开始了。除了对于基础理论的态度更友好,各领域的获奖机会分布也在改变。”[2]

2021年,Giorgio Parisi因自旋玻璃的复本对称破缺理论获得诺贝尔物理学奖的一半。宣布之前,我预测了Parisi的获奖[3]。

2024年,John Hopfield和Geoffrey Hinton因人工神经网络的基础发现和发明获奖。2023年宣布John Hopfield得2022年玻尔兹曼奖时,我和他的一位中国学生说,Hopfield本来可以和Parisi一起因自旋玻璃和神经网络得诺奖,祝他2024年成功。2025年我成功预测,量子力学百年之际的诺奖可能授予拓展量子力学适用范围的成就,包括超导电路宏观量子效应,点名John Clarke和Michel Devoret。

1984年前的自旋玻璃和神经网络理论

简单回顾自旋玻璃的历史[1]。Edwards和Anderson在1975年提出相邻随机耦合的伊辛模型(EA模型),Sherrington和Kirkpatrick把它改成全耦合模型(SK模型),Thouless、Anderson和Palmer用Onsager和Bethe的方法导出TAP平均场方程,克服了负熵悖论,de Almeida和Thouless发现复本对称解失稳(AT线),Parisi在1979至1980年给出复本对称破缺(RSB)解,2021年因此获奖。

Derrida在1980年提出随机能量模型,这是最简单的可解平均场玻璃模型。1982年,Hopfield提出联想记忆的神经网络模型。1983年起,Hinton与Sejnowski等人发展玻尔兹曼机。

Hopfield模型为近期获得重大发展的人工智能播下火种。

Marc Mézard

Mézard对自旋玻璃理论做了一系列重要贡献。

1984年,Mézard与Parisi、Sourlas、Toulouse、Virasoro合作,阐明了Parisi复本对称破缺解的物理图像:系统的无穷多个平衡态按超度量关系组织成层级树结构,任意三个纯态的交叠满足 q_{αβ} ≥ min(q_{αγ}, q_{βγ});相空间随之分解为彼此不再遍历的纯态,且这一精细的序结构在小随机扰动下依然保持稳定(随机稳定性)[4]。Virasoro已于2021年、Parisi获诺贝尔奖之前去世。

这里的"纯态"是自旋玻璃理论的专用概念,指热力学极限下吉布斯测度分解出的一个个互不等价的遍历分量。普通相变(如铁磁体)的吉布斯测度只分解为少数几个纯态,其中全部自旋向上或全部自旋向下,靠整体对称性相联系;而SK模型在低温下,自由能景观碎裂成无穷多个极小值,两两之间隔着 O(N) 量级的自由能势垒。N→∞时这些势垒不可翻越,系统被锁进由其中一个极小值支配的微观构型族,每一族就是一个纯态。每个纯态由其局域磁化轮廓 m_i^α = ⟨S_i⟩_α 刻画,即给每个自旋 i 赋予一个确定的平均磁化;两个纯态的相似程度用交叠 q_{αβ} = (1/N)Σᵢ m_i^α m_i^β 度量,q 接近 1 表示微观构型几乎一致,接近 0 表示几乎无关。所谓遍历性破缺,就是指从纯态 α 内部出发的动力学永远到达不了纯态 β。

Mézard又与Virasoro进一步给出了刻画这种超度量组织的微观方程[5]。他们用局域磁化的自平均分布分析SK模型纯态的层级组织:每个纯态α都定义了自旋之间的一个超度量距离 D_α(i,j);相互交叠为 q 的一族纯态,其自旋集合可分解为若干互不相交、总磁化一致的"胞腔";而在每个胞腔内取平均磁化的"祖先态"满足类平均场方程。

Gross和Mézard还证明,Derrida随机能量模型的解是p自旋模型解在p趋于无穷时的极限[6]。这一结果确立了随机能量模型作为"最简单自旋玻璃"的基准地位。

1986年,Mézard与Parisi、Virasoro不依赖复本技巧、直接从关于纯态结构的概率论假设出发,重新导出Parisi自由能公式,即"不用复本的复本解"[7],这是腔方法的先声。随后,Mézard把复本计算改写为自洽的概率方程,这就是腔方法[8],做法是:从相互作用图中摘去一个自旋,留下一个"腔";腔的各邻居因失去这个节点而彼此独立,各自用一条"消息"描述自己在该节点缺席时的状态分布;把节点放回,它的局域分布就是各条消息的简单函数,每条消息又由其余消息决定,而消息必须是这套自洽方程的解。一个无法直接处理的多体问题,就这样分解成一组局域的概率方程:在树状图上它严格成立,在稀疏随机图上它是控制性近似。它既给出了复本对称破缺解的清晰概率表述,又能处理树状及稀疏随机图结构,成为后来一切用统计物理方法研究优化和推断问题的语言。也正因它最终是一组可以迭代求解的局域方程,腔方法不止用于计算自由能,还能直接变成算法,这也是它进入计算机科学的入口。

Mézard还把这些思想系统性地带进计算机科学。他先与Parisi合作,在1985—1986年建立了组合优化与无序系统的对应:将旅行商等组合优化问题映射为自旋玻璃,也就是在随机能量景观中寻找基态[9]。2002年,又与Parisi、Zecchina解出随机可满足性问题——给出3-SAT阈值约4.267,并发明survey propagation算法,能求解大规模实例[10]。这是统计物理第一次解决计算机科学的核心难题。这一纲领还延伸到纠错码与压缩感知。近年来,他又转向生成模型的统计力学与反向Langevin方程[11]。他也研究神经网络,例如1989年,与Krauth研究了二值感知机的学习能力[12]。

Mézard,巴黎高师博士,2012至2022年任巴黎高师校长,现任博科尼大学教授、ICTP科学委员会主席(2024年起),2016年与Parisi、Zecchina分享美国物理学会Lars Onsager奖(表彰"将自旋玻璃思想应用于计算问题集合,产生新算法并揭示其结构相变"),2026年与Derrida、Dhar、Sompolinsky共同获得ICTP狄拉克奖章。

Gutfreund 和Sompolinsky

1985至1987年,Daniel Amit、Hanoch Gutfreund和Haim Sompolinsky用自旋玻璃的理论方法,严格求解了Hopfield模型,解析推导出存储容量(0.138N)和完整相图[13]。这是把统计力学引入神经科学的奠基之作。当时Amit和Gutfreund同在希伯来大学,Sompolinsky在巴伊兰大学。

Parisi在2021年诺贝尔演讲中回顾,正是这篇论文“证明Hopfield模型可以被完全解析地理解”,成为此后一切更复杂、更现实的网络模型之解析研究的“蹦床”[14]。

不幸的是, Amit已于2007年去世(对于更广范围的理论物理学家,他的关于场论重整化的书更著名,本人也受益良多)。

1982年,Sompolinsky与Zippelius建立SK模型的弛豫动力学,即自旋玻璃的动力学平均场理论,刻画了慢模与老化[15]。1985年,Gross、Kanter与Sompolinsky讨论了自旋玻璃的复本对称破缺从单步到连续的转变,其中出现边缘稳定相[16]。1996和1998年,Sompolinsky与van Vreeswijk提出兴奋-抑制平衡网络的混沌,这被广泛认为是大脑皮层的工作点,解释了皮层中观察到的不规则发放[17]。近年来,他把统计物理用于深度学习的动力学与泛化,并研究神经表征的几何(包括深度网络中对象流形的容量)。

1988年,Gutfreund与Young、Reger研究非对称自旋玻璃中的吸引子动力学[18];1990年发表综述《From statistical mechanics to neural networks and back》[19]。

Haim Sompolinsky,1949年生,耶路撒冷希伯来大学荣休教授,哈佛大学Swartz理论神经科学项目主任(2006年起)。他获得2022年Gruber奖(与Abbott、Brown、Sejnowski)和2024年大脑奖(与Abbott、Sejnowski)。

Hanoch Gutfreund,1935年生于波兰克拉科夫,1966年获耶路撒冷希伯来大学理论物理博士学位,1985年起任该校理论物理Andre Aisenstadt讲席教授,曾任物理研究所所长、高级研究院院长、校长(1992至1997年)。他后来主要从事爱因斯坦研究,与Renn合著《The Formative Years of Relativity》《The Road to Relativity》和《Einstein on Einstein》。他现任爱因斯坦研究中心主任,负责管理爱因斯坦的知识产权,并领导以色列科学基金会执行委员会。

Derrida

Bernard Derrida,1952年生,法兰西公学院教授(2014年起),2010年获玻尔兹曼奖章,2026年获狄拉克奖章。他是解构主义哲学家雅克·德里达的亲戚。

他的主要相关贡献是随机能量模型与广义随机能量模型。1980年,Derrida提出随机能量模型(REM),1981年完整求解[20],是最简单的可解平均场玻璃模型:把N个自旋的2的N次方个构型的能量当作独立随机数,却抓住了玻璃相变的实质,包括玻璃化转变、熵危机和一级复本对称破缺。

1985年,Derrida提出广义随机能量模型(GREM)[21],把REM推广为层级结构,其平衡测度恰好重现Parisi解的超度量结构。1987年Ruelle用概率论严格重写了REM和GREM,催生了Ruelle概率级联。十年后,Talagrand用Guerra开创的插值方法严格证明了Parisi公式,Talagrand 2024年获得了数学界的最高奖阿贝尔奖。

Derrida还与Brunet建立了带截断的Fisher-KPP前沿传播理论(Brunet–Derrida截断)[22],给出前沿速度的移动与涨落,如今是演化生物学中适应度波的标准数学框架;他与Gardner、Zippelius给出迄今唯一精确可解的非对称神经网络模型(1987年)[23],并与Pomeau建立了随机布尔网络的退火近似——后者后来成为Kauffman基因调控网络之物理学的入口[24];与Spohn求解了树上的定向聚合物问题,把“冻结”现象与行波前沿联系起来[25];与Evans、Hakim和Pasquier给出非对称排他过程的矩阵乘积精确解[26];与Lebowitz及合作者建立密度轮廓和输运电流的严格大偏差理论,成为偏离平衡态宏观涨落理论的基本可解范例[27]。[这里插入Riccardo Zecchina的介绍,见下篇]

结语

五十年来,阻挫、随机与复杂能量景观这些无序系统统计物理的概念在刻画复杂系统发挥了巨大作用,从磁性合金到联想记忆,从可满足性问题到深度学习,在联想记忆、优化和人工智能方面开花结果。这已经反映在2021年的Parisi诺奖到2024年的Hopfield和Hinton诺奖,有可能也会反映到将来诺奖,也许就是2026年。

杨振宁先生1971年为《相变与临界现象》第一卷写的序中说,今后几十年的一个重大智力挑战是脑组织的问题[1]。半个多世纪后,统计物理走在这个方向。

参考文献

[1] 施郁. 统计物理和层展论的胜利:为何2024年诺贝尔物理学奖授予神经网络研究[J]. 大学物理, 2025, 44(1): 1-16, 33.

[2] 施郁.诺贝尔物理学奖的科学哲学突破:从彭罗斯和霍金说起[J]. 知识分子公众号,2020年10月23日; 新兴科学和技术趋势, 2022, 1(1): 49-54.

[3] 施郁. 谁有可能获得2021年诺贝尔物理学奖,物理文化与施郁世界线,2021年10月5日。

[4] Mézard M, Parisi G, Sourlas N, Toulouse G, Virasoro M A. Nature of the spin-glass phase[J]. Phys. Rev. Lett., 1984, 52: 1156.

[5]M. Mézard, M. A. Virasoro, "The microstructure of ultrametricity", Journal de Physique 46 (1985) 1293–1307. DOI: 10.1051/jphys:019850046080129300

[6] Gross D, Mézard M. The simplest spin glass[J]. Nucl. Phys. B, 1984, 240: 431.

[7] Mézard, Parisi, Virasoro, Europhys. Lett. 1, 77 (1986)

[8] Mézard, Parisi, "The Bethe lattice spin glass revisited", Eur. Phys. J. B 20, 217 (2001)

[9] Mézard, Parisi, "Replicas and optimization", J. Physique Lett. 46, L771 (1985)

[10] Mézard M, Parisi G, Zecchina R. Analytic and algorithmic solution of random satisfiability problems[J]. Science, 2002, 297: 812.

[11] Biroli, Mézard, J. Stat. Mech. 2023, 093402;Biroli, Bonnaire, De Bortoli, Mézard, Nat. Commun. 15, 9957 (2024)

[12]Krauth, W., and M. Mézard, 1989, J. Phys. (Paris) 50, 3057.

[13] Amit D J, Gutfreund H, Sompolinsky H. Spin-glass models of neural networks[J]. Phys. Rev. A, 1985, 32: 1007; Amit D J, Gutfreund H, Sompolinsky H. Storing infinite numbers of patterns in a spin-glass model of neural networks[J]. Phys. Rev. Lett., 1985, 55: 1530; Amit D J, Gutfreund H, Sompolinsky H. Statistical mechanics of neural networks near saturation[J]. Ann. Phys., 1987, 173: 30; Amit D J, Gutfreund H, Sompolinsky H. Information storage in neural networks with low levels of activity[J]. Phys. Rev. A, 1987, 35: 2293.

[14] Parisi G. Multiple equilibria [J]. Rev. Mod. Phys., 2023, 95: 030501.

[15] Sompolinsky H, Zippelius A. Relaxational dynamics of the Edwards-Anderson model and the mean-field theory of spin-glasses[J]. Phys. Rev. B, 1982, 25: 6860.

[16] Gross, D. J., I. Kanter, and H. Sompolinsky, 1985, Phys. Rev. Lett. 55, 304.

[17] van Vreeswijk C, Sompolinsky H. Chaos in neuronal networks with balanced excitatory and inhibitory activity[J]. Science, 1996, 274: 1724; van Vreeswijk C, Sompolinsky H. Chaotic balanced state in a model of cortical circuits[J]. Neural Comput., 1998, 10: 1321.

[18] Gutfreund H, Reger J D, Young A P. The nature of attractors in an asymmetric spin glass with deterministic dynamics[J]. J. Phys. A, 1988, 21: 2775.

[19] Gutfreund H. From statistical mechanics to neural networks and back[J]. Physica A, 1990, 163: 373.

[20] Derrida B. Random-energy model: an exactly solvable model of disordered systems[J]. Phys. Rev. B, 1981, 24: 2613.

[21] Derrida B. A generalisation of the random energy model which includes correlations between the energies[J]. J. Phys. Lett., 1985, 46: L401.

[22] Brunet E, Derrida B. Shift in the velocity of a front due to a cutoff[J]. Phys. Rev. E, 1997, 56: 2597

[23] Derrida B, Gardner E, Zippelius A. An exactly solvable asymmetric neural network model[J]. Europhys. Lett., 1987, 4: 167.

[24] Derrida B, Pomeau Y. Random networks of automata: a simple annealed approximation[J]. Europhys. Lett., 1986, 1: 45.

[25] Derrida B, Spohn H. Polymers on disordered trees, spin glasses, and traveling waves[J]. J. Stat. Phys., 1988, 51: 817.

[26] Derrida B, Evans M R, Hakim V, Pasquier V. Exact solution of a 1D asymmetric exclusion model using a matrix formulation[J]. J. Phys. A, 1993, 26: 1493

[27] Derrida B, Lebowitz J L. Exact large deviation functional of the density profile in the symmetric simple exclusion process[J]. Phys. Rev. Lett., 1998, 80: 209.返回搜狐,查看更多

阅读 ()
作者声明
内容为转载
平台声明
该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。