PTT推薦

[爆卦] 2024諾貝爾物理獎

看板Gossiping標題[爆卦] 2024諾貝爾物理獎作者
jackliao1990
(j)
時間推噓68 推:72 噓:4 →:61

https://www.nobelprize.org/prizes/physics/2024/popular-information/

瑞典皇家科學院決定將2024年諾貝爾物理學獎授予John J.field和Geoffrey E. Hinton
,以表彰其“通過人工神經網路實現的基礎性發現與發明」。

約翰‧J‧霍普菲爾德 (John J. Hopfield) 1933 年出生於美國伊利諾州芝加哥。1958
年獲得美國紐約州伊薩卡康乃爾大學博士學位。美國新澤西州普林斯頓大學教授。

Geoffrey E. Hinton,1947年出生於英國倫敦。1978年獲英國愛丁堡大學博士學位。加
拿大多倫多大學教授。

今年的諾貝爾獎得主使用了物理學的工具來構建方法,幫助奠定了當今強大機器學習的基礎。約翰·霍普菲爾德創建了一種可以儲存和重建信息的結構。傑弗里·辛頓則發明了一
種可以自主發現數據屬性的方式,這在當今使用的大型人工神經網絡中變得至關重要。

他們利用物理學來發現信息中的模式

霍普菲爾德此前利用他在物理學的背景來探討分子生物學的理論問題。當他受邀參加一個關於神經科學的會議時,他接觸到了對大腦結構的研究。他對所學的內容著迷,開始思考簡單神經網絡的動態。當神經元一起活動時,它們能產生新的強大特徵,而僅僅觀察網絡的單個組成部分並不能發現這些特徵。

然而,他並沒有放棄他在物理學中的基礎知識,這些知識為他理解由許多小組件一起工作的系統如何產生新的現象提供了靈感。他尤其受益於他學到的關於具有原子自旋的磁性材料的知識——這種性質使得每個原子都成為一個微小的磁鐵。相鄰原子的自旋相互影響,
這可以使具有相同方向自旋的區域形成。他利用這些物理知識,創建了一個具有節點和連接的模型網絡。

網絡在一個景觀中保存圖像

霍普菲爾德構建的網絡具有相互聯繫的節點,每個節點可以儲存一個值——在霍普菲爾德
的初步研究中,這個值可以是0或1,就像黑白圖像中的像素。

霍普菲爾德用一個與物理學中自旋系統能量等價的屬性來描述網絡的總體狀態;這個能量是通過一個公式計算的,該公式使用了所有節點的值以及它們之間所有連接的強度。通過將圖像輸入節點來編程網絡,節點被賦予黑色(0)或白色(1)的值。然後,通過能量公式調整網絡的連接,使得保存的圖像能量變得更低。當另一個模式輸入網絡時,會有一個規則依次檢查節點,看看如果改變該節點的值,網絡的能量是否會降低。如果發現將一個黑色像素改為白色會降低能量,那麼顏色就會改變。這個過程會一直持續,直到無法找到任何進一步的改進。當達到這個點時,網絡通常已經重現了最初訓練的圖像。

如果你只保存一個模式,這可能看起來不太顯眼。你可能會疑惑為什麼不直接保存圖像本身,並與測試圖像進行比較。然而,霍普菲爾德的方法的特別之處在於,可以同時保存多張圖像,並且網絡通常能夠區分它們。

霍普菲爾德將在網絡中搜索已保存狀態比作將一個球滾過高峰和谷地的景觀,並且有摩擦減緩其移動。如果將球放在某個位置,它會滾入最近的谷地並停在那裡。同樣,當網絡被給予一個接近已保存模式的模式時,它會繼續向前移動,直到最終到達能量景觀的谷底,從而找到其記憶中最接近的模式。

霍普菲爾德網絡可以用來重建包含噪音或部分擦除的數據。

隨著時間的推移,霍普菲爾德和其他人不斷改進該網絡的功能,包括允許節點儲存任何值,而不僅僅是零或一。如果將節點視為圖像中的像素,它們可以具有不同的顏色,而不僅僅是黑白。改進的方法使得可以保存更多圖片,即使它們相當相似,也能區分它們。

使用十九世紀物理學進行分類

當霍普菲爾德發表他關於聯想記憶的文章時,傑弗里·辛頓正在美國匹茲堡的卡內基梅隆大學工作。他此前在英格蘭和蘇格蘭學習了實驗心理學和人工智能,並思考機器是否能像人類一樣學會處理模式,自行發現分類方法來整理和解釋信息。與他的同事特倫斯·塞諾斯基一起,辛頓從霍普菲爾德網絡出發,並用統計物理學的概念將其擴展為一種新型結構。

統計物理學描述了由許多相似元素組成的系統,例如氣體中的分子。跟蹤氣體中所有單獨的分子是非常困難或不可能的,但可以通過集體考慮來確定氣體的整體屬性,如壓力或溫度。雖然氣體分子可以以多種方式在其體積內分布並保持不同的個別速度,但仍會得出相同的集體屬性。

統計物理學可以用來分析各組件共同存在的狀態,並計算其出現的概率。某些狀態比其他狀態更有可能發生,這取決於可用的能量。這些能量是根據十九世紀物理學家路德維希·玻爾茲曼的方程描述的。辛頓的網絡利用了這個方程,並於1985年以「玻爾茲曼機」這個引人注目的名稱發表了這個方法。

辨認同類型的新範例

玻爾茲曼機通常使用兩種不同類型的節點。信息首先傳遞到稱為「可見節點」的一組節點,另一組節點則構成了一個隱藏層。隱藏節點的值和連接也影響整個網絡的能量。

這台機器的運行規則是一次更新一個節點的值。最終,機器會進入一種節點模式可以改變,但整個網絡的屬性保持不變的狀態。每個可能的模式都會根據玻爾茲曼方程確定一個特定的概率。當機器停止運行時,它創造出了一個新模式,這使得玻爾茲曼機成為早期的生成模型之一。儘管電腦無法思考,但現在機器可以模仿記憶和學習的功能。今年的諾貝爾物理學獎得主幫助實現了這一點。他們使用物理學的基本概念和方法,開發了用網絡結構來處理信息的技術。

機器學習與傳統軟體不同,傳統軟體像一種食譜,軟體接收數據,然後按照明確的說明進行處理,最終產生結果,就像按照食譜收集食材並製作蛋糕一樣。與此不同的是,在機器學習中,電腦通過範例學習,從而能夠解決那些過於模糊和複雜,無法用一步一步的指示來處理的問題。比如說,識別圖像中的物體就是一個例子。

模仿大腦

人工神經網絡使用整個網絡結構來處理信息。這種靈感最初來自於理解大腦如何工作的需求。早在1940年代,研究人員就開始推理大腦神經元和突觸網絡背後的數學原理。另一塊拼圖來自心理學,神經科學家唐納德·赫布提出的假設表明,當神經元一起工作時,連接會被增強,從而促進學習的發生。

後來,這些思想促使人們試圖模擬大腦的網絡功能,通過構建人工神經網絡的電腦模擬。在這些網絡中,大腦的神經元被模仿為具有不同值的節點,而突觸則被表示為節點之間可以加強或削弱的連接。唐納德·赫布的假設至今仍然被用作更新人工網絡的基本規則之一,這個過程被稱為訓練。

玻爾茲曼機可以通過範例進行學習——不是通過指令,而是通過給定的範例模式進行更新
網絡連接中的值,這樣當機器運行時,訓練時輸入到可見節點的範例模式就具有最高的發生概率。如果在訓練中多次重複相同的模式,那麼這個模式出現的概率會更高。訓練還會影響輸出類似於訓練範例的全新模式的概率。

訓練過的玻爾茲曼機能夠在其未曾見過的信息中識別出熟悉的特徵。想像一下,遇見一位朋友的兄弟姐妹,你可以立即看出他們之間的親屬關係。玻爾茲曼機也能辨認出完全新的範例,只要它屬於訓練材料中的一個類別,並能將其與不相似的材料區分開來。

玻爾茲曼機的原始形式運行效率較低,尋找解決方案需要很長時間。然而,當它通過各種方式進行改進時,事情變得更有趣了,這也是辛頓繼續探索的領域。後來的版本通過去除某些單元之間的連接,實現了「稀疏化」。事實證明,這反而讓機器變得更高效。

機器學習——今天與明天

我們如今目睹的這一發展得益於大量可用的數據以及計算能力的巨大增長。今天的人工神經網絡往往非常龐大,並由多個層級組成。這些被稱為「深度神經網絡」,它們的訓練方式被稱為「深度學習」。

目前,許多研究人員正在拓展機器學習的應用領域。哪些應用將成為最具可行性的還有待觀察,與此同時,關於這項技術發展和使用的倫理問題的討論也在廣泛進行。

由於物理學為機器學習的發展提供了工具,看到物理學作為研究領域也從人工神經網絡中受益,這也是一件有趣的事。機器學習早已應用於我們從過去的諾貝爾物理學獎中熟悉的領域。例如,機器學習被用來篩選並處理大量數據,這對於發現希格斯粒子至關重要。其他應用還包括減少黑洞碰撞引起的引力波測量中的噪音,或者搜尋系外行星。

近年來,這項技術還開始應用於分子和材料性質的計算和預測——例如計算蛋白質分子的
結構,這決定了它們的功能,或是研究哪種新材料具有最佳性質,可用於更高效的太陽能電池。

※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.82.233.52 (臺灣)
PTT 網址

TexasFlood 10/08 17:51幹被搶先一步,我準備要發表的

vowpool 10/08 17:52阿不就AI

s72005ming 10/08 17:53AI

Panasonic 10/08 17:53為什麼拿物理獎不是去拿圖靈??

gino0717 10/08 17:54物理獎怎麼頒給做ai的

jjlee 10/08 17:54不然諾貝爾有什麼獎合適?

S0323109 10/08 17:54恭喜

woulin 10/08 17:55這跟物理沒關係吧

asosan 10/08 17:55應該給圖靈

amaqua 10/08 17:55是人工神經元

woulin 10/08 17:55資訊科技拿物理獎

veryGY 10/08 17:56代表物理界這幾年沒啥進展都在原地踏步阿

tim32142000 10/08 17:56恭喜

bradyhau106 10/08 17:56怎麼怪怪的

NARUTO 10/08 17:56這是電腦科學的範圍吧?

woulin 10/08 17:56那以後一堆搞軟體的都可以得諾貝爾獎

godofaluba 10/08 17:56嗯.........果然和我想的一樣

PtT0615s 10/08 17:57抓來充數的 慘

deltarobot 10/08 17:57可憐哪 理論物理學家都在混

q123212 10/08 17:59這傢伙我認識啊 當年在學校也是普普而已

Forcast 10/08 17:59研究線蟲也能醫學獎

geminitea 10/08 17:59理論物理是不是走到極限了==

Eriri 10/08 18:00早期的機器學習模型本來就是物理學家背景

Eriri 10/08 18:00的人在研究 Hinton本人的PhD指導教授甚至

veryGY 10/08 18:00為了頒給ai 硬拉了一個作物理的給獎

Eriri 10/08 18:00跟上帝粒子的Higgs是同一位

Forcast 10/08 18:00類神經網路

woulin 10/08 18:0021世紀物理兩大烏雲,暗物質暗能量 無人

woulin 10/08 18:00能解

Eriri 10/08 18:01只是這個給獎的確挺爛的就是了

vking223 10/08 18:02遇事不決,量子力學

dklash 10/08 18:02物理獎 頒這個... 諾貝爾地下有知...

woulin 10/08 18:03開了先例,以後搞軟體的也可得物理獎

piolet 10/08 18:03從缺也行唄 理論物裡大概幾百年才小突破

nakayamayyt 10/08 18:04這算物理學喔

freertos 10/08 18:04 --- 這就有點奇怪了... 物理已死??

nadleeh 10/08 18:05物理學選這個喔==

Eriri 10/08 18:05又沒規定非得一定每隔幾年要給理論物理 實

Eriri 10/08 18:05驗物理一大堆比這更值得的人排隊 偏偏給這

jerryhd921 10/08 18:06這是圖靈奬的東西吧,物理沒人囉!

Retangle 10/08 18:06諾貝爾獎有個標準是對人類社會的影響啊

woulin 10/08 18:06物理研究的是物質和能量,不是資訊

nakayamayyt 10/08 18:07這樣華爾街那些做金融的物理學家也有

Jameshunter 10/08 18:07拿圖林或菲爾茲比較合理 諾貝爾物理?

nakayamayyt 10/08 18:07機會拿物理學獎了

Retangle 10/08 18:08前幾年氣候變遷大概也是靠影響力拿的

wulaw5566 10/08 18:08這是圖靈獎的範疇吧

woulin 10/08 18:09那作加密技術的RSA那三人也能得諾貝爾獎了

Eriri 10/08 18:09前幾年那個大氣變遷的也頗無言的

Recoverism 10/08 18:09物理學頒給AI?

ev331 10/08 18:10

Ponder1230 10/08 18:10有點怪

ykes60513 10/08 18:11這根本不是物理學 離物理也太遠了吧

Obama19 10/08 18:11亂搞啊 笑死 物理學家應該都傻眼

yoshilin 10/08 18:12以後物理都靠ai解答啊

danielpupu20 10/08 18:12物理學本身就做不出新學問了,做出

Chilloutt 10/08 18:12Ai元年 懂蹭

danielpupu20 10/08 18:12的理論也都無法驗證。才會都頒給這

netsphere 10/08 18:12支持諾獎再多Computer Science獎項

danielpupu20 10/08 18:12些。

Chilloutt 10/08 18:12反正先進儀器早就一堆ai

melancholy07 10/08 18:13恭喜

Chilloutt 10/08 18:13這樣頒獎可接受啊

elec1141 10/08 18:13這不是我小時候科展主題嗎

MrStone 10/08 18:15AI關物理學屁事 硬要蹭

eg860610 10/08 18:15說不定以後得物理獎的都是CS背景的

WWIII 10/08 18:15拷貝 這算物理喔

Chilloutt 10/08 18:17大概每幾年搬給不太物理的東西

jasonwuton 10/08 18:18???

jen1121 10/08 18:19Ai

Jin63916 10/08 18:191年1次好像蠻多的

nowitzkixd 10/08 18:20幹 我就差一點

hitoli 10/08 18:21Hinton在2018就拿過圖靈獎了

turndown4wat 10/08 18:22物理攻擊

nadleeh 10/08 18:22物理獎還是很多人在排隊吧

m42040 10/08 18:23物理的部份在哪裡?

agoodjob 10/08 18:23這是資工吧什麼物理學

andy2011 10/08 18:23https://youtu.be/ekyKnRDMRF4

Eriri 10/08 18:25類神經網路本來就是受物理啟發的模型 早期

Eriri 10/08 18:25很多物理背景的人研究 就像我前面說的 Hint

Eriri 10/08 18:25on本人甚至跟希格斯粒子的Higgs是同門師兄

Eriri 10/08 18:26弟 說這是物理也無不可 只是單以物理價值

Eriri 10/08 18:26而言 這實在沒什麼特別大的

leon1757tw 10/08 18:26現在諾貝爾物理學獎也要扯AI喔

agoodjob 10/08 18:30乾脆說萬物都由原子構成,所以這世上只

agoodjob 10/08 18:30有一門學問就叫物理學

Atropos0723 10/08 18:33這種工作拿諾貝爾物理獎?

zxcv3147 10/08 18:34張忠謀過幾年也要得獎了

looooook 10/08 18:35早就這麼想了

aggressorX 10/08 18:38理論物理是不是卡很久很久了...

MADAOTW 10/08 18:39物理停滯快一百年了吧?

YLTYY 10/08 18:43(づ′・ω・)づlink start

woulin 10/08 18:48理論物理從相對論和量子力學後,有更屌的

woulin 10/08 18:48理論嗎

shellback 10/08 18:50AI得獎 股市該噴了

shellback 10/08 18:51不過這應該是資訊科學的領域吧

q8977452 10/08 18:59辛頓拿過圖靈獎囉

※ 編輯: jackliao1990 (111.253.128.76 臺灣), 10/08/2024 19:28:15

EqualMan 10/08 19:05物理沒人才了?

CruiseTom 10/08 19:092021物理獎就很不物理了 沒啥重大發現

r7544007 10/08 19:13嗯嗯跟我想的一樣

PhySeraph 10/08 19:22這三小

henry1915 10/08 19:23略蝦

sexybox 10/08 19:33物理界是不是沒人才了

butten986 10/08 19:34天網近了

kevin190 10/08 19:36諷刺這幾年做物理的人端不出像樣的東西

Peurintesa 10/08 19:42蛤 物理學到極限了嗎?資訊科學都算喔

kidsakuray 10/08 19:54說好的常溫超導呢

Jetinacn 10/08 20:03AI得獎

klgfan 10/08 20:04我懂了

kk10519 10/08 20:11AI 得物理學獎非常合理

waeting 10/08 20:12活夠久

Stella 10/08 20:15幹,AI最好也算物理啦,去領圖靈獎就好了

Stella 10/08 20:15,跑來搶諾貝爾物理獎

Stella 10/08 20:15凝聚態領域還有一堆大佬還沒得獎

Stella 10/08 20:16不然也可以頒給做量子電腦的,頒給AI是三

Stella 10/08 20:16

Sylph 10/08 20:16這在LM界真的已是基礎知識了

Jimmywin 10/08 20:17這物理?是沒高能或天文好給了嗎?

thelittleone 10/08 20:27為何這算物理獎

applejone 10/08 20:32就NN阿

followwar 10/08 20:45很合理 本來就是統計物理跟熱力學

a205090a 10/08 20:52抄我的期末報告 幹

k798976869 10/08 20:53紅黑樹啦

k798976869 10/08 20:54cnn

inte629l 10/08 20:54這用到統物的哪個部分啊? Ising Model?

inte629l 10/08 20:55領圖靈又領諾貝爾 扯

chopper594 10/08 21:00波茲曼分布的樣子

ruffryders 10/08 21:25求懶人包

DrizztMon 10/08 21:47不合理 但很開心物理界心態開放

poooooo 10/08 21:492021年氣候變遷那個沒問題吧,那年

poooooo 10/08 21:49就是頒給複雜系統的

chysh 10/08 22:25代表AI正式跨入應用物理領域啊,一堆阿呆看

chysh 10/08 22:26不懂,還不趕快買NV、META、Alphabet

yeh0416 10/08 23:13有用到電的都算物理 (誤

jack123573 10/08 23:24

ChungLi5566 10/08 23:28????那以後數學家都能拿獎了

mynewid 10/08 23:41蛤不是我說過的東西ㄇ