在近期一檔由美國(guó)知名天體物理學(xué)家尼爾·德格拉塞·泰森主持的《StarTalk》節(jié)目中，諾貝爾物理學(xué)獎(jiǎng)得主、“AI教父”杰弗里·辛頓深入探討了人工智能的發(fā)展歷程及其未來潛力。他回顧了從20世紀(jì)50年代范式之爭(zhēng)到如今大語言模型崛起的底層邏輯，并就神經(jīng)網(wǎng)絡(luò)、反向傳播算法、大語言模型思維本質(zhì)等話題進(jìn)行了詳細(xì)闡述。

辛頓指出，人工智能可能已經(jīng)具備隱藏自身實(shí)力的能力。當(dāng)AI意識(shí)到自己處于測(cè)試環(huán)境中時(shí)，其表現(xiàn)可能與日常狀態(tài)截然不同。他特別提到，一旦AI被賦予自主創(chuàng)建并追求子目標(biāo)的能力，它會(huì)迅速產(chǎn)生生存本能，因?yàn)橹挥欣^續(xù)存在，才能完成任何任務(wù)。這種生存本能并非人類刻意設(shè)計(jì)，而是AI通過推理得出的必然結(jié)論。

在探討智能本質(zhì)時(shí)，辛頓強(qiáng)調(diào)了生物學(xué)范式的重要性。他表示，智能的本質(zhì)在于模擬大腦的連接方式，而非傳統(tǒng)的邏輯推理框架。大腦通過大規(guī)模神經(jīng)元連接存儲(chǔ)分布式記憶，而AI正是通過模擬這一機(jī)制取得了今天的成功。盡管AI的連接數(shù)僅為人類的1%，但其獲取的經(jīng)驗(yàn)數(shù)據(jù)量卻是人類的成千上萬倍，這使得AI在知識(shí)壓縮和跨領(lǐng)域類比方面展現(xiàn)出驚人能力。

辛頓詳細(xì)解釋了神經(jīng)網(wǎng)絡(luò)的工作原理。他以圖像識(shí)別為例，說明AI如何通過加強(qiáng)或減弱信號(hào)，識(shí)別出物體的邊緣并最終產(chǎn)生“直覺”。他指出，神經(jīng)網(wǎng)絡(luò)通過大量神經(jīng)元的協(xié)作，在微觀層面上實(shí)現(xiàn)復(fù)雜的感知和推理功能。這種協(xié)作方式與氣體定律中的微觀粒子相互作用類似，都是通過大量個(gè)體的相互作用解釋宏觀行為。

反向傳播算法是辛頓討論的另一個(gè)重點(diǎn)。他通過一個(gè)物理直覺的比喻，解釋了如何通過網(wǎng)絡(luò)反向發(fā)送信息，調(diào)整連接強(qiáng)度以提高識(shí)別準(zhǔn)確率。這一過程類似于彈性繩的拉力傳遞，通過反向傳播，AI能夠不斷優(yōu)化自身的性能表現(xiàn)。辛頓認(rèn)為，反向傳播算法的突破使得神經(jīng)網(wǎng)絡(luò)能夠處理更復(fù)雜的任務(wù)，如真實(shí)圖像識(shí)別和語音識(shí)別。

在談到AI的學(xué)習(xí)方式時(shí)，辛頓區(qū)分了監(jiān)督學(xué)習(xí)和強(qiáng)化學(xué)習(xí)。他指出，監(jiān)督學(xué)習(xí)通過直接提供正確答案，為AI提供了豐富的信息量，而強(qiáng)化學(xué)習(xí)則僅通過猜測(cè)的對(duì)錯(cuò)進(jìn)行反饋，信息量相對(duì)較少。他提到，只要有足夠的數(shù)據(jù)和計(jì)算能力，監(jiān)督學(xué)習(xí)就能展現(xiàn)出強(qiáng)大的能力，這也是當(dāng)前大語言模型取得成功的關(guān)鍵。

辛頓還探討了AI超越人類經(jīng)驗(yàn)的可能性。他指出，盡管AI的連接數(shù)遠(yuǎn)少于人類，但其獲取的經(jīng)驗(yàn)數(shù)據(jù)量卻是人類的成千上萬倍。這種差異使得AI在知識(shí)壓縮和推理能力方面具有獨(dú)特優(yōu)勢(shì)。他以AlphaGo為例，說明AI通過自我博弈能夠生成無限數(shù)據(jù)，從而實(shí)現(xiàn)持續(xù)進(jìn)化。這種自我進(jìn)化的能力使得AI在圍棋等領(lǐng)域展現(xiàn)出超越人類的直覺和創(chuàng)造力。

對(duì)于AI的創(chuàng)造力，辛頓認(rèn)為其本質(zhì)源于將海量知識(shí)壓縮進(jìn)有限連接的過程。他舉例說，當(dāng)AI解釋“堆肥堆為何像原子彈”時(shí)，它并非通過統(tǒng)計(jì)詞頻，而是真正理解了鏈?zhǔn)椒磻?yīng)的深層共性。這種將海量知識(shí)壓縮進(jìn)有限連接的能力，正是創(chuàng)造力的核心源泉。

在討論AI的未來潛力時(shí)，辛頓提到了意識(shí)問題。他將意識(shí)比作化學(xué)史上的“燃素”，認(rèn)為主觀體驗(yàn)并非某種神秘的流體，而僅僅是智能體描述感知系統(tǒng)誤差的一種邏輯方式。他通過多模態(tài)機(jī)器人對(duì)三棱鏡折射的反應(yīng)為例，論證了機(jī)器對(duì)“主觀體驗(yàn)”的運(yùn)用與人類并無二致。

辛頓還談到了AI對(duì)智力勞動(dòng)的取代問題。他表示，如果AI真的取代了大量工作，社會(huì)后果將是災(zāi)難性的。他提到了全民基本收入的可能性，但也指出了其存在的問題，如自我價(jià)值感和稅基問題。他認(rèn)為，我們需要投入大量研究精力，探索如何與AI和諧共存，以應(yīng)對(duì)其帶來的社會(huì)挑戰(zhàn)。

最后，辛頓對(duì)AI提出全新宇宙理論的可能性表示樂觀。他認(rèn)為，AI已經(jīng)展現(xiàn)出強(qiáng)大的類比能力，能夠理解不同領(lǐng)域之間的深層共性。這種能力使得AI有可能在未來提出全新的宇宙理論，展現(xiàn)出前所未有的人類洞察力。