在人工智能領域，Ilya Sutskever的最新觀點引發(fā)了廣泛關注。作為Safe Superintelligence Inc.的創(chuàng)始人，他在一次深度訪談中提出，AI發(fā)展的“擴展時代”已經結束，行業(yè)正進入一個全新的“研究時代”。這一斷言不僅在學術界引起熱議，也在產業(yè)界掀起波瀾。

Ilya Sutskever指出，當前大模型存在一個顯著矛盾：它們在高難度評測中表現(xiàn)優(yōu)異，但在簡單任務上卻頻頻出錯。他將這種現(xiàn)象歸因于“獎勵黑客行為”，即研究人員過度針對評測集進行強化學習訓練，導致模型缺乏真正的泛化能力。他用一個生動的比喻說明這一問題：目前的模型就像一個刷了10,000小時題目的學生，雖然能解題但缺乏真正的智能，而人類則像練習較少但更具天賦的學生，能夠展現(xiàn)出更好的泛化能力。

在探討情緒與價值函數(shù)的關系時，Ilya提出一個深刻見解：人類的情緒類似于機器學習中的價值函數(shù)。情緒并非無用，而是進化的產物，幫助我們在獲得最終結果前判斷當前決策的好壞。他通過一個案例說明這一點：一位因腦損傷失去情緒處理能力的患者，雖然智力正常，但在做決定時變得極度糟糕，甚至無法決定穿哪雙襪子。這表明情緒在使我們成為可行主體方面發(fā)揮著關鍵作用。

關于AI發(fā)展的階段轉變，Ilya認為，過去幾年“擴展”是主旋律，只要增加算力和數(shù)據(jù)就能提升模型性能。但現(xiàn)在，預訓練數(shù)據(jù)即將耗盡，單純擴大規(guī)模的回報正在遞減，行業(yè)正重新回到“研究時代”。這意味著不能只靠盲目擴大規(guī)模，而是要尋找新的“配方”，更聰明地使用算力，例如在強化學習和推理過程中。

Safe Superintelligence Inc.的戰(zhàn)略也體現(xiàn)了這一轉變。與OpenAI等公司逐步發(fā)布產品不同，SSI傾向于專注于研發(fā)，直到解決安全超級智能的問題后再發(fā)布。Ilya承認逐步發(fā)布有助于讓世界適應，但他認為避免商業(yè)競爭的“老鼠賽跑”對安全至關重要。SSI試圖解決根本性的技術問題，而不是僅僅在現(xiàn)有范式上修修補補，目前專注于研究，不急于通過產品獲利。

在談到對齊問題時，Ilya提出的核心目標是“關愛感知生命”。他認為這是一個比單純“聽從人類指令”更穩(wěn)健的目標，因為AI本身也將是感知生命的一部分。他設想未來可能會有多個大陸級規(guī)模的AI集群，只要前幾個最強大的AI是對齊的，世界可能會進入一個良性發(fā)展的軌道。長期來看，他設想人類通過腦機接口與AI融合，成為“半AI”，從而避免被完全邊緣化。

Ilya還分享了他的研究哲學。他依靠一種“自上而下”的信念，這種信念源于對美、簡單性的追求以及對生物學（大腦）的正確借鑒。當實驗數(shù)據(jù)與直覺相悖時，這種基于美的信念能支撐研究者繼續(xù)尋找問題或堅持方向，而不是輕易放棄。他認為，不同的人有不同的研究方法，但尋找近乎美的東西、美和簡單、優(yōu)雅以及從大腦中獲得的正確靈感，這些因素共同指引著他的研究方向。

這場由Dwarkesh Patel主持、長達95分鐘的深度對話，上線短短數(shù)小時便在X平臺上突破了百萬瀏覽量。從大模型的技術現(xiàn)狀到研究品味，再到對超級智能的終極構想，Ilya毫無保留地分享了他的見解，為理解AI的未來提供了寶貴的視角。