您好,歡迎到訪!

諾貝爾獎快被 AI 包圓了,這 10 個冷知識帶你重新認識 AI 教父

2024-10-11 10:49:02 8

今年的諾貝爾化學獎和物理學獎,頒給了兩個做人工智慧的人物:一位是 DeepMind 創始人 Demis Hassabis,另一位還是 AI 教父 Geoffrey Hinton。

比得獎更有意思的,是得獎人背後的故事:當年 DeepMind 還只是個不為人知的小公司時,就膽敢和百度、微軟、Google 三巨頭,爭搶這位教父,儘管結果肯定是爭不過。

我們翻遍各大媒體報道和矽谷史記,找到了更多跟 Hinton 有趣的冷知識——不得不說,這個人物,可比物理有意思多了。

不算是真·物理學家

這一點現在已經人盡皆知了

本次物理學獎之一 John Hopfield 確實是物理學出身——雖然他現在在普林斯頓,是分子生物學教授。

而 Geoffery Hinton 則是知名的「人工智慧教父」,他在神經網路上的研究,為人工智慧奠定了基礎。

實際上,兩人的研究都跟物理學有所聯絡。Hopfield 創造了一種聯想儲存器,可以儲存和重建影象以及資料中其它型別模式,這套理論的基礎,正是物理學中的自旋系統。

Geoffrey Hinton 發明的玻爾茲曼機,靈感來自於統計物理學,引入了一種用於模式識別的機率模型。在理論上,它的訓練演算法、動力學原理,都與簡單物理過程有所相似。玻爾茲曼機跟 Hopfield 網路緊密相關。

不過,獲得物理學這個獎項著實令兩人都非常吃驚,Hinton 甚至沒有想過自己會被提名。他很高興諾獎委員會能看到他和 Hopfield 的研究中,物理學所帶來的啟發。只不過在最近,基於 LLM 的人工智慧研究與物理學關聯不太多了,所以得獎一事讓人非常意外。

曾經的學渣,如今的教父

早年間 Hinton 也嘗試過物理學,但直接被裡面複雜的數學勸退了。甚至到後來做機器學期的時候,他還是會經常跳過數學演算的部分,直接看論證。

直到指導 Yann LeCun 的論文時,他因為完全不懂法語,只能反過來——跳過論述,只看數學。論文答辯時,Hinton 用英語提問,LeCun 用法語回答,兩人居然交流自如。這是基於他們對神經網路共同的信念,LeCun 說,聊天時他感覺 Hinton 正在完成他的句子。

英式冷幽默大師

但凡看過 Hinton 的演講影片,都會被他的英式冷幽默折服。一位名叫 Aapo Hyvärinen 的研究人員,曾經在發表學術論文時在致謝一欄寫道:

本文的基礎想法是在與 Geoffrey Hinton 的討論中提出的,但他本人不願意成為合著者,因為該論文包含了太多數學方程。

離那個叫 Sam Altman 的人遠一點

雖然被稱為人工智慧教父,但是 Hinton 在警示人工智慧潛在的危險性上,稱得上是不遺餘力。今天下午,多倫多大學召開的線上媒體會,他線上上感謝了諾獎組委會,以及一直以來共事導師、同事和學生,並說道,「我對其中一位同學格外自豪,他解僱了 Sam Altman。」

美聯社記者追問到為什麼對 Sam Altman 有如此評價,他表示,OpenAI 的初衷是開發通用人工智慧,並保證它是安全的。但隨著時間的推移,Sam Altman 逐漸把利潤放在安全之上,「我覺得這很不幸。」

百度離拿下 Hinton 的「皮包公司」,曾經只有一步之遙

Hinton 有兩次「創業」的經歷。當然,不是嚴格意義上的創業,更多像是把自己和學生的研究成果,引薦給工業界。

2009 年,他的學生在語音識別上做出了一個很好的模型,於是他們去和當時做手機很紅火的黑莓公司接觸。經過漫長的溝通,黑莓一位高管說,他們不感興趣。

後來 ,Google 拿到了這個語音識別模型,打磨成了產品嵌入安卓系統中。「太可惜了,」Hinton 在一場多倫多大學的座談會上分享這個故事,當時另一位講座嘉賓是李飛飛,「如果不是這樣,我們現在說不定還能看到黑莓呢。」

到了 2012 年,Hinton 和他的學生髮表了一篇論文,證明了神經網路強大的價值。率先向 Hinton 丟擲橄欖枝的,正是來自中國的百度。

但他的學生提議說,與其去當打工人,不如原地成立一家公司,讓巨頭來收購。Hinton 想想,有道理,說幹就幹。沒想到成立之後,四家巨頭丟擲爭相拍賣,分別是百度、Google、微軟,以及當時尚未嶄露頭角的 Deepmind。

拍賣全程用郵件進行,百度派了一位 Deepmind 當時的實力尚淺,只能拿公司股票來參與拍賣,所以很快就出局了。而剩下的三位巨頭不斷抬價,微軟在 2000 萬退出了一次。2200 萬時,由於 Hinton 提出暫停,微軟徹底退出。

在後半程的終極競價裡,百度的出價其實是領先的,然而最終 Hinton 還是屬意 Google。他在 Google 工作了十年,直到去年退休。

站著,把研究做了

傳言他最終沒有選擇百度,是因為越洋飛機對他而言太難了:Hinton 患有嚴重的腰椎間盤病,嚴重到完全不能坐下,否則就會有一塊腰椎突出導致劇痛。他在所有的演講、座談中,都是站著的,必要時會拿一個軟墊跪下來。

2009 年,微軟邀請 Hinton 去位於華盛頓遠郊的實驗訪問研究。旅程非常費勁:又不能開車又不能飛,坐車也只能躺在後座。於是他先搭地鐵,去到多倫多城中的公交車站,提前排隊,然後率先搶到最後一排空座,直接躺下裝睡,全程無人打擾。

後來他又搭了三天火車到達西雅圖,再躺在計程車後座上橫穿華盛頓湖,到達微軟。

聽說這個旅程如此折騰,微軟提前給他定了一張站立式辦公桌,保證他可以正常工作。

冷血動物愛好者

Hinton 的父親是一位著名的昆蟲學家,小時候的他就經常跟各種奇奇怪怪的動物打交道,包括但不限於青蛙、烏龜、蜥蜴、蟾蜍。

一直到現在,他也和冷血動物很親近。他把死掉的蜻蜓儲存在櫥櫃裡,在海島度假時,甚至會把蛇帶進屋裡,邀請前來採訪的記者摸摸看。

祖上都是科學家

Hinton 出生在一個科學世家,最為人所知的是他的曾曾祖父喬治·布林,開發了二元推理系統「布林代數」,構成了現代計算機的基礎。其實,他還有許多祖輩都有驚人的科學成就。

曾祖母 Mary Ellen Boole(後來改姓)是數學家,嫁給了 Charles Howard Hinton,同樣是數學家,他提出了四維超正方體,是四維空間的基礎理論。表親 Joan Hinton 是核物理學家,曾經參與曼哈頓計劃,後來嫁給了中國對美事務顧問 Erwin Engst 後就定居中國了。他們的孩子之一 Fred Engst 陽和平,目前是北京對外經貿大學的教授。

研究了一下發現他祖輩裡還有太多科學家,比如英國皇家化學研究所第一位女性院士、發明行動式 X 光機的內科醫生,等等等

成功的秘訣?找一堆天才學生

OpenAI 的前首席科學家、聯創之一 Ilya Sutskever 是 Hinton 的學生,在多倫多大學讀本科時就決定了自己的方向。他是直接走到 Hinton 的辦公室,敲開門問,能不能加入深度學習實驗室。Hinton 說,那約個時間聊聊吧。

Sutskever 說,「行啊,現在怎麼樣?」

Hinton 給了他一些經典論文,一週後,Sutskever 回來了,說「我不理解。」

「你訓練一個神經網路來解決一個問題,然後又訓練一個新的網路解決另一個問題——你為什麼不用一個網路解決所有的問題呢?」

Hinton 意識到,眼前這個二十多歲的年輕人,有著超乎經驗的研究直覺,遂邀請他加入自己的實驗隊伍。

「我一直都是對的」

Hinton 坐了十多年學術界的冷板凳。在他決定把神經網路作為自己的研究目標時,沒有人看好這個方向,都覺得做不出名堂。然而,多年後,當神經網路為自己正名後,Hinton 經常在接受採訪中被問到,是什麼讓他選擇了一個冷門方向。

他每次都輕描淡寫地答到,「我相信我是對的」。

這也是他對年輕人的建議之一,「去找這樣一個地方:在那裡,你覺得每個人都做錯了。然後相信你的直覺,直到你弄清楚為什麼你的直覺是錯誤的。當你覺得每個人的做法都是做的,選擇那個不一樣的做法。

事實是,要麼你有很好的直覺,要麼你沒有。如果你有好的直覺,應該傾聽它們,遵循它們,一直努力,直到你發現它為什麼是錯的。如果你有糟糕的直覺,那你做什麼其實也不重要,那還不如遵循自己的直覺。」

文章版權及轉載聲明

本站內容由互聯網用戶自發貢獻,該文觀點僅代表作者本人。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。如發現本站有涉嫌抄襲侵權/違法違規的內容,請發送郵件至舉報,壹經查實,本站將立刻刪除。