黃仁勳獲香港科技大學榮譽博士 談輝達十年將計算邊際成本降低100萬倍
11 月 23 日,香港科技大學學位頒獎典禮上,黃仁勳與梁朝偉同框,獲港科大榮譽博士。黃仁勳發表演說表示,相信美國新政府上任後全球科技合作將會持續下去。
在與香港科技大學校董事主席沈向洋對話時,黃仁勳透露,輝達幫助將運算的邊際成本降低至 1/100 萬,進而幫助改變了整個運算領域。
黃仁勳說,香港科技大學是人工智慧與數據科學的領先研究機構,幫助推進世界範圍內的人工智慧研究。香港科技大學強調創新和創業精神,幫助大灣區成為新創公司的沃土,香港科技大學師生創辦了超 1800 家新創公司,其中走出了 4 家獨角獸公司,輝達在大灣區也有所受益。
黃仁勳表示,人工智慧開啟了一個全新的運算時代,將影響每個科學領域每個產業。人工智慧正在徹底改變科學,人工智慧正在以驚人的規模幫助分析數據、加速模擬、即時控制實驗、建立預測模型,從而徹底改變了從藥物研發、基因組學、其後科學等多個領域。
見證香港與中國科技產業形成
黃仁勳表示,輝達 25 年前來到中國,在香港、上海浦東、北京、深圳的研究中心已經有很多香港科技大學校友、長期工作夥伴參與建設輝達的事業,並幫助建立了中國的科技生態。
他說:「從一開始,我們就有幸見證了中國令人驚嘆的科技產業的形成。」
黃仁勳談到人工智慧產業的發展。 「這是你們畢業的特殊時刻,也是輝達的特殊時期。人工智慧開啟了一個新的運算時代,將影響每一個科學領域,每一個產業。我們重新發明了計算堆疊每一層的東西,從程式設計軟體、規則到機器學習,從 CPU 上運行的程式碼到 GPU 上運行的神經網路演算法。進行現代化改造。」
黃仁勳強調,人工智慧正在掀起科學革命。
他表示,2018 年他就談到科學計算與人工智慧的融合,從那個時候起,人工智慧和機器學習幾乎融入科學的每一個領域,人工智慧使科學家難以在置信的資料規模上進行分析、加速模擬、進行試驗、建立預測模型成為可能,人工智慧改變了藥物發現的方式,也使得人們可以在巨大的數據規模基礎上研究物理系統,今年諾貝爾物理學家和化學獎頒發給了人工智慧領域的科學家,對企業而言,使用人工智慧來加速創新和提高生產力還只是個開始。
「人工智慧無疑是我們這個時代最重要的技術。我為你們感到興奮,我也希望我能在這個時候開始我的職業生涯,現在整個世界正在被重置,你們正在起跑線上。我也希望你們中的很多人有一天會加入輝達。」
過去十年人們將運算效能提升了 100 萬倍
黃仁勳指出,人們正身處一個趨勢之中:神經網路的規模越大,用於訓練的資料量越多,AI 似乎就表現得越聰明。這一經驗法則與摩爾定律有著異曲同工之妙,人們不妨稱之為「規模定律(Scaling Law)」,而這一定律似乎仍在持續發揮作用。然而,人們也清醒地認識到,僅僅依靠預訓練——即利用全球範圍內的海量數據自動挖掘知識——是遠遠不夠的。正如大學畢業是一個至關重要的里程碑,但它絕不是終點。
他指出,接下來,還有後訓練階段,也就是深入鑽研某一特定技能,這要求強化學習、人類回饋、AI 回饋、合成資料生成、多路徑學習等多種技巧的綜合運用。簡而言之,後訓練就是選定一個特定領域,並致力於對其進行深度鑽研。這就像當人們步入職業生涯後,會進行大量的專業學習和實踐。
而在這之後,人們最終會迎來所謂的「思考」階段,也就是所謂的測驗時間計算。有些事情你一眼就能看出答案,有些則需要人們將其拆解成多個步驟,並從第一原理出發,逐一尋找解決方案。這可能需要人們進行多次迭代,模擬各種可能的結果,因為並非所有答案都是可預測的。因此,人們稱之為思考,思考的時間越長,答案的品質往往越高。而大量的計算資源將助力人們產出更高品質的答案。
黃仁勳表示,雖然今天的答案已是人們所能提供的最佳結果,但人們仍在尋求一個臨界點,即所得到的答案不再局限於人們目前所能提供的最佳水平。在這一點上,你需要判斷答案是否真實可靠、是否有意義且明智。人們必須達到這樣一個境界,即所得到的答案在很大程度上是值得信賴的。我認為,這還需要數年的時間才能實現。
同時,人們仍需不斷提升運算能力。正如你之前所提到的,在過去十年裡,人們將運算效能提升了 100 萬倍。而輝達的貢獻在於,將計算的邊際成本降低了相同的幅度。想像一下,如果生活中有你所依賴的事物,如電力或其他任何選擇,當它的成本降低了 100 萬倍時,你的行為習慣將會發生根本性的變化。
他認為,對於計算,人們的看法也已經發生了翻天覆地的變化,而這正是輝達有史以來最偉大的成就之一。人們利用機器去學習大量的數據,這是研究人員無法單獨完成的任務,而這正是機器學習能成功的關鍵。