英偉達(dá)與微軟的合作里，藏著未來(lái)發(fā)展的關(guān)鍵詞

作者|DataView 來(lái)源|DataView數(shù)據(jù)科技研究院(ID：data-view)

前幾日，英偉達(dá)宣布將與微軟共同打造AI超級(jí)計(jì)算機(jī)。這臺(tái)AI超級(jí)計(jì)算機(jī)將在微軟Azure的超級(jí)計(jì)算基礎(chǔ)設(shè)施運(yùn)行，使用英偉達(dá)GPU、網(wǎng)絡(luò)及全套AI軟件。而英偉達(dá)將使用 Azure 的可擴(kuò)展虛擬機(jī)實(shí)例來(lái)研究并進(jìn)一步加速生成式AI（generative AI）的發(fā)展，兩家公司還將合作優(yōu)化微軟的DeepSpeed深度學(xué)習(xí)優(yōu)化軟件。

簡(jiǎn)單的合作內(nèi)容中暗含了兩大關(guān)鍵詞和一大趨勢(shì)，關(guān)鍵詞是超級(jí)計(jì)算和AI，趨勢(shì)是生成式AI。深層含義即從B端到C端，圍繞自動(dòng)化，探索下一個(gè)浪潮。

超算和AI的結(jié)合已不可或缺

超算，即超級(jí)計(jì)算，在概念上通常與HPC（高性能計(jì)算）互換使用。在計(jì)量單位上以每秒浮點(diǎn)運(yùn)算次數(shù) (FLOPS) 衡量，等同于每秒千萬(wàn)億次浮點(diǎn)運(yùn)算。即速度為1 petaflop的計(jì)算機(jī)系統(tǒng)每秒可以執(zhí)行百萬(wàn)的四次方次浮點(diǎn)運(yùn)算 (1015)。

以疫情防控為例， 若使用一臺(tái)普通計(jì)算機(jī)，單人密接與次密接人群篩查需要幾個(gè)月時(shí)間。而使用超算，可以在1秒完成單人流調(diào)查詢、1分鐘內(nèi)完成單人密接人群篩查。同時(shí)，超算也是冠狀病毒研究和疫苗研發(fā)中至關(guān)重要的一部分。當(dāng)前，科研人員正在利用超算進(jìn)行靶點(diǎn)探尋、新藥篩選、先導(dǎo)物及試驗(yàn)優(yōu)化、藥理毒理等研究工作。

如此強(qiáng)大的算力也是AI發(fā)展的要素之一，另外兩個(gè)要素是算法和大數(shù)據(jù)。相應(yīng)地，AI也會(huì)反過(guò)來(lái)幫助超算實(shí)現(xiàn)更優(yōu)化的資源分配和能源管理，比如監(jiān)測(cè)功耗，參與任務(wù)級(jí)的分時(shí)調(diào)度管理訓(xùn)練等。

此次英偉達(dá)與微軟宣布打造的AI超級(jí)計(jì)算機(jī)與傳統(tǒng)計(jì)算機(jī)又有所不同，由于機(jī)器學(xué)習(xí)對(duì)準(zhǔn)確性的要求相對(duì)較低，在使用相同硬件的情況下，AI超級(jí)計(jì)算機(jī)的運(yùn)算速度比傳統(tǒng)的超級(jí)計(jì)算機(jī)更快，在AI模型訓(xùn)練上效率更高。

宣布進(jìn)軍元宇宙的Meta也在今年年初宣稱建造一臺(tái)AI超級(jí)計(jì)算機(jī)，它將幫助Meta的AI研究員建立新的、更好的人工智能模型，提升Meta業(yè)務(wù)中的AI功能，比如檢測(cè)不良信息的內(nèi)容審核算法。

在計(jì)算里進(jìn)一步“求解”

當(dāng)前，超算和AI兩者均已滲透到生活及生產(chǎn)的方方面面。包括疫情防控、病毒研究和疫苗研發(fā)，還應(yīng)用到了核聚變模擬、石油勘探、氣候模擬、癌癥研究、基因組學(xué)、量化金融等。

無(wú)論是哪個(gè)領(lǐng)域，都試圖在數(shù)據(jù)和模型中發(fā)現(xiàn)和預(yù)測(cè)問(wèn)題，在不同的領(lǐng)域去求解一個(gè)問(wèn)題。盡管超算在各領(lǐng)域應(yīng)用已不可或缺，但大都在科研項(xiàng)目及研究性領(lǐng)域中發(fā)揮著重要作用，很難普及化或商業(yè)化。如何更好地推動(dòng)未來(lái)發(fā)展，除了利用超算訓(xùn)練模型，優(yōu)化算法，提升深度學(xué)習(xí)能力外，也在商業(yè)“求解”問(wèn)題上做了貢獻(xiàn)。

但求解器解決了這一問(wèn)題，超算在其中，也協(xié)助了求解器應(yīng)用層面的拓展和開發(fā)。2022年6月，中國(guó)科大超算中心發(fā)布新版廣義本征值求解器GenELPA。這基于之前中科大針對(duì)ELPA做的一個(gè)求解廣義本征值的擴(kuò)展程序GenELPA，該程序在中國(guó)科大超算中心的曙光TC4600超級(jí)計(jì)算系統(tǒng)上測(cè)試結(jié)果表明有效并行規(guī)模可達(dá)4000 CPU核心以上。

ELPA是一種高性能的、尤其在大規(guī)模并行時(shí)效率特別高的本征值求解器，在多種第一性原理計(jì)算軟件中都有應(yīng)用。該程序是馬普研究所開發(fā)，核心程序由FORTRAN編寫，并提供了C的接口。在GenELPA中，中科大還增加了根據(jù)運(yùn)行服務(wù)器的CPU類型自動(dòng)選擇kernel的功能，用戶在默認(rèn)配置下即可獲得很好的計(jì)算效率。

和超算一樣，求解器曾一度也是卡脖子核心技術(shù)。當(dāng)前國(guó)內(nèi)的阿里達(dá)摩院、華為等企業(yè)，以及中國(guó)科學(xué)院均推出了國(guó)產(chǎn)的求解器，無(wú)論在商業(yè)還是學(xué)界都可以逐漸實(shí)現(xiàn)國(guó)產(chǎn)化替代。求解器作為決策智能的核心技術(shù)，逐漸在B端發(fā)揮其強(qiáng)大的優(yōu)化求解的作用。

生成式AI在C端爆火

除了在B端的研究，超算和AI也開始在C端爆發(fā)，當(dāng)算力足以支撐更好的算法和更大的模型訓(xùn)練，生成式AI才得以有機(jī)會(huì)露頭，尤其是前段時(shí)間爆火的AI作畫。

Gartner認(rèn)為，生成式AI是通過(guò)各種機(jī)器學(xué)習(xí)（ML）方法從數(shù)據(jù)中學(xué)習(xí)要素，進(jìn)而生成全新的、完全原創(chuàng)的、真實(shí)的工件（一個(gè)產(chǎn)品或物品或任務(wù)），這些工件與訓(xùn)練數(shù)據(jù)保持相似，而不是復(fù)制。它可以被用來(lái)檢測(cè)欺詐、虛假信息和身份盜竊。同時(shí)，Gartner預(yù)計(jì)到2025年，生成式人工智能將占所有生成數(shù)據(jù)的10%，而目前這一比例還不到1%。

而此次英偉達(dá)在與微軟的合作中，將使用 Azure 的可擴(kuò)展虛擬機(jī)實(shí)例來(lái)研究并進(jìn)一步加速生成式AI（generative AI）的發(fā)展。

回看超算和AI這兩大關(guān)鍵詞，此次合作似乎在圍繞下一個(gè)發(fā)展浪潮展開，即自動(dòng)化。

微軟負(fù)責(zé)云計(jì)算和人工智能的執(zhí)行副總裁Scott Guthrie表示：" 人工智能正在推動(dòng)整個(gè)企業(yè)和工業(yè)計(jì)算的下一波自動(dòng)化浪潮，使企業(yè)在應(yīng)對(duì)經(jīng)濟(jì)不確定性時(shí)能夠事半功倍。我們與英偉達(dá)的合作解鎖了世界上最具擴(kuò)展性的超級(jí)計(jì)算機(jī)平臺(tái)，在微軟Azure上為每個(gè)企業(yè)提供最先進(jìn)的AI 能力。”

編者按：本文轉(zhuǎn)載自微信公眾號(hào)：DataView數(shù)據(jù)科技研究院(ID：data-view)，作者：DataView