麥肯錫合伙人：生成式AI有助于解決云遷移中的各種難題

2023-10-16 08:49:45
人工智能
云計算 生成式AI的四大核心用例分別是內(nèi)容生成、客戶參與、創(chuàng)建合成數(shù)據(jù)、以及編寫代碼。當然，這里的編寫代碼并非從零開始完成軟件開發(fā)。生成式AI的編碼能力主要體現(xiàn)在接手員工離職后無人熟悉的遺留代碼，或者是將原有代碼轉(zhuǎn)換為新的語言形式。

麥肯錫公司合伙人Bhargs Srivathsan近日在新加坡召開的會議上表示，只要運用得當，生成式AI技術(shù)有望將云遷移工作量減少30%到50%。

Srivathsan認為，“目前的進度只能說才剛剛邁出第一步。隨著大語言模型（LLM）的發(fā)展成熟，將工作負載遷移至公有云的時間表將不斷縮短、遷移過程效率也能隨之提升。”

她建議組織先使用大語言模型對系統(tǒng)內(nèi)的基礎(chǔ)設(shè)施進行摸底，解析其中的短板與優(yōu)勢，再在工作負載轉(zhuǎn)移完成后繼續(xù)應(yīng)用AI工具查看遷移是否切實有效。

另外，還可以利用大語言模型完成更多相關(guān)工作，例如編寫架構(gòu)審查委員會指南等說明材料。

這位合伙人表示，盡管不少企業(yè)才剛剛開始考慮采用AI技術(shù)，但麥肯錫所投資的企業(yè)中已經(jīng)有40%在更新其IT投入。

Srivathsan認為，生成式AI與云之間屬于“共生”關(guān)系。

 “必須承認，如果沒有公有云的普及、就不可能把生成式AI真正帶入生活。而與之對應(yīng)，生成式AI也能切實加快公有云遷移、并幫助用戶從原有公有云中解鎖脫離?！?/p>

在Srivathsan看來，生成式AI的四大核心用例分別是內(nèi)容生成、客戶參與、創(chuàng)建合成數(shù)據(jù)、以及編寫代碼。當然，這里的編寫代碼并非從零開始完成軟件開發(fā)。生成式AI的編碼能力主要體現(xiàn)在接手員工離職后無人熟悉的遺留代碼，或者是將原有代碼轉(zhuǎn)換為新的語言形式。

她還強調(diào)，之所以說公有云比嘗試內(nèi)部自建模型更加靠譜，是因為企業(yè)用戶往往不具備充足的GPU儲備。而且市面上現(xiàn)成商用模型的成本也比自行訓練更加低廉。

Srivathsan指出，對于身處受監(jiān)管行業(yè)、掌握大量專有數(shù)據(jù)或者擔心知識產(chǎn)權(quán)遭到侵犯的用戶，還可以設(shè)置相應(yīng)的護欄。

在她看來，大語言模型在未來五、六年時間內(nèi)將主要運行在超大規(guī)?；A(chǔ)設(shè)施環(huán)境當中，直到模型發(fā)展成熟。而且跟很多人想象中不同，其實生成式AI的實現(xiàn)并不一定壓根那么夸張的算力儲備，畢竟很少有用例會對延遲提出如此嚴苛的要求。

也就是說，除非是特斯拉上運行的自動駕駛功能、或者負責指揮制造車間實時運行的軟件，否則確實沒必要把硬件堆得太滿。

另外，多數(shù)情況下也沒必要使用定制或大規(guī)模模型。

這位麥肯錫合伙人評論稱，“很多企業(yè)都以為自己需要買輛超級跑車來送披薩。當然用不著嘍，真正符合需求的模型往往沒那么復(fù)雜、也沒那么大。舉例來說，生成客服支持腳本肯定沒必要動用650億參數(shù)的大體量模型?！?/p>

但她同時給出建議，如果開發(fā)人員正在訪問自己本不該接觸到的非專有模型或數(shù)據(jù)，則務(wù)必要在組織內(nèi)外之間添加API網(wǎng)關(guān)來建立起“實時警報”機制。

標題名稱：麥肯錫合伙人：生成式AI有助于解決云遷移中的各種難題
轉(zhuǎn)載來源：http://www.5511xx.com/article/cospdhs.html