AI訓練所需算力指數增長，增長速度超越硬體的摩爾定律

爆火的AIGC當前最大瓶頸或是它

最近AIGC領域催化不斷，而隨著ChatGPT大火之際，財通證券等指出，算力作為人工智慧的“發動機”，已是行業當前最大的瓶頸，國盛證券也表示AIGC等應用的普及將帶來巨大的算力市場。

具體來看，財通證券分析稱，算力的瓶頸並不體現在算力的絕對大小，而在於實現該算力的成本，特別是在演算法場景眾多、迭代速度較快的AI領域。

此前，OpenAI聯合創始人兼CEO曾在推特上表示，ChatGPT的運營費用高得“令人瞠目結舌”。在使用者丟擲問題之後，ChatGPT迴應的每一個字，花的都是真金白銀。

據悉，ChatGPT託管於微軟雲服務Azure上，目前微軟對單個100 GPU的收費是每小時3美元，按照ChatGPT載入模型和文字的速度，生成一個單詞的費用約為0。0003美元；而ChatGPT的回覆通常至少有30個單詞，因此ChatGPT每回復一次，至少花Open AI 1美分。

而摩根士丹利的分析甚至認為，ChatGPT的一次回覆可能會花掉Open AI 2美分，大約是谷歌搜尋查詢平均成本的七倍。尤其考慮到ChatGPT面向全球大眾使用者，用的人越多，頻寬消耗越大，伺服器成本只會更高。

AIGC應用將產生巨大的算力市場

根據早些時候OpenAI發表了一份研究成果表明，AI訓練所需算力指數增長，增長速度超越硬體的摩爾定律。

資料顯示，自2012年至2018年，用於訓練AI所需要的算力大約每隔3～4個月翻倍，整體呈現指數級上漲（而摩爾定律僅僅是18個月翻一倍）1。從2012年到2018年，訓練AI所耗費的算力增長了30萬倍，而摩爾定律在相同時間只有7倍的增長。

中信建投研報的資料也顯示，此前用於AI訓練的算力增長符合摩爾定律，大約每20個月翻一番；深度學習的出現加速了效能的擴充套件，用於AI訓練的算力大約每6個月翻一番；而目前大規模模型出現，其訓練算力是原來的10到100倍。

國盛證券表示，AIGC未來應用普及的背後，將產生巨大的算力市場。

以GPT-3為例，該模型有著多達1750億的引數，訓練所需的算力高達3650PFLOPS-day。按照Lambda的測算，以V100理想狀態下28 TFLOPS的算力和最低3年起雲計算的成本，完成訓練GPT-3需要花費460萬美元，而下一代GPT-4的引數將更多。

國盛證券表示，儘管AI模型往往會選擇開源，但資料集和訓練成果是一個團隊的內部資產，這意味著每個AI產品都需要支付自己的訓練成本。現在大部分創業團隊都是佈設在雲端，因為單獨的算力叢集很貴，目前A100高階產品大概在6-9萬元，1000張A100卡加上CPU、硬碟、儲存、機房供電等配套設施的硬體投入將近1億。在未來AIGC隨著B端和C端的商業化落地的實現，算力叢集的建設和雲服務都會收益，同時考慮到英偉達A100、H100出口受限，相關國產算力晶片將有機會獲得增量市場。

算力行業還有元宇宙+數字經濟催化

此前科技巨頭英特爾曾釋出過一個元宇宙相關的宣告，英特爾表示，看好元宇宙的可能性，但有一個關鍵問題還沒有解決——幾乎沒有足夠的計算能力，其表示今天的計算、儲存和網路基礎設施根本不足以實現這一願景，而要想實現真正的元宇宙，我們目前的計算能力需要再提高1000倍。

此外，據華西證券研報，數字經濟催化下，智慧算力需求穩定增長。興業證券表示，數字經濟時代，算力是國別競爭能力高低的核心指標。

近日，IDC與浪潮資訊聯合釋出《2022-2023中國人工智慧計算力發展評估報告》，文章指出，中國人工智慧計算力繼續保持快速增長，2022年智慧算力規模達到268百億億次/秒（EFLOPS）。

IDC預測，未來五年中國智慧算力規模將持續高速增長，2021年中國智慧算力規模達155。2 EFLOPS，預計到2026年將達到1271。4 EFLOPS。

相關產業鏈

據《中國算力網路全景洞察白皮書》，算力是數字化時代的基礎設施，也是推動數字經濟向前發展的核心動能。需求側科技進步與產業數字化、供給側算力技術迭代共同驅動算力發展。

據興業證券研報，

算力的第一個層次是算力的“基礎設施建設”，高效能晶片、伺服器、處理器、資料中心、網路等基礎設施建設為算力、應用以及產業發展提供可持續發展的保障。

算力的第二個層次是應用，得益於算力水平的不斷提升，未來雲計算、大資料、人工智慧、物聯網、5G等應用都將蓬勃發展，而這些應用的普及又帶來計算方法的革新，提高計算效率，拉動算力發展。

算力的第三個層次在於與實體經濟的融合，賦能數字經濟各行業的數字化轉型升級。工業網際網路、金融科技、智慧駕駛、智慧醫療、智慧製造、智慧城市、高階裝備、可穿戴裝置、個人智慧終端、網路安全等產業數字化程序不斷加深，新的需求以及產生的大量資料，又為應用的發展提供了動力。

炒股開戶享福利，入金抽188元紅包，100%中獎！

開啟App看更多精彩內容

TAG: 算力AIChatGPT訓練AIGC