国产精品久久久久影院,成人午夜福利视频,国产精品久久久久高潮,国产精品 欧美 亚洲 制服,国产精品白浆无码流出

人工智能對(duì)數(shù)據(jù)中心基礎(chǔ)設(shè)施帶來了哪些挑戰(zhàn)

發(fā)布者:EE小廣播最新更新時(shí)間:2024-12-23 來源: EEWORLD作者: 安森美高級(jí)總監(jiān),Aditya Jian關(guān)鍵字:人工智能  數(shù)據(jù)中心  基礎(chǔ)設(shè)施  安森美 手機(jī)看文章 掃描二維碼
隨時(shí)隨地手機(jī)看文章

How AI is Challenging Data Center Infrastructures

人工智能對(duì)數(shù)據(jù)中心基礎(chǔ)設(shè)施帶來了哪些挑戰(zhàn)

  

image.png


在加密貨幣和人工智能/機(jī)器學(xué)習(xí)(AI/ML)等新興應(yīng)用的驅(qū)動(dòng)下,數(shù)據(jù)中心的能耗巨大,并將快速增長以滿足用戶需求。根據(jù)國際能源署(IEA)的最新報(bào)告,2022 年數(shù)據(jù)中心的耗電量將達(dá)到 460 TWh(太瓦時(shí)),約占全球總用電量的 2%。在美國,擁有全球三分之一的數(shù)據(jù)中心,耗電量為 260 TWh,占總用電量的 6%。

 

預(yù)測(cè)未來具有挑戰(zhàn)性,這取決于部署了多少非常耗電的圖形處理單元(GPU)來應(yīng)對(duì)人工智能技術(shù)的需求,當(dāng)然還取決于進(jìn)一步增加空調(diào)來降低數(shù)據(jù)中心的溫度。國際能源署的報(bào)告顯示,到 2026 年,數(shù)據(jù)中心的耗電量將至少增長到 650  TWh(40%),但也可能高達(dá) 1,050  TWh(128%)。

 

數(shù)據(jù)中心支持人工智能趨勢(shì)

 

人工智能是一項(xiàng)極其耗電的技術(shù),支持其運(yùn)行的數(shù)據(jù)中心需要具備足夠的算力和電力輸送能力。


瑞典RISE研究機(jī)構(gòu)最近的一項(xiàng)研究清楚地展示了由于該技術(shù)迅速普及所帶來的巨大變化。例如,ChatGPT在2022年11月推出后僅五天內(nèi)就達(dá)到了100萬用戶。他們?cè)趦蓚€(gè)月內(nèi)就擁有了 1 億用戶,而TikTok達(dá)到同一用戶量級(jí)用了9個(gè)月,Instagram則用了兩年半的時(shí)間。

 

作為參考,在谷歌上進(jìn)行一次搜索僅需 0.28 Wh,相當(dāng)于讓一個(gè)60W的燈泡亮17秒。  


相比之下,訓(xùn)練 GPT-4 需要 1.7 萬億個(gè)參數(shù)和 13 萬億個(gè)tokens(單詞片段),這是一個(gè)完全不同的命題。要做到這一點(diǎn),需要包含 25,000 個(gè)英偉達(dá) A100 GPU的多臺(tái)服務(wù)器,每臺(tái)服務(wù)器的功耗約為 6.5 kW。OpenAI 表示,訓(xùn)練耗時(shí) 100 天,耗能約 50 GWh,耗資 1 億美元。


顯然,人工智能將極大地改變數(shù)據(jù)中心的游戲規(guī)則,其所需的計(jì)算能力和能耗水平將遠(yuǎn)遠(yuǎn)超過我們迄今為止所看到的任何水平。

 

數(shù)據(jù)中心 48V 架構(gòu)

 

早期的數(shù)據(jù)中心采用集中式電源架構(gòu) (CPA),將主電源(電網(wǎng))電壓集中轉(zhuǎn)換為 12V(母線電壓),然后將其分配給各服務(wù)器,并使用相對(duì)簡(jiǎn)單的轉(zhuǎn)換器在本地將其轉(zhuǎn)換為5V 或 3.3V邏輯電平。


然而,隨著功率需求的增長,12V 母線上的電流(以及相關(guān)損耗)變得高得令人無法接受,迫使系統(tǒng)工程師改用48V 母線布置。根據(jù)歐姆定律,電流減少了 4 倍,損耗則降低了 4 倍的平方。這種配置被稱為分布式電源架構(gòu) (DPA)。


與此同時(shí),處理器和其他一些元器件的電壓也在不斷降低,最終降至亞伏特級(jí)別,導(dǎo)致需要多個(gè)次級(jí)電壓軌。為解決這一問題,采用了二階轉(zhuǎn)換技術(shù),通過DC-DC轉(zhuǎn)換器(稱為中間母線轉(zhuǎn)換器 - IBC)將 48V 電壓轉(zhuǎn)換為 12V 母線,再根據(jù)需要從 12V 母線輸出其他電壓。

 

 image.png

圖1 服務(wù)器電源系統(tǒng)的結(jié)構(gòu)

 

對(duì)高能效 MOSFET的需求

 

數(shù)據(jù)中心內(nèi)部的電力損耗給運(yùn)營商帶來了挑戰(zhàn)。首先,也是最明顯的一點(diǎn)是,他們正在為那些無助于服務(wù)器運(yùn)行的電力付費(fèi)。其次,任何浪費(fèi)的能源都會(huì)轉(zhuǎn)化為熱量,這就必須設(shè)法處理。由于超大規(guī)模AI服務(wù)器的功率需求高達(dá) 120 kW(而且肯定會(huì)隨著時(shí)間推移而增加),即使在 50% 負(fù)載的情況下,以 97.5% 的峰值效率計(jì)算 2.5% 的損耗,每臺(tái)服務(wù)器也會(huì)浪費(fèi) 1.5 kW的電力,相當(dāng)于一臺(tái)全時(shí)運(yùn)行的電加熱器。


處理熱量可能需要在功率轉(zhuǎn)換系統(tǒng)中采取散熱措施,如散熱器或風(fēng)扇。這些措施會(huì)增大電源的體積,占用本可用于更多計(jì)算能力的空間,就風(fēng)扇而言,還會(huì)耗費(fèi)電能并增加成本。由于數(shù)據(jù)中心內(nèi)的溫度需要嚴(yán)格控制,過高的損耗也會(huì)使環(huán)境溫度升高,這意味著需要更多的空調(diào)來降溫。這既是資本支出,也是運(yùn)營成本,同時(shí)還占用空間。


顯然,盡可能高效地將主(電網(wǎng))電壓轉(zhuǎn)換為驅(qū)動(dòng)人工智能 GPU 和其他設(shè)備供電所需的電壓,對(duì)數(shù)據(jù)中心運(yùn)營商來說大有裨益。


因此,多年來人們?cè)陔娫赐負(fù)浣Y(jié)構(gòu)方面做了大量工作,在前端 PFC 階段引入了圖騰柱PFC (TPPFC) 等技術(shù),以提高其效率。此外,為了提高效率,二極管整流器已被 MOSFET 所取代,并引入了同步整流等技術(shù)。 


優(yōu)化拓?fù)浣Y(jié)構(gòu)只是其中的一半,要優(yōu)化效率,所有元件也必須盡可能高效,尤其是對(duì)轉(zhuǎn)換過程至關(guān)重要的 MOSFET。

 

當(dāng) MOSFET 用于開關(guān)電源轉(zhuǎn)換時(shí),主要有兩種形式的損耗:導(dǎo)通損耗和開關(guān)損耗。導(dǎo)通損耗由漏極和源極之間的電阻(RDS(ON))造成,在電流流動(dòng)時(shí)一直存在。開關(guān)損耗是由柵極電荷 (Qg)、輸出電荷 (QOSS) 和反向恢復(fù)電荷 (Qrr) 共同造成的,這些電荷在每個(gè)開關(guān)周期都會(huì)得到補(bǔ)充。由于目前的趨勢(shì)是提高開關(guān)頻率以減小磁性元件的尺寸,因此隨著補(bǔ)充頻率的增加,這種損耗也會(huì)變得相當(dāng)顯著。 


顯然,特定 MOSFET 的導(dǎo)通損耗和開關(guān)損耗越低,電源系統(tǒng)的整體轉(zhuǎn)換效率就越高。

 

PowerTrench? T10 MOSFET 簡(jiǎn)介

 

同步整流現(xiàn)在已成為所有高性能、大電流、低壓電源轉(zhuǎn)換應(yīng)用中的關(guān)鍵技術(shù),特別是在數(shù)據(jù)中心服務(wù)器的應(yīng)用中更是如此。在這種應(yīng)用中,包括RDS(ON)、Qg、QOSS和Qrr在內(nèi)的幾個(gè)MOSFET參數(shù)會(huì)直接影響轉(zhuǎn)換效率,器件制造商正努力尋求減小這些影響的方法。


安森美的 PowerTrench T10 MOSFET 采用新型屏蔽柵極溝道設(shè)計(jì),實(shí)現(xiàn)了超低的 Qg 值,且 RDS(ON) 低于 1mOhm 。最新的 PowerTrench T10 技術(shù)不僅減少了振鈴、過沖和噪聲,其業(yè)界先進(jìn)的軟恢復(fù)體二極管還降低了 Qrr。這在導(dǎo)通電阻性能和恢復(fù)特性之間實(shí)現(xiàn)了良好的折中平衡,同時(shí)還可實(shí)現(xiàn)具有良好反向恢復(fù)特性的低損耗快速開關(guān)。


總體而言,PowerTrench T10 器件在參數(shù)方面的改進(jìn)提高了中低壓、大電流開關(guān)電源解決方案的效率。通常情況下,開關(guān)損耗比上一代器件最多可降低 50%,而導(dǎo)通損耗可降低 30%-40%。


安森美推出了PowerTrench T10技術(shù)的40V系列和80V系列產(chǎn)品。NTMFWS1D5N08X(80V、1.43mΩ、5mm x 6mm SO8-FL 封裝)和 NTTFSSCH1D3N04XL(40V、1.3mΩ、3.3mm x 3.3mm 源下雙冷卻封裝)為人工智能數(shù)據(jù)中心應(yīng)用中的電源單元(PSU)和中間母線轉(zhuǎn)換器(IBC)提供了同類極佳的效率(FOM)。它們達(dá)到了開放式機(jī)架(Open Rack) V3 規(guī)范要求的 97.5% 的 PSU 效率和 98% 的 IBC 效率。

 

 image.png

圖 2  PowerTrench T10 MOSFET 的優(yōu)勢(shì)

 

結(jié)語

 

人工智能革命已經(jīng)到來,沒有人能夠完全確定它對(duì)數(shù)據(jù)中心未來的電力輸送需求究竟意味著什么。不過,可以肯定的是,一系列新的挑戰(zhàn)已經(jīng)出現(xiàn)。房地產(chǎn)資源稀缺和電網(wǎng)的限制使得很難找到容量充足的新地點(diǎn)。關(guān)鍵 IT 方面的總體電力需求激增,給電力成本帶來沉重負(fù)擔(dān)。為了滿足這些需求,數(shù)據(jù)中心業(yè)主不僅要建設(shè)新設(shè)施,還要將現(xiàn)有設(shè)施推向極限,力求實(shí)現(xiàn)每平方英尺兆瓦級(jí)的高密度配置。


隨著功率水平肯定會(huì)超過 100 kW,功率轉(zhuǎn)換將成為關(guān)鍵重點(diǎn),以實(shí)現(xiàn)高效運(yùn)行,確保散熱,可靠地提高功率密度,并在狹窄的現(xiàn)代數(shù)據(jù)中心中節(jié)省空間。 


安森美的 PowerTrench T10 技術(shù)提供了業(yè)界先進(jìn)的 RDS(ON)、更高的功率密度、降低開關(guān)損耗,以及更好的熱性能,從而降低總系統(tǒng)成本。PowerTrench T10 等創(chuàng)新功率半導(dǎo)體技術(shù)將成為未來的關(guān)鍵組成部分。


關(guān)鍵字:人工智能  數(shù)據(jù)中心  基礎(chǔ)設(shè)施  安森美 引用地址:人工智能對(duì)數(shù)據(jù)中心基礎(chǔ)設(shè)施帶來了哪些挑戰(zhàn)

上一篇:Gartner發(fā)布2025年影響基礎(chǔ)設(shè)施和運(yùn)營的重要趨勢(shì)
下一篇:中國企業(yè)彌合基礎(chǔ)設(shè)施和運(yùn)營內(nèi)部云技能差距的三大舉措

推薦閱讀最新更新時(shí)間:2025-06-05 12:11

人工智能對(duì)數(shù)據(jù)中心基礎(chǔ)設(shè)施帶來了哪些挑戰(zhàn)
How AI is Challenging Data Center Infrastructures 人工智能對(duì)數(shù)據(jù)中心基礎(chǔ)設(shè)施帶來了哪些挑戰(zhàn) 在加密貨幣和人工智能/機(jī)器學(xué)習(xí)(AI/ML)等新興應(yīng)用的驅(qū)動(dòng)下,數(shù)據(jù)中心的能耗巨大,并將快速增長以滿足用戶需求。根據(jù)國際能源署(IEA)的最新報(bào)告,2022 年數(shù)據(jù)中心的耗電量將達(dá)到 460 TWh(太瓦時(shí)),約占全球總用電量的 2%。在美國,擁有全球三分之一的數(shù)據(jù)中心,耗電量為 260 TWh,占總用電量的 6%。 預(yù)測(cè)未來具有挑戰(zhàn)性,這取決于部署了多少非常耗電的圖形處理單元(GPU)來應(yīng)對(duì)人工智能技術(shù)的需求,當(dāng)然還取決于進(jìn)一步增加空調(diào)來降低數(shù)據(jù)中心的溫度。國際能源署的報(bào)
[網(wǎng)絡(luò)通信]
<font color='red'>人工智能</font>對(duì)<font color='red'>數(shù)據(jù)中心</font><font color='red'>基礎(chǔ)設(shè)施</font>帶來了哪些挑戰(zhàn)
美國交通部長實(shí)地參觀 Velodyne 智能基礎(chǔ)設(shè)施解決方案(IIS)部署情況
2022年5月3日——Velodyne Lidar宣布,美國交通部部長 Pete Buttigieg到訪摩根州立大學(xué)進(jìn)行實(shí)地考察,以強(qiáng)調(diào)交通部在基礎(chǔ)設(shè)施方面的投資。Pete Buttigieg部長所視察的項(xiàng)目中也包括了 Velodyne 智能基礎(chǔ)設(shè)施解決方案 (IIS) 的部署, 該解決方案在未來交通基礎(chǔ)設(shè)施建設(shè)中發(fā)揮著關(guān)鍵作用。 摩根州立大學(xué)是位于美國巴爾的摩市的黑人大學(xué),歷史悠久。此次接待了美國交通部部長Pete Buttigieg的訪問,帶領(lǐng)他參觀了校園及國家交通中心實(shí)驗(yàn)室。在參觀校內(nèi)的城市出行與公平中心時(shí),Pete Buttigieg部長重點(diǎn)了解了Velodyne 的智能基礎(chǔ)設(shè)施解決方案(IIS),查看了由
[物聯(lián)網(wǎng)]
美國交通部長實(shí)地參觀 Velodyne 智能<font color='red'>基礎(chǔ)設(shè)施</font>解決方案(IIS)部署情況
加速5G 基礎(chǔ)設(shè)施部署,Marvell發(fā)布突破性的端到端解決方案
在MWC 2019推出涵蓋無線基帶、邊緣計(jì)算和核心網(wǎng)應(yīng)用的芯片平臺(tái) 基礎(chǔ)設(shè)施半導(dǎo)體解決方案的全球領(lǐng)導(dǎo)廠商Marvell?宣布推出一款高度靈活、端到端優(yōu)化的 5G 平臺(tái),該平臺(tái)滿足 OEM 廠商的更進(jìn)一步的設(shè)計(jì)需求,幫助他們加速開發(fā)5G NR,助力全球運(yùn)營商快速部署5G網(wǎng)絡(luò)。 隨著無線通信標(biāo)準(zhǔn)的不斷演進(jìn),Marvell在無線網(wǎng)絡(luò)技術(shù)領(lǐng)域的市場(chǎng)地位不斷上升。如今,由 Marvell 提供技術(shù)支持的3G/4G 解決方案已經(jīng)為全球超過 10 億人口實(shí)現(xiàn)了網(wǎng)絡(luò)覆蓋。在 5G 時(shí)代,Marvell 將帶來完整的芯片平臺(tái)解決方案,涵蓋數(shù)字處理領(lǐng)域的各個(gè)方面。 Marvell 愿景:構(gòu)建未來網(wǎng)絡(luò) 隨著無線基站、微蜂窩、互聯(lián)
[網(wǎng)絡(luò)通信]
加速5G <font color='red'>基礎(chǔ)設(shè)施</font>部署,Marvell發(fā)布突破性的端到端解決方案
阿里巴巴服務(wù)機(jī)器人將成為新基礎(chǔ)設(shè)施 帶來商業(yè)新變局
在2004年由威爾·史密斯主演的大片《我,機(jī)器人》中,片中的機(jī)器人公司亮出了一句響亮的廣告詞——“2035年,這是個(gè)機(jī)器的時(shí)代?!倍F(xiàn)實(shí)生活中,機(jī)器手雖然在自動(dòng)生產(chǎn)線等領(lǐng)域有越來越廣泛的應(yīng)用,但它依然是冷冰冰的形象,具有高度智慧的機(jī)器人離普通人的生活依舊遙遠(yuǎn)。 不過,隨著近兩年人工智能迎來了一段爆發(fā)性成長之后,機(jī)器具備了更精準(zhǔn)地獲知人類情感和指令的能力,這也為機(jī)器人在更廣泛的行業(yè)中落地提供了沃土。9月20日,在云棲大會(huì)《機(jī)器革命,人工智能峰會(huì)》上,阿里巴巴人工智能實(shí)驗(yàn)室重磅推出了天貓精靈太空蛋、天貓精靈天空梭兩款服務(wù)機(jī)器人,并宣布將在酒店行業(yè)大規(guī)模推廣天貓精靈太空蛋,同時(shí)鎖定了醫(yī)院、寫字樓、餐廳等重點(diǎn)垂直應(yīng)用場(chǎng)景,力爭(zhēng)將
[機(jī)器人]
能源互聯(lián)網(wǎng):共同富裕的社會(huì)基礎(chǔ)設(shè)施
中國儲(chǔ)能網(wǎng)訊 :我們已經(jīng)發(fā)展到了全球化時(shí)代,如何把握這樣一個(gè)地理上的狹小空間,在未來時(shí)間里使人類能夠逐步走向共同富裕,生活更加美好,一些有識(shí)之士提出了具有劃時(shí)代意義的科學(xué)命題,《全球能源互聯(lián)網(wǎng)》就是這樣一部杰作。從人類共有共享地球物質(zhì)利益的意義上打造社會(huì)基礎(chǔ)設(shè)施,使地球上每一個(gè)國家和每一個(gè)人都能夠受益,人類正在進(jìn)入或者即將進(jìn)入具有良好電氣化設(shè)施的網(wǎng)絡(luò)化時(shí)代?!度蚰茉椿ヂ?lián)網(wǎng)》科學(xué)系統(tǒng)地分析了能源互聯(lián)網(wǎng)的內(nèi)容體系與建設(shè)路徑,深刻把握其內(nèi)在機(jī)理和控制技術(shù),對(duì)共同富裕的社會(huì)基礎(chǔ)設(shè)施建設(shè)提供了方法論的啟示與工程技術(shù)創(chuàng)新經(jīng)驗(yàn)的借鑒。 一、把握大規(guī)律,能源互聯(lián)網(wǎng)發(fā)展的必然性 能源在人類社會(huì)發(fā)展中是不可或缺的物質(zhì)基礎(chǔ)。在人類文
[新能源]
華為美國網(wǎng)絡(luò)基礎(chǔ)設(shè)施部門裁員25%
C114訊 北京時(shí)間12月14日消息(艾斯 yoli)據(jù)LightReading報(bào)道,華為目前對(duì)其美國網(wǎng)絡(luò)基礎(chǔ)設(shè)施部門裁員25%。裁員人數(shù)總計(jì)約為100人,其中70名為美國人,另外30名為外籍人員。華為公司一位新聞發(fā)言人在本周四下午證實(shí)了此消息。   華為美國公司的其他三個(gè)部門(消費(fèi)者、企業(yè)和研發(fā))都未受到影響。   考慮到最近美國國會(huì)發(fā)布的一份報(bào)告中建議美國服務(wù)提供商不要與中國電信設(shè)備供應(yīng)商進(jìn)行業(yè)務(wù)合作,此次裁員并不令人驚訝。   與此同時(shí),華為并未放棄在美國的業(yè)務(wù)。該公司在本周四下午發(fā)出了以下聲明:   華為技術(shù)美國公司最近簡(jiǎn)化并改進(jìn)了組織,從而使我們?cè)诿绹幕A(chǔ)設(shè)施業(yè)務(wù)保持盈利。我們進(jìn)行了必要的規(guī)??s減,從而通
[網(wǎng)絡(luò)通信]
英特爾?至強(qiáng)? 6處理器 為現(xiàn)代化數(shù)據(jù)中心、網(wǎng)絡(luò)和邊緣部署而生
6月6日,英特爾數(shù)據(jù)中心與人工智能事業(yè)部副總裁兼至強(qiáng)能效核產(chǎn)品線總經(jīng)理Ryan Tabrah宣布英特爾至強(qiáng)6能效核處理器正式發(fā)布。 英特爾至強(qiáng)6平臺(tái)將通過全新的能效核與性能核SKU為客戶提供靈活的選擇,滿足從AI和其他高性能計(jì)算到可擴(kuò)展的云原生應(yīng)用等多種用例和廣泛的工作負(fù)載需求。 英特爾?至強(qiáng)? 6處理器 英特爾至強(qiáng) 6處理器家族包含6700與6900等系列,其共享通用的硬件平臺(tái)和軟件棧,為多種優(yōu)化產(chǎn)品提供多功能性、可擴(kuò)展性和靈活性,其中包括針對(duì)DDR5(雙倍數(shù)據(jù)速率)、PCIe 5(外圍組件快速互連)、UPI(超級(jí)通道互聯(lián))和CXL(開放式互連標(biāo)準(zhǔn))的代際改進(jìn): 6700系列產(chǎn)品提供高達(dá)1.4倍的內(nèi)存帶寬(P核中采
[網(wǎng)絡(luò)通信]
臺(tái)達(dá)靈動(dòng)微模塊數(shù)據(jù)中心助力道路運(yùn)輸監(jiān)管
近年來,政府、媒體、群眾對(duì)道路運(yùn)輸監(jiān)控管理越來越關(guān)注,而在新常態(tài)下,影響道路運(yùn)輸安全因素逐漸多元化,為了實(shí)現(xiàn)更加全面、主動(dòng)、科學(xué)、規(guī)范的道路監(jiān)管,近期,慶元縣道路運(yùn)輸管理局監(jiān)管中心選擇臺(tái)達(dá)靈動(dòng)系列微模塊數(shù)據(jù)中心為其道路監(jiān)管平臺(tái)打造全新機(jī)房,保障道路監(jiān)管可靠穩(wěn)定。 該道路運(yùn)輸管理局監(jiān)管中心專用機(jī)房位于辦公大樓內(nèi),未來會(huì)根據(jù)應(yīng)用需求的增加做擴(kuò)容建設(shè)。臺(tái)達(dá)在充分的前期調(diào)研后,考慮到基礎(chǔ)設(shè)施的投資最優(yōu)、設(shè)備兼容性最佳,又考慮到未來擴(kuò)容的方便和地理位置等因素,為用戶提供了靈動(dòng)系列微模塊數(shù)據(jù)中心解決方案。該方案具有系統(tǒng)結(jié)構(gòu)簡(jiǎn)單,可靠性高,設(shè)備成本低,擴(kuò)容性好等優(yōu)勢(shì)。 靈動(dòng)系列微模塊數(shù)據(jù)中心解決方案,以機(jī)柜作為機(jī)房載體,形成滿足設(shè)備安全
[物聯(lián)網(wǎng)]
小廣播
最新網(wǎng)絡(luò)通信文章

 
EEWorld訂閱號(hào)

 
EEWorld服務(wù)號(hào)

 
汽車開發(fā)圈

 
機(jī)器人開發(fā)圈

電子工程世界版權(quán)所有 京ICP證060456號(hào) 京ICP備10001474號(hào)-1 電信業(yè)務(wù)審批[2006]字第258號(hào)函 京公網(wǎng)安備 11010802033920號(hào) Copyright ? 2005-2025 EEWORLD.com.cn, Inc. All rights reserved