臺(tái)積電將超過4個(gè)標(biāo)線大小的芯片縫合在一起？

據(jù)anandtech報(bào)道，高性能計(jì)算 (HPC) 領(lǐng)域越來越明顯的一個(gè)趨勢(shì)是，每個(gè)芯片和每個(gè)機(jī)架單元的功耗不會(huì)因空氣冷卻的限制而停止。

由于超級(jí)計(jì)算機(jī)和其他高性能系統(tǒng)已經(jīng)達(dá)到——并且在某些情況下超過了這些限制——功率要求和功率密度不斷擴(kuò)大。

根據(jù)臺(tái)積電最近一年一度的技術(shù)研討會(huì)的消息，隨著臺(tái)積電為更密集的芯片配置奠定基礎(chǔ)，我們應(yīng)該期待看到這種趨勢(shì)繼續(xù)下去。

手頭的問題并不是一個(gè)新問題：晶體管功耗的縮小速度幾乎沒有晶體管尺寸那么快。由于芯片制造商不會(huì)放棄性能(并且無法為客戶提供半年增長)，因此在 HPC 空間中，每個(gè)晶體管的功率正在迅速增長。

另一個(gè)問題是，chiplet正在為構(gòu)建具有比傳統(tǒng)標(biāo)線限制更多硅的芯片鋪平道路，這對(duì)性能和延遲有好處，但在冷卻方面更成問題。

支持這種硅和功率增長的是 臺(tái)積電 CoWoS 和 InFO等現(xiàn)代技術(shù)，它們?cè)试S芯片制造商構(gòu)建集成的多芯片系統(tǒng)級(jí)封裝 (SiP)，其硅量是臺(tái)積電的兩倍。

受到標(biāo)線(reticle )限制。到 2024 年，臺(tái)積電 CoWoS 封裝技術(shù)的進(jìn)步將使構(gòu)建更大的多芯片 SiP 成為可能，臺(tái)積電預(yù)計(jì)將超過四個(gè)標(biāo)線大小的芯片縫合在一起，這將實(shí)現(xiàn)巨大的復(fù)雜性(每個(gè) SiP 有可能超過 3000 億個(gè)晶體管)臺(tái)積電及其合作伙伴正在關(guān)注)和性能，但自然是以巨大的功耗和發(fā)熱為代價(jià)的。

NVIDIA 的 H100 加速器模塊等旗艦產(chǎn)品已經(jīng)需要超過 700W 的功率才能實(shí)現(xiàn)峰值性能。因此，在單個(gè)產(chǎn)品上使用多個(gè) GH100 大小的chiplet的前景令人大跌眼鏡 - 以及功率預(yù)算。

臺(tái)積電預(yù)計(jì)，幾年后將出現(xiàn)功耗約為 1000W 甚至更高的多芯片 SiP，從而帶來冷卻挑戰(zhàn)。

在 700W 時(shí)，H100 已經(jīng)需要液冷;英特爾的基于chiplet的 Ponte Vecchio 和 AMD 的 Instinct MI250X 的故事大致相同。但即使是傳統(tǒng)的液體冷卻也有其局限性。

當(dāng)芯片累計(jì)達(dá)到 1 kW 時(shí)，臺(tái)積電設(shè)想數(shù)據(jù)中心將需要為這種極端的 AI 和 HPC 處理器使用浸入式液體冷卻系統(tǒng)。

反過來，浸入式液體冷卻將需要重新構(gòu)建數(shù)據(jù)中心本身，這將是設(shè)計(jì)上的重大變化，也是連續(xù)性方面的重大挑戰(zhàn)。

撇開短期挑戰(zhàn)不談，一旦數(shù)據(jù)中心設(shè)置為浸入式液體冷卻，它們將為更熱的芯片做好準(zhǔn)備。液浸式冷卻在處理大型冷卻負(fù)載方面具有很大潛力，這也是英特爾大力投資這項(xiàng)技術(shù)以使其更加主流化的原因之一。

除了浸沒式液體冷卻，還有另一種技術(shù)可以用來冷卻超熱芯片——片上水冷。去年，臺(tái)積電透露它已經(jīng)嘗試過片上水冷，并表示甚至可以使用這種技術(shù)冷卻 2.6 kW 的 SiP。但當(dāng)然，片上水冷本身就是一項(xiàng)極其昂貴的技術(shù)，它將把那些極端的 AI 和 HPC 解決方案的成本推到前所未有的水平。

盡管如此，雖然未來不是一成不變的，但似乎它已經(jīng)用硅鑄造了。

臺(tái)積電的芯片制造客戶有客戶愿意為這些超高性能解決方案(想想超大規(guī)模云數(shù)據(jù)中心的運(yùn)營商)支付高昂的費(fèi)用，即使這需要高成本和技術(shù)復(fù)雜性。讓事情回到我們開始的地方，這就是臺(tái)積電首先開發(fā) CoWoS 和 InFO 封裝工藝的原因——因?yàn)橛锌蛻魷?zhǔn)備好并渴望通過chiplet技術(shù)打破標(biāo)線限制。

今天，我們已經(jīng)在 Cerebras 的大型晶圓級(jí)引擎處理器等產(chǎn)品中看到了其中的一些，并且通過大型小芯片，臺(tái)積電正準(zhǔn)備讓更廣泛的客戶群更容易獲得更小的(但仍然是標(biāo)線斷裂)設(shè)計(jì)。

對(duì)性能、封裝和冷卻的這種極端要求不僅將半導(dǎo)體、服務(wù)器和冷卻系統(tǒng)的生產(chǎn)商推向了極限，而且還需要對(duì)云數(shù)據(jù)中心進(jìn)行修改。

如果用于 AI 和 HPC 工作負(fù)載的大規(guī)模 SiP 確實(shí)變得普遍，那么未來幾年云數(shù)據(jù)中心將完全不同。

標(biāo)簽： 芯片縫合在一起 高性能計(jì)算 功率要求和功率密度不斷擴(kuò) 每個(gè)芯片和每個(gè)機(jī)架單元