AI算力需求持續呈指數成長，Google (GOOG-US)正同步加快自研TPU開發與量產節奏。Google 技術長兼AI基礎建設資深副總裁Amin Vahdat表示，Google過去每3年推出一代TPU，之後加快至一年一代，最近一年甚至推出兩款TPU，未來更新頻率仍可能進一步提高，甚至半年一代。面對晶片世代快速縮短，過去逐步拉升產能的傳統量產模式已無法因應，希望供應鏈朝「Square Wave (方波效應)」邁進，也就是新晶片完成後便快速將產能推升至大規模量產。

Amin Vahdat指出，AI產業正從過去的資訊時代進入「智慧時代(Age of Intelligence)」，其影響甚至可能超越網際網路。他以工業革命為例，當蒸汽機效率從約1%提升至5%時，並未因為效率改善而降低煤炭需求，反而因為新應用大量出現，使能源需求快速增加；相同情況也將發生在AI，當單位智慧與算力成本下降，人類會找到更多用途，整體算力消耗只會進一步攀升。

他形容，工業革命是一場「Muscle Multiplier(肌肉倍增器)」革命，而AI則是「Mind Multiplier(大腦倍增器)」。AI並非單純自動化既有工作，而是讓過去無法完成的事情成為可能，未來有機會實現每位病人都有醫生、每位學生都有老師，甚至一年完成過去十年的科學研究進展。

隨著AI模型規模持續擴大，Google也更加倚賴專用運算架構。Amin Vahdat表示，通用CPU效能與能源效率的提升速度早已放緩，但AI所需要的算力卻快速增加，因此硬體勢必持續走向客製化。

Google多年前就開始打造TPU，最初針對語言翻譯及語音辨識等工作負載，專用推論加速器相較CPU即可帶來約100倍效率改善；歷經多代發展後，TPU在效能、功耗與成本效率上，相較傳統CPU運算已累積約100倍優勢，甚至認為100倍只是下限。

在最新一代產品方面，Amin Vahdat指出，TPU-8的每瓦效能較前一代再提升2倍，而Google的TPU產品迭代也持續加速，從過去約3年推出一代，縮短至一年一代，最近一年則已推出兩款產品。隨著未來可能每6個月甚至更短時間就迎來新晶片，Google無法再接受過往新產品上市後花費數年逐步拉升產量的模式。

Amin Vahdat將Google未來希望達成的量產模式稱為「Square Wave Deployment」。他解釋，如果一顆新晶片效能比前代高出2倍，但無法迅速取得足夠數量，那麼其實際價值就無法發揮。因此Google需要在晶片完成驗證後，以最短時間將產能推升至高檔，盡快取得新世代晶片完整生命週期的運算價值。

這也意味Google與半導體供應鏈的合作模式將全面改變。Amin Vahdat指出，AI晶片與先進封裝日益複雜，一個世代涉及的晶片數量及資本規模十分龐大，因此Google必須確保晶片首次回片時就能正常運作，同時盡快將最初4顆、10顆、100顆乃至1,000顆晶片交到開發者手中；到了正式量產階段，軟體、製造產線及測試能力也必須同步到位。他直言，隨著架構持續改變，Google與供應鏈的合作方式也必須徹底改變。

除了晶片本身，網路通訊也成為AI基礎建設另一個核心戰場。Google目前大型訓練TPU Superpod約由144個機櫃組成，透過大量光纖連接至Optical Circuit Switch (OCS)。OCS可利用微型反射鏡即時重新配置不同機櫃之間的光路，不需OEO光電轉換或封包處理，功耗僅以瓦數計算，若系統元件故障，也能在數秒內重新配置拓撲、繞過故障節點，相較傳統可能耗費數小時的維修方式大幅縮短停機時間。

Google目前單一TPU訓練系統已可讓9,600顆TPU同步工作，再透過資料中心網路進一步擴展。Amin Vahdat透露，Google最新資料中心網路頻寬可讓接近10萬顆TPU以non-blocking方式交換資料；若再透過Google全球廣域網路與海底電纜連接不同資料中心，目前已能支援約100萬顆TPU共同執行單一大型AI工作。

然而，隨著算力持續擴張，Vahdat認為AI接下來最大的限制可能不是晶片，而是「電力」。Google過去主要追求效能及總持有成(TCO)，如今最重要的最佳化指標已逐步轉向Performance per Watt，因為未來可能出現「有資本、卻沒有足夠電力」的情況，系統設計也必須從晶片、機櫃、叢集一路延伸至整個資料中心與區域電力配置。

他更進一步提出，Google最終真正追求的並非理論上的Performance per Watt，而是「Delivered Value per Watt」，也就是每一瓦電力最終實際能替使用者及服務創造多少價值。目前Google資料中心PUE約為1.09，意味冷卻、供電等非IT設備額外能耗約9%，Vahdat表示，這是Google歷經數十年持續最佳化的成果。

展望下一階段AI發展，Vahdat認為Agentic Computing將再次推升算力需求。過去Chatbot的互動速度受到人類打字、閱讀及回應速度限制，但Agentic AI則是程式與模型彼此高速呼叫，形成「Computer talking to computers」的運算模式，加上結果驗證、安全機制等額外流程，未來compute demand只會持續加速。

硬體方面，Amin Vahdat預期，AI封裝尺寸還會繼續增加，產業需要同步突破資料傳輸、記憶體控制、散熱及電力傳輸等瓶頸，將運算單元放得更靠近記憶體也會是重要發展方向，並直言未來需要的硬體專用化程度將比今天的TPU與GPU更高，光通訊整合也將進一步從資料中心、機櫃與板端一路深入至封裝層級。

Vahdat強調，AI已不再只是單一晶片或模型的競賽，而是一套從電力、資料中心、硬體、軟體、模型到最終服務的完整「Architecture of Intelligence」。隨著AI算力需求以指數速度成長，未來競爭關鍵也將從「誰能設計出最快的晶片」，進一步擴大為誰能以最快速度完成設計、製造、封裝、測試與大規模部署，並用最低的能源成本把整套系統運轉起來。