據科技網站《tom"shardware》引用 Digitimes 報導稱，戴爾台灣總經理 Terence Liao 表示，Nvidia(NVDA-US) H100 AI GPU 的交貨等待時間 (lead time)，在過去幾個月已從之前的 3-4 個月，縮短至僅 2-3 個月 (8-12 周)。 伺服器代工廠也透露，相較於 2023 年幾乎無法買到 H100 的情況，目前供應瓶頸正在逐步緩解。

儘管交貨時間縮短，Liao 表示，對具有人工智慧功能的硬體需求仍然非常高。即使價格昂貴，人工智慧伺服器的採購正在取代企業中通用伺服器的採購。不過，Liao 認為採購時間是造成需求一直偏高的唯一原因。

2-3 個月的交貨等待時間是 Nvidia H100 GPU 的最短交貨時間。 僅在 6 個月之前，交貨等待時間高達 11 個月，這意味著 Nvidia 的大多數客戶必須等待一年才能完成 AI GPU 訂單。

自 2024 年初以來，H100 GPU 交貨等待時間一直在顯著縮短。 今年年初，等待時間就已經從最初的幾個月降至 3-4 個月。 現在又進一步縮短了一個月。 依這樣的速度，到今年底甚至更早，或許就不再需要等待。

造成這種情況，可能是由於一些擁有過剩 H100 GPU 的公司，為了降低閒置庫存的高額維護成本而進行轉售。 此外，亞馬遜雲端科技 (AWS) 也讓透過雲端租用 Nvidia H100 GPU 變得更加容易，這也有助於緩解部分 H100 需求。

目前唯一仍在承受供應限制的輝達客戶是一些大型企業，例如 OpenAI，這類公司正在研發自己的大型語言模式 (LLM)。 訓練大型語言模型需要成千上萬顆 GPU 才能快速且有效率地完成，因此這些公司仍然面臨供應瓶頸的挑戰。