Trong nhiều thập kỷ, những cải tiến về hiệu năng GPU chủ yếu được thúc đẩy bởi việc thu nhỏ bóng bán dẫn và những tiến bộ về nút quy trình. Tuy nhiên, trong các khối lượng công việc AI training, suy luận và điện toán hiệu năng cao (HPC) hiện nay, GPU đang tiến gần đến một giới hạn vật lý mới—quản lý nhiệt đang trở thành một ràng buộc chủ đạo.
Các GPU thế hệ tiếp theo, do NVIDIA dẫn đầu, đã đẩy mức tiêu thụ điện năng của một gói đơn lẻ từ hàng trăm watt lên 700 W trở lên. Ngay cả khi các quy trình bán dẫn tiếp tục phát triển, mật độ công suất vẫn tiếp tục tăng, có nghĩa là tạo ra nhiều nhiệt hơn trên một đơn vị diện tích. Ở quy mô này, khả năng trích xuất nhiệt hiệu quả khỏi tấm silicon không còn là mối quan tâm thứ yếu—nó trực tiếp giới hạn tần số xung nhịp, độ tin cậy và tuổi thọ hệ thống.
Sự thay đổi này buộc ngành phải xem xét lại một thành phần quan trọng nhưng thường bị bỏ qua: vật liệu interposer.
Interposer silicon từ lâu đã là xương sống của các công nghệ đóng gói tiên tiến như tích hợp 2.5D và CoWoS. Sự phổ biến của chúng bắt nguồn từ khả năng tương thích quang khắc tuyệt vời và cơ sở hạ tầng sản xuất đã được thiết lập tốt.
Tuy nhiên, silicon chưa bao giờ được tối ưu hóa cho môi trường nhiệt độ khắc nghiệt:
Độ dẫn nhiệt của silicon (~150 W/m·K) là đủ cho các thiết bị logic nhưng ngày càng không đủ cho các gói siêu công suất cao.
Các nút thắt cổ chai nhiệt xuất hiện tại các giao diện die–interposer và interposer–substrate, tạo ra các điểm nóng cục bộ.
Khi mật độ công suất tăng lên, interposer silicon góp phần vào việc xếp chồng điện trở nhiệt, hạn chế sự lan tỏa nhiệt hiệu quả.
Khi kiến trúc GPU mở rộng thông qua chiplet, stack HBM và tích hợp không đồng nhất, interposer không còn là một lớp định tuyến thụ động—nó trở thành một con đường nhiệt quan trọng.
Silicon carbide(SiC) về cơ bản khác với silicon. Ban đầu được phát triển cho các thiết bị điện tử công suất cao và nhiệt độ cao, các đặc tính vốn có của nó phù hợp đáng kể với các yêu cầu về nhiệt của bao bì GPU thế hệ tiếp theo:
Độ dẫn nhiệt cao (thường là 370–490 W/m·K), gấp hơn hai lần so với silicon
Khoảng trống năng lượng rộng và liên kết nguyên tử mạnh, cho phép ổn định nhiệt ở nhiệt độ cao
Sự không phù hợp về giãn nở nhiệt thấp với một số kiến trúc thiết bị nguồn nhất định, làm giảm ứng suất cơ nhiệt
Những đặc điểm này làm cho SiC không chỉ là một chất dẫn nhiệt tốt hơn, mà còn là một vật liệu quản lý nhiệt theo thiết kế.
Sự thay đổi về mặt khái niệm do interposer SiC mang lại là tinh tế nhưng sâu sắc:
interposer không còn chỉ là một kết nối điện—nó trở thành một lớp tản nhiệt chủ động.
Trong các gói GPU tiên tiến, interposer SiC có thể:
Nhanh chóng dẫn nhiệt ra khỏi các die logic công suất cao và các thành phần điều chỉnh điện áp
Giảm nhiệt độ mối nối cực đại bằng cách giảm tổng điện trở nhiệt
Cho phép phân bố nhiệt độ đồng đều hơn trên các mô-đun đa chip
Cải thiện độ tin cậy lâu dài bằng cách giảm thiểu ứng suất chu kỳ nhiệt
Đối với các thiết bị nguồn được tích hợp gần hoặc trong các gói GPU—chẳng hạn như bộ điều chỉnh điện áp trên gói—lợi thế nhiệt này đặc biệt quan trọng.
Trong khi bản thân die GPU là một nguồn nhiệt lớn, các thành phần cung cấp điện ngày càng được tích hợp gần bộ xử lý hơn để giảm tổn thất điện. Các thành phần này thường hoạt động dưới:
Mật độ dòng điện cao
Tần số chuyển mạch tăng cao
Ứng suất nhiệt liên tục
Di sản của SiC trong lĩnh vực điện tử công suất làm cho nó phù hợp một cách độc đáo ở đây. Một interposer SiC có thể đồng thời hỗ trợ cách ly điện, ổn định cơ học và trích xuất nhiệt hiệu quả, tạo ra một thiết kế cấp hệ thống cân bằng nhiệt hơn.
Theo nghĩa này, SiC không “thay thế” silicon ở mọi nơi—nó tăng cường silicon ở những nơi vật lý nhiệt trở thành yếu tố hạn chế.
Mặc dù có những ưu điểm, interposer SiC không phải là một sự thay thế thả vào:
SiC cứng hơn và giòn hơn silicon, làm tăng thêm độ phức tạp trong chế tạo
Việc hình thành, đánh bóng và kim loại hóa cần các quy trình chuyên biệt
Chi phí vẫn cao hơn so với công nghệ interposer silicon trưởng thành
Tuy nhiên, khi vỏ công suất GPU tiếp tục tăng, hiệu quả nhiệt trở nên tốn kém hơn chi phí vật liệu. Đối với các bộ tăng tốc AI cao cấp, hiệu suất trên mỗi watt và mức tăng độ tin cậy ngày càng chứng minh cho việc áp dụng các giải pháp dựa trên SiC.
Sự phát triển của GPU thế hệ tiếp theo của NVIDIA làm nổi bật một xu hướng rộng hơn trong ngành:
thiết kế nhiệt không còn là một suy nghĩ sau—nó là một ràng buộc kiến trúc chính.
Interposer SiC đại diện cho một phản ứng ở cấp độ vật liệu đối với thách thức này. Chúng không chỉ làm mát tốt hơn; chúng cho phép các chiến lược đóng gói mới phù hợp với thực tế về mật độ công suất cực cao và tích hợp không đồng nhất.
Trong những năm tới, các hệ thống GPU tiên tiến nhất có thể không chỉ được xác định bởi các nút quy trình hoặc số lượng bóng bán dẫn—mà bởi cách chúng quản lý nhiệt một cách thông minh ở mọi lớp của gói.
Trong nhiều thập kỷ, những cải tiến về hiệu năng GPU chủ yếu được thúc đẩy bởi việc thu nhỏ bóng bán dẫn và những tiến bộ về nút quy trình. Tuy nhiên, trong các khối lượng công việc AI training, suy luận và điện toán hiệu năng cao (HPC) hiện nay, GPU đang tiến gần đến một giới hạn vật lý mới—quản lý nhiệt đang trở thành một ràng buộc chủ đạo.
Các GPU thế hệ tiếp theo, do NVIDIA dẫn đầu, đã đẩy mức tiêu thụ điện năng của một gói đơn lẻ từ hàng trăm watt lên 700 W trở lên. Ngay cả khi các quy trình bán dẫn tiếp tục phát triển, mật độ công suất vẫn tiếp tục tăng, có nghĩa là tạo ra nhiều nhiệt hơn trên một đơn vị diện tích. Ở quy mô này, khả năng trích xuất nhiệt hiệu quả khỏi tấm silicon không còn là mối quan tâm thứ yếu—nó trực tiếp giới hạn tần số xung nhịp, độ tin cậy và tuổi thọ hệ thống.
Sự thay đổi này buộc ngành phải xem xét lại một thành phần quan trọng nhưng thường bị bỏ qua: vật liệu interposer.
Interposer silicon từ lâu đã là xương sống của các công nghệ đóng gói tiên tiến như tích hợp 2.5D và CoWoS. Sự phổ biến của chúng bắt nguồn từ khả năng tương thích quang khắc tuyệt vời và cơ sở hạ tầng sản xuất đã được thiết lập tốt.
Tuy nhiên, silicon chưa bao giờ được tối ưu hóa cho môi trường nhiệt độ khắc nghiệt:
Độ dẫn nhiệt của silicon (~150 W/m·K) là đủ cho các thiết bị logic nhưng ngày càng không đủ cho các gói siêu công suất cao.
Các nút thắt cổ chai nhiệt xuất hiện tại các giao diện die–interposer và interposer–substrate, tạo ra các điểm nóng cục bộ.
Khi mật độ công suất tăng lên, interposer silicon góp phần vào việc xếp chồng điện trở nhiệt, hạn chế sự lan tỏa nhiệt hiệu quả.
Khi kiến trúc GPU mở rộng thông qua chiplet, stack HBM và tích hợp không đồng nhất, interposer không còn là một lớp định tuyến thụ động—nó trở thành một con đường nhiệt quan trọng.
Silicon carbide(SiC) về cơ bản khác với silicon. Ban đầu được phát triển cho các thiết bị điện tử công suất cao và nhiệt độ cao, các đặc tính vốn có của nó phù hợp đáng kể với các yêu cầu về nhiệt của bao bì GPU thế hệ tiếp theo:
Độ dẫn nhiệt cao (thường là 370–490 W/m·K), gấp hơn hai lần so với silicon
Khoảng trống năng lượng rộng và liên kết nguyên tử mạnh, cho phép ổn định nhiệt ở nhiệt độ cao
Sự không phù hợp về giãn nở nhiệt thấp với một số kiến trúc thiết bị nguồn nhất định, làm giảm ứng suất cơ nhiệt
Những đặc điểm này làm cho SiC không chỉ là một chất dẫn nhiệt tốt hơn, mà còn là một vật liệu quản lý nhiệt theo thiết kế.
Sự thay đổi về mặt khái niệm do interposer SiC mang lại là tinh tế nhưng sâu sắc:
interposer không còn chỉ là một kết nối điện—nó trở thành một lớp tản nhiệt chủ động.
Trong các gói GPU tiên tiến, interposer SiC có thể:
Nhanh chóng dẫn nhiệt ra khỏi các die logic công suất cao và các thành phần điều chỉnh điện áp
Giảm nhiệt độ mối nối cực đại bằng cách giảm tổng điện trở nhiệt
Cho phép phân bố nhiệt độ đồng đều hơn trên các mô-đun đa chip
Cải thiện độ tin cậy lâu dài bằng cách giảm thiểu ứng suất chu kỳ nhiệt
Đối với các thiết bị nguồn được tích hợp gần hoặc trong các gói GPU—chẳng hạn như bộ điều chỉnh điện áp trên gói—lợi thế nhiệt này đặc biệt quan trọng.
Trong khi bản thân die GPU là một nguồn nhiệt lớn, các thành phần cung cấp điện ngày càng được tích hợp gần bộ xử lý hơn để giảm tổn thất điện. Các thành phần này thường hoạt động dưới:
Mật độ dòng điện cao
Tần số chuyển mạch tăng cao
Ứng suất nhiệt liên tục
Di sản của SiC trong lĩnh vực điện tử công suất làm cho nó phù hợp một cách độc đáo ở đây. Một interposer SiC có thể đồng thời hỗ trợ cách ly điện, ổn định cơ học và trích xuất nhiệt hiệu quả, tạo ra một thiết kế cấp hệ thống cân bằng nhiệt hơn.
Theo nghĩa này, SiC không “thay thế” silicon ở mọi nơi—nó tăng cường silicon ở những nơi vật lý nhiệt trở thành yếu tố hạn chế.
Mặc dù có những ưu điểm, interposer SiC không phải là một sự thay thế thả vào:
SiC cứng hơn và giòn hơn silicon, làm tăng thêm độ phức tạp trong chế tạo
Việc hình thành, đánh bóng và kim loại hóa cần các quy trình chuyên biệt
Chi phí vẫn cao hơn so với công nghệ interposer silicon trưởng thành
Tuy nhiên, khi vỏ công suất GPU tiếp tục tăng, hiệu quả nhiệt trở nên tốn kém hơn chi phí vật liệu. Đối với các bộ tăng tốc AI cao cấp, hiệu suất trên mỗi watt và mức tăng độ tin cậy ngày càng chứng minh cho việc áp dụng các giải pháp dựa trên SiC.
Sự phát triển của GPU thế hệ tiếp theo của NVIDIA làm nổi bật một xu hướng rộng hơn trong ngành:
thiết kế nhiệt không còn là một suy nghĩ sau—nó là một ràng buộc kiến trúc chính.
Interposer SiC đại diện cho một phản ứng ở cấp độ vật liệu đối với thách thức này. Chúng không chỉ làm mát tốt hơn; chúng cho phép các chiến lược đóng gói mới phù hợp với thực tế về mật độ công suất cực cao và tích hợp không đồng nhất.
Trong những năm tới, các hệ thống GPU tiên tiến nhất có thể không chỉ được xác định bởi các nút quy trình hoặc số lượng bóng bán dẫn—mà bởi cách chúng quản lý nhiệt một cách thông minh ở mọi lớp của gói.
