由人工智慧驱动的设计应用
要創造一個真正智慧的世界,所需的系統規模與複雜程度是難以想像。諸如ChatGPT 這樣的應用程式已成為我們生活中不可或缺的工具,需要大量的數據才能運作。截至2023年6月為止,它訓練了3000億字的數據集、每天6000萬的訪問量和超過1000萬的查詢次數,這都還只是個開始。隨著人工智慧(AI)和高效能运算(贬笔颁)等技術越趨複雜,它們所需的頻寬和計算能力需求也將持續擴大。
正當摩爾定律趨緩之"際,多晶粒(multi-die)系統架構為生成式 AI 、無人車和超大型資料中心等領域的創新,提供持續加速發展的能力。雖然我們已經看到這個趨勢,且在 2024 年將持續發展,但接受程度卻各有微妙之"處,多晶粒系統的设计目前處於2D 到 3D (在某些情況甚至到 3.5D)之"間,取決於效能、功耗和面積(PPA)的需求,更具體地來說,就是效能、功耗、外形因素和成本。
多晶粒系統设计能實現充滿智慧的未來,但要讓智慧未來真正落實仍需要多方支援。以下是針對2024年多晶粒系統设计的4個主要預測。
數據資料密集型的應用程式是多晶粒系統封裝(例如 2.5 和 3DIC 设计)的主要驅動力,這並不令人感到意外。鑑於這類型應用本就具有的龐大數據資料量和複雜性,可以預期資料中心在可預見的未來將會是最感興趣的「使用者」。其他領域,像是行動通訊設備,正處於利用多晶粒系統设计的前沿,將根據需求嚴格篩選不同的堆疊層和製程節點;這可能意味著行動通訊應用的晶片设计工程師,將選擇有機基板(organic substrates)這類的封裝方式。
像汽車這樣的產業,通常會向多方供應商採購零組件,可能會基於小晶片(chiplet-based)模組方式,繼續使用 2.5D 封裝。這種方法可確保電子控制單元(ECU)元件易於取得且可以輕易地在像是中介層(interposer)這樣的基板上進行組裝。汽車中使用的晶片,混合搭配已是不爭的事實,而這樣的實務操作可能會在更高程度的標準化中獲益。
垂直整合的複雜度,是採用多晶粒系統的一個主要障礙,勢必也是工程師在 2024 年將持續面臨的挑戰。一般而言,高效能运算(贬笔颁)資料中心有足夠的资源可以管理堆疊,反觀其他行業則無此能力。汽車行業因不做垂直整合,反而依賴生態系統,讓晶片能平穩運作的必要條件也隨之"增加,導致多晶粒设计更具挑戰。
談到 3D 堆疊,主要的挑戰包括熱分析、電力分配規劃、冷卻系統和製程的必要條件。儘管 3D 堆疊相當複雜,但已是未來趨勢,而生態系統也必需不斷發展來達成這個目標。隨著堆疊的普及,已經是 2.5D 堆疊首選界面的UCIe,也將進一步發展。複雜性可以透過兩個關鍵因素進一步簡化:共通語言和清晰的規則。2.5D或3D设计元件通用的術語,能使過程更加統一,並且方便構建一個系統供多個合作伙伴共同使用。
规则与描述规则的标準方法,是能让多晶粒系统创新成功的关键要素。就像高速公路上的车辆必须遵守标誌一样,无论透过哪一种形式,规则将继续针对硅晶应用进行规范;像是标準化测试和参考流程这样的特性,将使所有面向的堆叠过程(包括製程)变得更加简单。
2.5D是現今的主流技術,而多晶粒系統的设计從頭到尾都是一個手動程序。其成功與否取決於工程師本身的知識、技能和經驗是否符合他們試圖實現的規格。這表示在進行设计整合之"前要先手工處理5、6個,甚至 20 個單獨的零件。從這個意義上來說,具備完整架構的自動化與優化的真正3D设计,還沒真正實現。
朝向自動化 3D 實作技術急需的相關舉措,不僅會加快3D晶片發展進程,也會使其更加穩固可靠,以確保與效能相關的要素不會被忽略。儘管這不會在一夕之"間發生,但這個轉變(已經開始並將在 2024 年持續進行)最終將涵蓋從架構设计、實作到分析和验证等各個面向。
AI 可以加速设计空間優化,若沒有 AI,實驗的範圍也將受到限制。在整個過程中,晶粒的數量越多,也會增加流程的規劃與實現最佳配置的難度。
隨著多晶粒系統设计的進步,有些限制可能會持續存在。首先,我們預期高頻寬记忆体(HBM)在 2024 年仍將保持外置,且依據頻寬和熱能的要求,我們可能會看到它朝向晶片靠攏,但其在晶片外的定位不大可能改變。
就堆叠技术而言,高度并不是真正的限制;在当前的技术环境下,除少数例外,一般通常叁到四层是上限,主要是因為不仅受限於电源供应,也受到製程技术和可靠性的限制。如同建造摩天大楼一样,极端的高度会增加一连串结构问题。高堆叠需要更多的製程步骤,也会承担更多风险,要有信心地解决这些问题需要一点时间。当然,业界正在努力实现这一点,而要实现这个目标,需要广泛採用全面的自动化技术。
2024 年我們將更加趨近於廣泛採用多晶粒系統,這將在晶片设计和終端應用上激發許多創新。然而,仍然有一些挑戰需要半導體生態系統中所有產業共同合作,克服隨著多晶粒系統设计而來的巨大複雜性,並邁向我們所知可望實現的更智慧化的世界與未來。