過去十幾年，手機晶片是半導體產業最大的驅動力，半導體晶片的設計和供應鏈，主要是圍繞著手機應用。

不過，過去幾年High Performance Computing (HPC) 相關晶片的需求悄悄爬升，然後，在ChatGPT推出後，市場對AI相關的晶片需求暴增。可以預見，接下來十年驅動半導體產業發展的，會是AI相關的晶片。

最近對於AI晶片需求的討論很多，但，可能很少人對於AI晶片的設計邏輯和之前的晶片有什麼不同進行深入討論，而這些東西也會對半導體產業的供應鏈產生非常大的影響。

因此，我們這次的Talk會從AI晶片設計的邏輯變化談起，再討論與其相關的半導體產業前沿可能的發展。

在這個Talk裡，我們會討論以下幾個和AI晶片相關的重要題目:

▌Topic 1: From AI Chips to AI Systems (從AI晶片到AI系統) 

跟過去的晶片系統不同，AI的系統和以前的晶片設計概念有底層上的不一樣。這個部分會影響到整個生態系技術的發展以及供應鏈的組織，因此，我們一開始會先講解一下現在AI系統的主要設計概念。

▌Topic 2: Custom Chip Design (客製化晶片) 

由於對算力的需求越來越強勁，各家公司都在思考如何降低成本以及增加運算效能。因此，客製化晶片變成是一種趨勢。

主要的雲端大廠都在做自己的客製化晶片，因此，這個趨勢也會是AI晶片發展一個很重要的方向。

▌Topic 3: Scale up & Scale out (AI系統的縱向擴展和水平擴展)

目前因為大型語言模型持續擴張的關係，單一晶片無法處理一整個模型，因此，AI系統會需要串連各種晶片，形成一個平台來運算。而在這樣的系統下，有很多細部的技術都在快速發展，如特殊的晶圓級製程、先進封裝、矽光子.....等等技術。

我們在這個部分會對這些技術做一個系統性的介紹。

▌Topic 4: Memory Trend (記憶體趨勢)

在大型語言模型的趨勢下，記憶體的發展變成是AI系統裡面很重要的一部分。某些型態的記憶體在這樣的背景下，也逐漸地取得了更多的發展。如High Bandwidth Memory (HBM) 就是這一波AI晶片相關記憶體發展的重點。

在這一個部分，我們會從AI系統發展的脈絡下，討論未來記憶體發展的可能趨勢。

▌Conclusion: Future Development of AI chips (AI晶片的未來發展)

最後，我們會總結我們在AI晶片相關領域看到的一些未來發展趨勢，並結合前面的內容，讓大家更理解未來AI晶片相關的前沿領域會如何發展。