資工特色課程：邊緣人工智慧（Edge AI）
打造 AI 模型高效化的下一代人才

文 / 杜懿洵
自 112 下學期年以來，「邊緣人工智慧（Edge AI）」課程已開設兩年，課名中的「邊緣」乍聽幽默，卻意涵深遠；無論是解釋成「邊緣人」工作的智慧、「邊緣人工」智慧，或「邊緣的」人工智慧，都指向同一核心理念：AI 正快速從雲端走向終端，追求更高效率、更低能耗與更即時的在地運算。

「邊緣人工智慧」課程由長期專注於模型壓縮、系統優化與 AI 加速技術的吳凱強教授規劃。從早期的卷積神經網路（CNNs）到最新的 Transformers與Mamba架構，吳教授在研究中逐步體悟：AI模型強不稀奇，真正的挑戰在於如何讓模型跑得好、跑得快、又省資源。正是這樣的觀察，促使他將實驗室多年研究的成果轉化為課程內容，讓不想再反覆調參建模的資工系學生，也能在AI的「高效化」領域找到另一條研究之路。

邊緣人工智慧的重要性
隨著 AI 的去中心化發展，邊緣人工智慧逐漸成為新趨勢。邊緣AI因由終端裝置獨立運作，不依賴雲端伺服器，也不需上傳敏感資料，具有高隱私性、低網路需求以及降低對資料中心依賴的優勢。然而，終端裝置通常運算能力有限、記憶體不足，甚至可能僅依靠電池供電，因此，軟體必須小巧精準，硬體要快速省電，而這也是「邊緣人工智慧」課程設計的核心理念。

吳教授實驗室一方面投入客製化AI加速器的研究，另一方面深入探索各類模型壓縮與優化技術，包括剪枝（pruning）、量化（quantization）、資料切塊（tiling）、推測解碼（speculative decoding）等，透過軟硬體並進的研究策略，團隊成功讓原本龐大的模型能在「小型」加速器上依然保持高效運行，多項研究成果在2025年被頂尖會議如ICLR、ICML、EMNLP、NeurIPS收錄，展現AI高效化與跨層次整合的能量。

課程內容與特色：深度實作×前沿研究：打造最強 Edge AI 課程
邊緣AI課程的內容涵蓋多元技術，包括模型壓縮（剪枝、半結構稀疏）、量化（Post-training / Quantization-aware）、TinyML、AI加速器（通用與專用 ASIC）、神經網路架構搜尋（NAS）、知識蒸餾、LoRA/DoRA微調、新式LLM架構探索，以及分散式訓練等；課程強調「高效率」，不僅教授理論，更著重實作操作，使學生能理解如何讓模型跑得好、跑得快又省資源，並激發進一步研究的興趣。

此外，課程還特別邀請業界與學界專家客座授課，包括：Skymizer謝政道博士分享TinyML；陽明交通大學黃俊達教授講解AI加速器；美國德州大學江泓樂博士介紹Mamba的量化研究（Quamba）；以及vLLM開發者之一俞浩博士講授推測解碼（speculative decoding）相關技術。這些實務經驗與最新研究成果，讓學生能夠直接接觸前沿技術，拓展視野。

修課學生熱烈回響：兩年內修課人數倍增
根據學生回饋，「邊緣人工智慧」課程不僅內容充實、實作挑戰性高，操作過程更富有成就感，除了深化對AI模型運作與微調原理的理解，一位醫學系的修課學生表示，課程也能讓非資工背景的學生接觸到業界與學界最新的Edge AI技術和發展。此外，也有學生表示，課程理論與實作並重的設計，使他們在動手操作中能真正掌握前沿技術，對於未來投入研究與進入產業應用，都具備高度實用性與啟發性。

短短兩年間，「邊緣人工智慧」課程修課人數從首屆的70–80人，增至第二屆近160人，迅速成為系上最受關注的特色課程之一，充分展現學生對Edge AI與模型高效化技術的濃厚興趣與熱情。課程不僅培養了AI高效化的實務能力，更為學生打開了未來研究與職涯的多元可能性。