■人資新聞「邊緣 AI」是什麼？DeepSeek 崛起，為何帶動商機大爆發？
【】
來源經理人
撰文李岱君https://www.managertoday.com.tw/articles/view/69953
中國科技公司DeepSeek最新的R1模型一出，無疑是對科技業投下震撼彈，標榜不到600萬美元的訓練成本，就造出媲美OpenAI性能的大型語言模型，動搖了「開發頂級AI必須仰賴高階晶片」的傳統認知。
然而，DeepSeek帶來的影響遠不止於此。當運算成本不再高不可攀，AI模型能夠在一般設備上運行，過去被視為明日之星的邊緣AI（EdgeAI），是否終於迎來規模化商轉的關鍵時刻？
『「邊緣AI」是什麼？為何過去難實現？』
所謂的邊緣AI，就是把AI的運算能力部署到終端設備上，讓AI模型能夠在本地進行資料處理和決策，而不需要依賴雲端運算。例如你自己的電腦已安裝AI模型，即使不連上網路使用ChatGPT，也能進行即時的AI對話，且所有的運算跟數據都在自己的電腦，不用上雲端，這也是AIPC（AI筆電）的概念。
這幾年，邊緣AI的討論似是雷聲大雨點小。關鍵原因在於，過去技術還沒跟上，沒辦法真正大規模應用。首先，AI模型本身就很大，運算需求高。以前的大型語言模型動輒幾十億參數，需要強大算力支撐，可手機、筆電這些邊緣設備根本吃不消。
其次，數據傳輸也是個大問題。為了繞過算力瓶頸，很多應用把數據傳到雲端處理，但這會帶來網速慢、延遲高的問題。像自動駕駛、工業控制這些講究即時反應的場景，根本不能等雲端處理完再回傳結果。
再來是隱私和安全問題。把用戶數據集中存放在雲端，難保不會有資料外洩風險。現在大家愈來愈重視數據安全，很多企業開始推崇「數據不出邊緣」，也就是在本地設備上處理數據，而不是全部傳到雲端。
最後，AI模型的訓練需要大量數據和算力，這對企業來說是個沉重負擔。尤其是中小企業，光是訓練一個高品質模型的成本就讓人卻步，讓邊緣AI一直難以真正起飛。也因為這些技術瓶頸，過去邊緣AI大多停留在概念階段，距離大規模應用還有很長的路要走。再加上長期以來大家習慣依賴雲端，導致業界推動變革的速度也比較慢。
『DeepSeek效應：重新定義AI發展路徑』
而DeepSeek的技術創新，正是邊緣AI發展困境的破局點。《華爾街日報》（TheWallStreetJournal）分析，DeepSeek採用的「混合專家模型」（mixtureofexperts，簡稱MoE）堪稱革命性突破。它不是用一個龐大的AI模型去解決所有問題，而是拆分成多個專精不同領域的小型模型來處理任務，然後再由一個「總指揮」來整合產出結果。這種設計大幅降低了運算需求，讓AI可以在一般規格的設備上跑起來，而不需要昂貴的高性能硬體。
市場研究諮詢公司《Forrester》指出，DeepSeek的模型可以在普通筆電上運作，雖然速度不如高端設備，但已可以支援許多應用。例如醫療照護，醫療設備能在地端處理影像診斷，減少數據傳輸風險，保護病患隱私。
混合專家模型同時也解決了邊緣AI長期以來的兩大痛點：
一、成本問題，企業不需要砸大錢建置運算中心，或支付高昂的雲端服務費；
二、效能限制：改良後的模型讓一般設備也能跑AI，不再受限於昂貴的硬體。
『邊緣AI起飛，誰能賺到這波紅利？』
對於硬體產業來說，邊緣AI的發展意味著傳統高性能AI晶片的需求可能減少，但這並不代表市場機會的消失，反而創造了新的成長空間。為了讓AI應用更接近使用端，企業對於小型化、低功耗的專用晶片的需求日益增加。華碩（ASUS）和惠普（HP）等大廠已推出搭載最新AI處理器的個人電腦，這種趨勢讓傳統晶片大廠如英特爾（Intel）有機會重返AI市場，以適應這股去中心化運算的浪潮。
同時，邊緣AI的崛起也帶動了軟體服務模式改變。工業電腦製造商不再侷限於硬體銷售，而是開始提供「AI效能訂閱制」服務，可以根據實際需求，選擇不同等級的AI運算能力，大幅降低導入AI的門檻。
在這場產業重組中，真正決定競爭優勢的關鍵不僅是硬體或軟體，而是兩者的整合能力。企業要在邊緣AI時代取得領先地位，必須具備將硬體設計、AI模型優化與應用開發結合的能力。例如，工業用電腦廠商研華科技，正在打造生成式AI計算平台，希望能夠讓中小企業在沒有高硬體成本的情況下進行AI大型語言模型的運算。
此外，在開發邊緣AI時，更必須確保AI模型的可靠性和準確性。因為當AI模型被部署到終端設備時，如果無法解決AI容易產生幻覺（即產生不準確虛構的答案）的問題，那麼即時運算和本地部署的優勢都將大打折扣。
資料來源：CNBC、Forrester、MorganStanley、SocialEurope、WSJ(1)(2)、WeForum、DataCenterFrontier、IBM
核稿編輯：王宥筑
