上週三下午,我在桃園一家做精密沖壓的老闆辦公室,看他攤開一張報價單。三台 NVIDIA H100、一套本地推論框架、加上機房冷氣改裝,總價 380 萬。老闆抽了一口菸,問我:「Timmy老師,你覺得我該點頭嗎?」
我沒直接回答。我把他上個月的營收報表拉出來看——年營收 1.2 億、淨利率 7%。380 萬等於他一整年淨利的 4.5%,一次砸下去。
這是我最近被問最多的問題:地端部署 AI 對小公司會不會太貴?答案是——對多數中小企業主來說,「貴不貴」根本不是正確的問題。
先搞清楚你為什麼非地端不可
我陪跑過大概 30 多家中小企業做 AI 導入,會堅持地端部署的,通常只有三種情況:一是客戶合約明文禁止資料出境(常見於醫療、金融、國防供應鏈);二是產線機敏參數,外洩就等於把 know-how 送給對手;三是老闆單純不信任雲端,這種我不會勸,因為那是信念問題不是技術問題。
除掉這三種,其他人只要用 Claude Code 或 OpenAI 的 API,月費控制在幾千到兩三萬之間,就能解決 80% 的需求。真的不用買 H100。
那位沖壓老闆屬於哪一種?他說他是第一種——最大客戶要求「所有 CAD 圖檔分析必須在廠內完成」。好,那這就有討論空間了。
地端不等於自建機房
很多人以為地端 AI = 買 GPU + 自己架機房 + 雇 MIS。這是十年前的思維。
現在有更務實的路徑。我通常會建議客戶先跑一個「最小可行地端」:一台 RTX 4090(約 6 萬)、一台工作站主機(約 8 萬)、跑 Qwen 2.5 7B 或 Llama 3.1 8B 的量化版。總投入 15 萬以內,能做 80% 的文件摘要、客服草稿、內部查詢。
沖壓老闆聽到這裡臉色才緩下來。
我跟他算另一筆帳:先花 15 萬驗證這套東西在你廠裡到底有沒有用——如果三個月後員工真的天天在用、省下的時間換算下來一個月超過 5 萬,那時候再考慮升級到 H100 都不遲。如果三個月後機器在角落積灰,那 380 萬你就永遠不會砸下去。
易經裡有個卦叫「屯」——萬物初生、滿地荊棘的時候,不是「勿用」而是「利建侯」。意思是你得先立起一個據點,別想一口氣打通關。我把這句話寫在白板上給他看。地端 AI 對中小企業也是一樣——先立一個小的據點,驗證有效再擴張,不要一次 ALL IN。
真正貴的不是硬體
老實說,這行做久了我發現,硬體真的不是最大的坑。
最大的坑是「沒人會用」。
我看過一家做模具的公司,2023 年花了 200 萬買了地端 AI 方案,兩年後我去訪廠,那台機器被拿來當會議室投影電腦的檔案伺服器。老闆尷尬地說:「當時想說先買起來放,結果沒人知道怎麼接上自己的工作流程。」
相比之下,我另一個客戶是做食品代工的,只花 18 萬(一台 4090 工作站 + 我陪跑三個月),三個月後他們的品管部門已經會自己用 Claude Code 寫 Python 腳本,把每天 200 張 SGS 報告自動比對關鍵值、異常標紅。一個人省下每天 2 小時。
差別在哪裡?不在硬體規格。在「有沒有一個人真的去用,並且把它跟日常綁在一起」。
我現在的實務建議
如果你是年營收 5000 萬以下的中小企業主,問我地端 AI 該不該碰——我會先反問你三件事:
第一,你最花時間的重複性工作是什麼?(不是你以為的,是員工實際在抱怨的)
第二,那件事需要處理的資料有沒有敏感性?真的不能上雲嗎?
第三,公司內部有沒有至少一個人願意花三個月學?沒有這個人,買什麼都是擺飾。
這三題答完,你大概就知道該不該花這筆錢了。
企業 AI 導入從來不是技術選擇題,是人與時機的題目。380 萬貴不貴、15 萬划不划算,都要看你這一刻是不是那個「利建侯」的時機。
那位沖壓老闆最後決定先買 15 萬的版本跑看看。上個月我收到他訊息說,廠長已經在用 AI 整理客戶退件報告了,一週省 8 小時。
380 萬那筆他還沒花。也許永遠不會花。也許會。
但至少,他踏出去的那一步,不是被業務報價單推著走。