台南市政府日前宣布正式啟動「AI服務引擎」,並接受國際晶片廠商超微半導體(AMD)捐贈之人工智慧(AI)運算設備。該合作結合工業技術研究院與大南方新矽谷推動計畫,建立在地地端算力環境,預計將智慧治理經驗轉化為在地產業升級的算力後盾。
建構自主地端算力 智慧客服跨局處模組化
台南市政府自今年起積極建置自主可控的地端運算環境,率先將「AI 1999智慧客服」作為第一個驗證場域。該系統導入語音轉文字、知識檢索與大語言模型(LLM)等技術,可協助話務人員快速辨識民眾需求,並能精確識別台語在地地名,整理案件摘要並提供回覆建議,最終經由人工確認後送出,確保資訊正確性。
為確保系統穩定度,市府與工研院及AMD建立雙軌備援架構。過去疫情高峰期,市民服務專線曾單日湧入上萬通電話,市府透過通訊軟體雲端平台提供防疫資訊以分散壓力;此外亦運用無人機進行地籍測繪與環境巡查,累積節省約1萬小時的人工工時。市府表示,未來各行政局處可直接調用已開發的語音識別與知識庫等共通模組,避免各單位重複開發,大幅提升行政效能。
開放平台降門檻 算力資源下沉在地產業
除了市府內部行政效能提升外,此次合作亦透過「AMD–ITRI高速運算開放平台」計畫,將高效能算力資源延伸至南部產學研團隊。以沙崙為核心樞紐,結合AMD設立的研發據點,該平台提供在地企業與新創團隊所需的算力環境與技術支援。
透過捐贈設備與開放平台機制,在地團隊能以較低門檻進行模型開發、效能驗證與現場測試,加速科技應用落地。大南方推動計畫旨在串聯科技產業與研發資源,協助南部製造業與半導體聚落進行智慧轉型。
產業意義
此次公部門與國際晶片大廠的合作,對台灣製造業與智慧自動化生態系具備多重示範價值:
- 數據安全與自主控制:工業現場與市政環境同樣高度注重資訊安全。採用在地化地端部署,能確保工廠運轉資料與企業核心機密不需經由公有雲傳輸,符合高科技製造業對資料治理的嚴格要求。
- 降低中小型企業AI轉型門檻:過往中小型製造業者常因缺乏高階算力硬體與軟體開發環境而對智慧化望而卻步。產官研合作建置的開放運算平台,提供在地企業算力測試資源,有助於降低初期研發驗證成本。
- 南部半導體與自動化聚落加乘效益:南台灣已逐步形成半導體與精密機械重鎮,算力設備與研發據點的進駐,能為在地自動化設備商、智慧工廠系統整合業者提供技術支援,強化軟硬整合競爭力。
技術解析
文中提及的運算架構與 AI 技術,在智慧工廠與自動化生產線中已有廣泛應用,以下說明其運作原理:
- 邊緣運算(Edge Computing):將運算能力直接部署在接近資料來源的終端設備上(如廠房內的邊緣運算主機或工業電腦),而非全部傳送至遠端資料中心。在工廠現場,邊緣運算能實現毫秒級的即時回應,應用於瑕疵檢測、機台異常預警等情境,同時減少網路頻寬消耗。
- 語音轉文字(STT)與大語言模型(LLM):STT 將現場工作人員的語音指令轉為數位文字,LLM 則負責理解語意並從內部知識庫搜尋對應解答。在自動化工廠中,這類技術可轉化為語音輔助操作系統,協助工程師透過口語查詢設備維修手冊或調閱生產資料,提升維護效率。
- 無人機(Drone)與空間巡檢:結合自動導航與影像辨識的無人機,在市政上用於地籍測繪與調查,在製造業則應用於大型廠區安全巡檢、高空管道檢驗或倉儲盤點,能替代高風險的人工作業並大幅節省檢測時間。
常見問題
AMD捐贈的AI算力設備主要應用在哪些領域?
設備主要用於台南市「AI服務引擎」的跨局處市政應用(如AI 1999智慧客服),並透過開放平台提供給在地企業與新創團隊進行AI模型開發與驗證。
什麼是地端算力部署?對工廠管理有什麼好處?
地端部署是指將AI運算伺服器安裝在本地機房或廠區內,優點是不必將敏感的生產資料上傳至外網雲端,能確保資安與降低網路延遲。
AI 1999系統如何協助話務與市政處理?
系統提供語音轉文字、辨識台語地名、檢索市政知識庫與自動整理案件摘要等功能,提供回覆建議供第一線人員確認後使用,縮短應答時間。
