針對AI部署趨勢與資安議題,APMIC回應產業痛點,推出建構於NVIDIA NeMo平台與NIM微服務架構上的「S1模型微調與蒸餾」解決方案,涵蓋模型訓練、知識蒸餾、測試擴充三大階段,並支援容器化部署,可彈性安裝於地端伺服器或私有雲平台,滿足企業對資料主權與彈性部署的雙重需求。根據Bedrock Security於2025年3月發布的《企業資料安全信心指數》顯示,逾七成美國資安專業人士將AI資料治理列為首要關注議題,顯示私有化部署已成全球企業AI導入的關鍵趨勢。

「S1模型微調與蒸餾」核心採用Teacher-Student架構,先以開源大語言模型結合企業資料進行訓練,後以知識蒸餾技術壓縮為輕量模型,有效保留語意與任務精準度,並大幅減少模型參數與推論所需資源。企業可選擇平台工具租用或ODM代工模式,快速生成專屬語言模型。APMIC創辦人暨執行長吳柏翰表示:「我們的願景是讓企業真正掌握AI智慧資產,不再依賴雲端巨頭。AI應該是每間企業都能負擔且可控的工具。」

在硬體基礎上,APMIC同步導入NVIDIA最新Blackwell架構B200 GPU,為目前語言模型訓練與推論速度提升數倍的先進平台,具備強化FP4精度與更高記憶體頻寬,能有效突破大模型壓縮與部署時的效能瓶頸。APMIC表示,透過B200 GPU與S1解決方案的結合,企業可在現有硬體上快速完成模型訓練與部署,降低TCO(總持有成本)同時提升運算效率與AI應用準確率。

APMIC創辦人暨執行長吳柏翰。APMIC提供
APMIC創辦人暨執行長吳柏翰。APMIC提供

APMIC將於COMPUTEX 2025期間,於台北南港展覽館2館InnoVEX區NVIDIA Inception主攤位(S0724)及Garage+快閃攤位(S0324)展出上述創新解決方案。吳柏翰將於5月22日上午11點在GTC Taipei發表專題演講,主題為《透過知識蒸餾與測試階段擴展提升LLM準確度與運算效率》,深入說明如何透過多階段策略優化語言模型效能。

此外,APMIC亦將於5月19日參加在台北萬豪酒店舉行的「HPE & NVIDIA Private Cloud Conference 前瞻論壇2025」,由AI生態系策略夥伴總監蔡宜潔分享如何協助企業建置特化模型、跟上AI微調與蒸餾的發展浪潮,進一步展現APMIC協助企業完成AI自主轉型的完整布局。