▲圖／ 蔡仁譯攝影
生成式AI為大眾帶來無限想像，如何安全地使用卻成為一道難題。
由於AI必須要有大量的數據建立模型，加上硬體基礎建設成本高昂，不少企業對跟進AI頗有疑慮。
一位軟體企業主比喻：「這就很像我喜歡你，但不行碰。」
華碩雲端暨台智雲總經理吳漢章指出，生成式AI問世後，正式進入了「AI2.0」的時代。
不同於過去分辨式AI（discriminative AI），生成式AI的算力需求將不同以往。
為讓算力普及，三大公有雲業者Azure、Google Cloud和AWS都陸續推出AI模型解決方案，
讓企業透過訂閱方式，享用雲端業者的算力服務。
然而，公有雲伺服器非置於企業內部，華碩電腦營運長暨雲端董事長謝明傑表示：
「企業如果要做應用，他們會傾向將敏感資料放在地端。」
換句話說，將乘載眾多機敏資訊的伺服器放在公司內部，對企業來說最為安心。
華碩電腦營運長暨台智雲董事長謝明傑（左）以及華碩雲端暨台智雲總經理吳漢章
看準這塊商機，華碩旗下的台智雲推出一站式的解決方案「企業級生成式 AI 解決方案 AFS(AI Foundry Service)」，
企業可在零基礎狀況下，獲得置於公司內部的伺服器，並訂閱雲端模型服務，
如點菜般獲得整套生成式AI應用工具，幫助企業客戶在安全且成本可控的狀況下落地AI。
軟、硬體都能點菜！一站式服務無痛導入AI
華碩約在2017年就開始安排研發團隊學習AI和雲端技術，兩年後則承接科技部超級電腦計畫「台灣杉二號」。
建置成功後，華碩與政府以公私合夥（Public-Private-Partnership，
政府與民營企業的合作模式）方式簽訂合約，成立子公司台智雲，由華碩持續商業營運台灣杉二號，
並接手研發團隊，獲得另一批生力軍，目前集團AI人數規模約為500人。
硬體：企業自有伺服器成最大亮點
謝明傑指出，華碩在完成政府專案後，獲得許多寶貴經驗。
以硬體來說，原就擁有伺服器設計能力的華碩，藉由台灣杉二號獲得設計AI伺服器經驗。
謝明傑說：「華碩確實在協助國家網路時，於板卡製造經驗等方面獲得升級。」
▲台灣杉二號
華碩指出，藉由台灣杉二號的政府專案執行，獲得許多設計AI伺服器經驗。圖／ 華碩提供
一般雲端業者提供的服務皆在雲端上，企業無法購買自用伺服器。但華碩結合軟體和硬體，推出「伺服器＋AI模型」的解決方案（AFS），
客戶能向華碩購買專用伺服器置於公司，同時訂閱模型推論服務，一站式的解決所有導入生成式AI時會遇到的基礎建設問題。
能在雲端解決方案中同購買硬體，是華碩重要特色。
▲華碩ASUS ESC N8-E11
華碩電腦營運長暨台智雲董事長謝明傑表示，透過與台杉電腦建置的專案參與，華碩在伺服器硬體設計上獲得許多寶貴經驗。圖／ 華碩提供
軟體：最「接地氣」的預訓練模型
在軟體方面，台智雲擁有「福爾摩沙基礎模型」，內涵大量的繁體中文數據。
謝明傑表示，相比起Chat GPT或者LLaMA，台智雲的福爾摩沙模型更加在地化，
「每個國家都會碰到，當你要用語言模型時，發現美系大模型裡面沒有台灣的六法全書，台灣人要用的還是要自己訓練。」
台智雲會針對客戶需求，於雲端進行模型預訓練（training）並優化，再協助導入地端進行推論（inferencing）。
吳漢章認為，雖然不少科技巨頭已投入訓練，但真正要落地執行時，推論會是未來相當大一塊市場。
吳漢章比喻，於雲端預訓練模型，如同將已經擁有基礎教育知識的高中生送入大學修習，
擁有法律、醫療或會計等各領域的專業知識。
預訓練模型還必須結合客戶的自有數據，導入地端後才能在推論獲得準確結果。
目前，台智雲針對不同領域推出已完成的預訓練模型，
目前約15個解決方案，包含營造、食品、傳產、公部門、電商和體等等。
▲HGX H100 8GPU
全新一代HGX H100 8-GPU人工智慧伺服器—ASUS ESC N8-E11，雙層GPU、CPU機箱設計，得以實現絕佳散熱、擴充性與強大性能。圖／ 華碩提供
台智雲也會協助企業把訓練好的模型縮小，依照企業需求提供最低1顆、
最高需要16顆GPU的運算方案，讓企業將算力帶回家，
不須要自建龐大的機房，只擁有一台伺服器也能享有生成式AI服務。
已攜手70客戶，需求還沒停！華碩喊伺服器五年成長五倍
隨著生成式AI熱度上升，吳漢章透露，當前台智雲客戶已來到70間，
同時也展開協助東南亞地區的客戶導入生成式AI。這樣的熱潮帶動硬體，
謝明傑表示，華碩有很大的機率能達成五年伺服器成長五倍的目標，對此相當有信心。
此外，華碩今年也躋身成為輝達OVX平台的伺服器供應商。
OVX系統是專門為大規模數位孿生 (digital twins) 所設計的運算系統，
可用於模擬複雜較高的數位孿生，例如打造整棟建築物、工廠和城市，甚至是整個世界的模型。
吳漢章表示，未來OVX不只會用在大型企業的數位孿生應用，「今年我們也拿到兩、三個案子，做智慧城市和醫療照護等。」
▲NVIDIA OVX L40S GPU
華碩成為OVX供應商一之，華碩電腦營運長暨台智雲董事長謝明傑表示，預計L40S相關服務今年稍晚將會問世。圖／ 輝達提供
輝達為OVX系統所打造的新一代伺服器，搭載 L40S GPU並採用Ada Lovelace架構。
謝明傑指出，基於L40S所打造的相關服務，今年稍晚也會在台智雲問世。