Sign in

Member Benefits

Get Demands

View Business Cards

Exclusive Service

Noble Identity

AS LOW AS 1.5U /DAY

臺灣IBM揭露在臺GAI發展策略,要將輕量級GAI模型Granite帶進企業

Share

支付動態

2024-11-20

Granite 3.0是輕量級的基礎模型,最大到8B參數量,採可商用的Apache 2.0開源授權,可部署在企業內部環境,也能在硬體資源較低的環境中執行,要瞄準企業落地部署需求

臺灣IBM的客戶工程團隊從2023年至今,完成了數百個GAI客戶PoC案例,已有高科技製造和金融的GAI應用實例,例如有金融業者用GAI來搜尋內部知識文件,或是用來整理語音會議的文字記錄。也有高科技業者用RAG作法來檢核ESG報告的內容,是否符合不同ESG標準的各項要求。

莊士逸表示,臺灣IBM的GAI發展策略,主要分為兩大作法,一是針對有意採用GAI但需求還不明確的企業,IBM將扮演顧問來協助,找來有大型企業客戶經驗的資料科學家,協助這些企業評估和試驗LLM模型的應用。另一項作法則瞄準需求明確的企業,提供設計思考工作坊,也以4~8周時間打造出目標應用場景的PoC驗證,或是最小可行產品(MVP),供企業評估是否正式導入。

他觀察,過去一年,臺灣企業大多處於試驗、尋找使用情境或是驗證RAG作法,接下來會開始往IT自動化、程式碼模型開發、智慧助理等方向發展。不過,目前採落地部署的案例多以LLaMA模型為主,臺灣IBM未來也計畫引薦自家Granite模型給臺灣企業。

Disclaimer:
Details
HUIDU.io

GROWTH DRIVEN GLOBAL PTE. LTD. 202618650K

101 THOMSON ROAD, #28-03A, UNITED SQUARE, SINGAPORE 307591

Copyright 2026 HuiDu