臺灣IBM的客戶工程團隊從2023年至今,完成了數百個GAI客戶PoC案例,已有高科技製造和金融的GAI應用實例,例如有金融業者用GAI來搜尋內部知識文件,或是用來整理語音會議的文字記錄。也有高科技業者用RAG作法來檢核ESG報告的內容,是否符合不同ESG標準的各項要求。
莊士逸表示,臺灣IBM的GAI發展策略,主要分為兩大作法,一是針對有意採用GAI但需求還不明確的企業,IBM將扮演顧問來協助,找來有大型企業客戶經驗的資料科學家,協助這些企業評估和試驗LLM模型的應用。另一項作法則瞄準需求明確的企業,提供設計思考工作坊,也以4~8周時間打造出目標應用場景的PoC驗證,或是最小可行產品(MVP),供企業評估是否正式導入。
他觀察,過去一年,臺灣企業大多處於試驗、尋找使用情境或是驗證RAG作法,接下來會開始往IT自動化、程式碼模型開發、智慧助理等方向發展。不過,目前採落地部署的案例多以LLaMA模型為主,臺灣IBM未來也計畫引薦自家Granite模型給臺灣企業。



2024-11-20
