Sign in

Member Benefits

Get Demands

View Business Cards

Exclusive Service

Noble Identity

AS LOW AS 1.5U /DAY

玉山開始擁抱生成式AI,今年目標要走向業務

Share

2024-04-26

因應生成式AI浪潮,玉山AI策略跟著轉向,過往紮實的基礎建設,成了快速擁抱生成式AI的關鍵

玉山金控董事長黃男州提出AI未來發展的三個重要角色,分別是智能夥伴、溝通大師,和時光壓縮機。攝影/洪政偉

玉山能快速因應生成式AI浪潮轉變策略,除了仰賴過去奠定的技術基礎,更重要的是高層對AI的支持。

今年二月,玉山金控董事長黃男州在法說會前記者會中,提出他對生成式AI的看法。「AI可能在未來發展進程會有幾個重要角色。」黃男州點出,AI可能擔任的第一個角色是智能夥伴,能和人類共同進行創造。第二個是溝通大師,能在物聯網中協助人與物溝通。第三,是時光壓縮機,能處理許多過去需耗費大量時間學習的產業知識。最後,黃男州也表示,AI將和雲端結合,因此雲端也是重要議題。

玉山金控科技長張智星事後解釋這三個想像的實現方式。智能夥伴類似副駕駛(copilot),能協助人類完成工作。溝通大師的模式,類似透過GPT模型從物連網抓取各種感應器資料,向使用者摘要設備運作情況。時光壓縮機意謂加速學習,例如,過往學習英文須要花費大量時間查找字典,但現在透過ChatGPT就能修改文法和用字錯誤,節省大量時間,提升了學習效率。

「我們三不五時都會和他(黃男州)溝通,說明技術進步到哪個階段。」張智星表示,玉山的技術團隊時常和黃男州溝通新技術,當團隊詢問高層建議,黃男州也會提供回饋。但,張智星表示,「事前並不知道董事長會說這些。」

ChatGPT誕生後,大眾對生成式AI技術並不陌生,更容易發想應用場景,另一方面,玉山大力發展AI,高層和技術團隊長期溝通,培養絕佳的默契,所以,當玉山技術團隊開始跨足生成式AI,不需要解釋太多技術細節,高層也能自己展開技術發展的願景,描繪AI藍圖。

「董事長會自己想像應用場景。」例如,團隊曾和黃男洲提到生成式AI可以用來摘要會議記錄,「他很興奮地說,這樣可以整理每個人說的內容,列出待辦事項。」張智星回憶道。

有了高層的支持,玉山科技團隊更放心創新。「其實,很多細節董事長幫我們補全了。」張智星說。例如,技術團隊曾提出,將OCR掃描後的文件轉換成文字後,可以使用LLM模型進行修改。當時,黃男州則提議,利用公司30年來累積的文件建立知識庫,協助企金業務整合客戶資料,快速整理上下游公司之間的關係。

當時的提議,也成為玉山今年計畫發展的重點應用之一。今年,玉山計畫透過LLM模型協助企金業務整理客戶資訊,將企業客戶在網上的資料納入系統,包括公司財報、年報和新聞稿等資料,以及上下游相關企業資訊,建立徵審文件草稿,加速企金業務的徵信工作流程。

這個例子也顯示,生成式AI浪潮的關鍵,並非僅是發展技術能力,更多來自高層和業務團隊的加入,共同想像更多應用場景,提供技術團隊素材向前推進。因此,ChatGPT爆紅後,玉山接著在內部舉辦黑客松活動,邀請副總級高層,共同了解AI,發想更多應用場景。

   玉山生成式AI發展歷程   

 2017年 

 組織  成立創新實驗室,鑽研AI、區塊鏈、身分辨識、電子支付等前瞻技術

 應用  推出玉山小i隨身金融顧問,為大中華地區第一個金融Chatbot

/玉山金控

 2018年 

 戰略  定調玉山AI發展,終止多個千萬元等級專案,改將資源投注在AI上

 組織  成立科技長辦公室

攝影/王宏仁

 技術與架構  開始建置MLaaS平臺、AI研發雲

 2019年 

 組織  大數據分析團隊CRV轉型為智能金融處,負責開發AI應用

 技術與架構  MLaaS 1.0平臺上線,提供AI推論、模型訓練、資料ETL等三大類服務

/玉山金控

 應用  信用卡盜刷偵測模型、票據手寫辨識模型上線

 2020年 

 組織  成立資料治理專責小組,推動規範和分級

 技術與架構  

●新一代銀行核心系統上線,全面API化、加速資料累積和運用能力

●決定將MLaaS平臺底層部署至Kubernetes(簡稱K8s),打造MLaaS 2.0平臺

 2021年 

 組織  展開29年來最大一次組織改造、組成千人科技聯隊,形成資訊處、數金處與智金處的鐵三角組織

/玉山金控

 戰略  訂定AI三年願景,以自然語言處理(NLP)技術作為關鍵技術核心,圍繞Chatbot發展相關應用

 技術與架構  MLaaS 2.0平臺上線,擁抱K8s、容器等主流開源工具,引進多項自動化機制

/玉山金控

 應用  推出數位導流系統平臺、單一大影像模型、推薦系統Smart Channel、數存秒開服務

 2022年 

 戰略  生成式AI爆紅,玉山開始布局生成式AI發展

 2023年上半年 

 戰略  玉山決定不走自建LLM模型的策略,改為採用廠商提供的商用生成式AI服務

 技術與架構  開始打造玉山生成式AI平臺GENIE

 應用  KYC調查開始嘗試用生成式AI

 2023年下半年 

 組織  制定生成式AI執行內規

 技術與架構  

● 玉山生成式AI平臺GENIE開始測試

● 因應金融上雲鬆綁,MLaaS 2.0平臺轉為混合雲架構

 應用  對外展示用GPT模型打造的智能法律回覆生成系統

攝影/李昀璇

 2024年年初 

 技術與架構  正式啟用GENIE平臺(除音檔、影像萃取服務尚在開發),整合行內知識庫

 應用  向內部推出11項生成式AI應用服務,包括純文字和圖片生成、會議記錄生成服務、摘要總結翻譯、分類和分析,和Chatbot知識搜索服務

/玉山金控

:玉山金控,iThome整理,2024年4月

Disclaimer:
Details

Please Play Responsibly:

Casino Games Disclosure: Select casinos are licensed by the Malta Gaming Authority. 18+