翔耀宣稱AICC將採用Nvidia H200 GPU,將是亞洲首座溫水冷卻H200 AI運算中心。不過,實際上依照AI訓練、推論等不同算力需求,以及實際上GPU產品市場供應情勢,AICC預期會混合H200、H100、GB200、B200等GPU。
未來組成亞洲AICA聯盟,除了鼓勵亞洲的區域性AI技術及應用發展,也支持AI新創,結合創業生態系統,進一步促成政府、產業加速AI轉型、培育AI人才、推動AI綠色算力發展。
鎖定企業及政府、娛樂產業及學研AI算力需求
丁俊宏表示,翔耀AICC未來將鎖定3方面的算力需求,首先是產業及政府機構的AI轉型,看準未來政府及產業在AI模型訓練、推理的大量算力需求;其次是娛樂產業方面,過去娛樂產業需要大量成本投入電腦特效,可由AI協助生成特效,或是複製人物的聲音、形象,這些都需要算力,現在影視娛樂產業對AI的算力需求浮現,未來AICC也會與相關的影視特效業者合作。
最後是與學校合作,他表示,學校有許多尚未商業化的AI模型及技術,需要算力協助其商業化發展,未來AICC會提供公有平臺,讓這些模型可打包商業化,提供API供各產業運用,協助學校研究與產業需求對接。
針對企業使用AI算力的數據安全性,丁俊宏表示,未來AICC提供兩種私有化的方案,第一種方案是企業購買算力,搭配完全隔離的專用儲存櫃,算力與儲存櫃之間使用高速網路連線,以物理的方式確保安全;第二種是企業可以向AICC購買GPU或以自己採購的GPU,放到AICC的機櫃托管,AICC等於建置環境,讓企業使用自己的GPU算力、數據,搭配高速網路進行計算,至於接下來的推理部分,由於為比較不敏感的資料,可使用AICC的算力服務。



2024-07-27
