翔耀宣称AICC将采用Nvidia H200 GPU,将是亚洲首座温水冷却H200 AI运算中心。不过,实际上依照AI训练、推论等不同算力需求,以及实际上GPU产品市场供应情势,AICC预期会混合H200、H100、GB200、B200等GPU。
未来组成亚洲AICA联盟,除了鼓励亚洲的局部AI技术及应用发展,也支持AI新创,结合创业生态系统,进一步促成政府、产业加速AI转型、培育AI人才、推动AI绿色算力发展。
锁定企业及政府、娱乐产业及学研AI算力需求
丁俊宏表示,翔耀AICC未来将锁定3方面的算力需求,首先是产业及政府机构的AI转型,看准未来政府及产业在AI模型训练、推理的大量算力需求;其次是娱乐产业方面,过去娱乐产业需要大量成本投入电脑特效,可由AI协助生成特效,或是拷贝人物的声音、形象,这些都需要算力,现在影视娱乐产业对AI的算力需求浮现,未来AICC也会与相关的影视特效业者合作。
最后是与学校合作,他表示,学校有许多尚未商业化的AI模型及技术,需要算力协助其商业化发展,未来AICC会提供公有平台,让这些模型可打包商业化,提供API供各产业运用,协助学校研究与产业需求对接。
针对企业使用AI算力的数据安全性,丁俊宏表示,未来AICC提供两种私有化的方案,第一种方案是企业购买算力,搭配完全隔离的专用存储柜,算力与存储柜之间使用高速网络连接,以物理的方式确保安全;第二种是企业可以向AICC购买GPU或以自己采购的GPU,放到AICC的机柜托管,AICC等于建置环境,让企业使用自己的GPU算力、数据,搭配高速网络进行计算,至于接下来的推理部分,由于为比较不敏感的数据,可使用AICC的算力服务。



2024-07-27
