Sign in

Member Benefits

Get Demands

View Business Cards

Exclusive Service

Noble Identity

AS LOW AS 1.5U /DAY

IBM在watsonx.ai平臺推出輕巧商用AI基礎模型Granite

Share

2023-09-11

IBM釋出具有130億參數的Granite模型,具廣泛的商業知識能夠良好處理語言和程式碼,而且僅需要單一V100-32GB GPU,不需要大量硬體資源就可運作

IBM準備在其人工智慧開發平臺watsonx.ai,上架稱為Granite的商用基礎模型,這些基礎模型主要用於處理語言以及程式碼。Granite基礎模型由IBM研究院開發,擁有130億個參數,官方提到,Granite模型剛好能使用單一V100-32GB GPU執行。

IBM使用多種資料集來訓練Granite系列模型,總量為7 TB的原始資料,經過預處理後仍有2.4 TB,這些資料擁有1兆個Token,IBM根據商業使用需求,挑選涵蓋網路、學術、程式碼、法律和財務領域的資料集訓練模型,因此Granite系列模型能夠熟悉這些領域的語言和術語,並根據相關產業知識提供決策。

Granite模型可以被廣泛地應用在各種產業,除了商業領域上的摘要、問答和分類之外,Granite模型也支援諸如內容生成、分析、增強檢索生成(Retrieval Augmented Generation,RAG)與專有名詞辨識(Named Entity Recognition,NER)等功能。

官方強調,模型訓練使用的資料集經過治理、風險和法遵審查流程,因此用戶可以將Granite模型用於自家的應用程式。而且Granite模型訓練資訊集經過IBM HAP偵測器處理,該偵測器能夠偵測並移除仇恨等內容,減少Granite模型生成不適當輸出的可能性。

Disclaimer:
Details
HUIDU.io

GROWTH DRIVEN GLOBAL PTE. LTD. 202618650K

101 THOMSON ROAD, #28-03A, UNITED SQUARE, SINGAPORE 307591

Copyright 2026 HuiDu