Sign in

Member Benefits

Get Demands

View Business Cards

Exclusive Service

Noble Identity

AS LOW AS 1.5U /DAY

微軟發表整合AI解決方案的Azure AI Foundry與兩款客製化晶片

Share

支付動態

2024-11-20

Azure AI Foundry是個統一的微軟AI平臺,它的兩大元件是原名為Azure AI Studio的Azure AI Foundry入口,以及Azure AI Foundry SDK,目的是協助開發人員於企業級平臺上建置生成式AI應用

Azure AI Foundry SDK則是一個用來簡化AI程式開發的完整工具鏈,它整合了多種模型、及AI服務,可支援從模型選擇到應用部署的全部開發過程。例如它支援使用者選擇微軟或其它第三方模型;內建聊天機器人、生成式AI應用及內容推薦系統等範本;具備可整合模型、資料或服務的工具;並支援跨開發、測試及生產環境的應用開發。

Azure AI Foundry SDK目前支援Python與C#程式語言,並準備支援JavaScript,現在已可存取OpenAI的各種模型,提供一致的推論介面,亦可使用Azure AI Search及Azure AI Agent Service等服務。

近年來微軟積極投入客製化晶片的開發,去年11月首次發表了專為AI而設計的Azure Maia AI,以及雲端運算處理器Azure Cobalt CPU,至於Azure Boost DPU則是微軟首款自製的資料處理單元。

微軟解釋,傳統CPU雖然能夠處理通用運算任務,但在面對數百萬網路連結的高度複雜資料流時,表現卻不盡理想,而GPU儘管專注於AI運算,卻不適用於資料密集的工作負載,因而設計專為資料處理進行優化的Azure Boost DPU,它整合了多個伺服器元件,提供高效能與低功耗的解決方案。相較於傳統CPU, Azure Boost DPU處理雲端儲存任務時,只使用1/3的電力,卻可達到4倍的效能。

Azure Integrated HSM(Hardware Security Module,硬體安全模組)則是專為保護雲端資料及應用所設計的安全晶片。微軟說明,傳統雲端HSM通常仰賴網路連結,可能造成存取金鑰時的延遲問題,也降低了自遠端HSM釋出金鑰的安全性,而Azure Integrated HSM則是採用本地化設計,將HSM直接整合至伺服器環境,徹底解決上述的限制。

微軟亦計畫自明年便要把Azure Integrated HSM安裝在Azure資料中心的每一臺新伺服器上,以同時強化對一般及機密任務的保護。/微軟

Disclaimer:
Details
HUIDU.io

GROWTH DRIVEN GLOBAL PTE. LTD. 202618650K

101 THOMSON ROAD, #28-03A, UNITED SQUARE, SINGAPORE 307591

Copyright 2026 HuiDu