Azure AI Foundry SDK則是一個用來簡化AI程式開發的完整工具鏈,它整合了多種模型、及AI服務,可支援從模型選擇到應用部署的全部開發過程。例如它支援使用者選擇微軟或其它第三方模型;內建聊天機器人、生成式AI應用及內容推薦系統等範本;具備可整合模型、資料或服務的工具;並支援跨開發、測試及生產環境的應用開發。
Azure AI Foundry SDK目前支援Python與C#程式語言,並準備支援JavaScript,現在已可存取OpenAI的各種模型,提供一致的推論介面,亦可使用Azure AI Search及Azure AI Agent Service等服務。
近年來微軟積極投入客製化晶片的開發,去年11月首次發表了專為AI而設計的Azure Maia AI,以及雲端運算處理器Azure Cobalt CPU,至於Azure Boost DPU則是微軟首款自製的資料處理單元。

微軟解釋,傳統CPU雖然能夠處理通用運算任務,但在麵對數百萬網路連結的高度複雜資料流時,表現卻不盡理想,而GPU儘管專注於AI運算,卻不適用於資料密集的工作負載,因而設計專為資料處理進行優化的Azure Boost DPU,它整合了多個伺服器元件,提供高效能與低功耗的解決方案。相較於傳統CPU, Azure Boost DPU處理雲端儲存任務時,只使用1/3的電力,卻可達到4倍的效能。
Azure Integrated HSM(Hardware Security Module,硬體安全模組)則是專為保護雲端資料及應用所設計的安全晶片。微軟說明,傳統雲端HSM通常仰賴網路連結,可能造成存取金鑰時的延遲問題,也降低了自遠端HSM釋出金鑰的安全性,而Azure Integrated HSM則是採用本地化設計,將HSM直接整合至伺服器環境,徹底解決上述的限制。
微軟亦計畫自明年便要把Azure Integrated HSM安裝在Azure資料中心的每一臺新伺服器上,以同時強化對一般及機密任務的保護。/微軟



2024-11-20
