Vertex AI是Google建置的機器學習開發部署平臺，他們在8月底的雲端大會上宣布正式推出Vertex AI Search和Conversation套件，使用者不需寫程式，用自家資料和簡單設定就能打造Google級生成式搜尋和對話工具。（／Google）

微調基礎模型、確保模型回答有憑據也有解

再來，Vertex AI也提供新的微調工具，來優化基礎模型、產出更符合使用情境的答案。基礎模型微調有4種方法，一是不需ML專業技能的提示設計，由使用者直接調整問法，不需程式開發。接著是調適器微調、RLHF和全微調，這些方法按難度遞增。

就調適器微調來說，Vertex AI正式新添文字與圖像的調適器（Adapter），對話與程式碼專用的調適器則是預覽版。RLHF也是平臺新增的微調功能，可透過人類回饋來優化模型，但目前屬於預覽版。至於更複雜的全微調，需要專家調整模型權重，適合資料量龐大、有開發人力的企業使用者，這次Vertex AI允許使用者對開源模型（如T5、BERT等）全微調。

為確保模型講話有憑有據，Vertex AI這次也新添2大預覽版功能，包括用來規範模型回答的Grounding，以及可串接外部資料庫或服務的Extensions。其中，Grounding可在模型產出初步回答後，根據使用者提供的企業資料，進一步整合模型答案，最終給出符合企業規範或文化的回答。Extensions則讓生成式App以API串接資料庫或服務，來即時整合現實世界數據和反應。

模型維運和隱私工具逐步到位

生成式App如何長期穩定發揮效用，還有賴於模型維運（MLOps）。Vertex AI這次正式發布2大模型評估工具自動指標（Automatic Metrics）和自動挑選器（Automatic SxS），前者可讓使用者選擇指標，來衡量模型表現是否達標，後者則是快速選出表現最好的模型，來讓開發者進行人工評測。

一如其他公雲巨頭，Google在這次大會也特別強調，使用者在Vertex AI平臺上產生的資料，都不會被Google收集和用來訓練模型。而且，平臺還提供更完善的隱私保障功能，如資料透明、VPC安全控制等，並提供一系列負責任AI工具，如內容監控API、重複引用檢測、偏見評估工具和安全過濾器等，來確保生成內容。這次更新，凸顯了Google對生成式AI開發的產品布局。

 相關報導