臺北捷運表示,接到通報後,已要求廠商立即斷開串接Azure Open AI功能,回歸到提供旅客常見問答題庫,以回應旅客詢問,目前旅客詢問捷運相關資訊,像是首末班車諮詢、遺失物協尋服務等等皆正常服務。
由於事件發生後,吸引大批網友測試,導致該服務使用的Token量爆增,可能導致使用生成式AI費用激增,對此,臺北捷運強調,接到通報後已立即要求廠商斷開串接Azure Open AI,因發現異常即立即處置,並無明顯費用產生。
臺北捷運初步研判原因為,網友以程式語言測試捷運AI智慧客服,超出原先設定的資料庫範圍,系統透過Azure OpenAI回應,因此臺北捷運立即要求廠商斷開串接功能,回到北捷已建置的旅客常見問題應答。
由於沒有對民眾提出的問題請求設限,擋掉和臺北捷運旅客服務以外的無關問題,如果長時間遭到外界濫用,可能導致生成式AI鉅額的收費外,有心人士可能測試各種提問方式,還可能設法騙取AI客服回應企業內的敏感資料,可能衍生出資安的風險。
對此,臺北捷運回應,此次雖然一發現異常就立即處置,所幸沒有明顯費用產生,但後續將邀請相關單位召開會議,研議AI智慧客服精進做法,並請廠商提出檢討報告,由臺北捷運公司的資安長督導應用單位建立檢核機制。
生成式AI帶動一波AI應用浪潮後,不少公司期待運用生成式AI帶來的效益,特別是在客戶服務方面,因少子化缺工問題,為減輕真人客服的工作壓力,導入生成式AI精進AI客服能力,此次臺北捷運AI智慧客服,反映企業使用生成式AI對外提供服務,類似應用在上線前應該謹慎檢測,避免使用者提出服務以外的請求,可能導致被濫用,甚至產生資安的風險。



2024-11-25
