登入

會員權益

獲取需求

查看名片

專屬客服

尊貴標識

VIP低至1.5U/天

北捷AI客服遭網友測試發現可代寫程式碼,北捷緊急斷開Azure Open AI回應功能

分享

支付動態

2024-11-25

臺北捷運提供捷運AI智慧客服,有網友測試後發現,該AI客服可協助產生程式碼範例,事件在網路揭露後,吸引大批網友討論、測試,臺北捷運公司緊急要求廠商斷開與Azure Open AI串接,回復原本的旅客應答功能。

臺北捷運表示,接到通報後,已要求廠商立即斷開串接Azure Open AI功能,回歸到提供旅客常見問答題庫,以回應旅客詢問,目前旅客詢問捷運相關資訊,像是首末班車諮詢、遺失物協尋服務等等皆正常服務。

由於事件發生後,吸引大批網友測試,導致該服務使用的Token量爆增,可能導致使用生成式AI費用激增,對此,臺北捷運強調,接到通報後已立即要求廠商斷開串接Azure Open AI,因發現異常即立即處置,並無明顯費用產生。

臺北捷運初步研判原因為,網友以程式語言測試捷運AI智慧客服,超出原先設定的資料庫範圍,系統透過Azure OpenAI回應,因此臺北捷運立即要求廠商斷開串接功能,回到北捷已建置的旅客常見問題應答。

由於沒有對民眾提出的問題請求設限,擋掉和臺北捷運旅客服務以外的無關問題,如果長時間遭到外界濫用,可能導致生成式AI鉅額的收費外,有心人士可能測試各種提問方式,還可能設法騙取AI客服回應企業內的敏感資料,可能衍生出資安的風險。

對此,臺北捷運回應,此次雖然一發現異常就立即處置,所幸沒有明顯費用產生,但後續將邀請相關單位召開會議,研議AI智慧客服精進做法,並請廠商提出檢討報告,由臺北捷運公司的資安長督導應用單位建立檢核機制。

生成式AI帶動一波AI應用浪潮後,不少公司期待運用生成式AI帶來的效益,特別是在客戶服務方面,因少子化缺工問題,為減輕真人客服的工作壓力,導入生成式AI精進AI客服能力,此次臺北捷運AI智慧客服,反映企業使用生成式AI對外提供服務,類似應用在上線前應該謹慎檢測,避免使用者提出服務以外的請求,可能導致被濫用,甚至產生資安的風險。

免責聲明:
詳情
HUIDU.io

GROWTH DRIVEN GLOBAL PTE. LTD. 202618650K

101 THOMSON ROAD, #28-03A, UNITED SQUARE, SINGAPORE 307591

Copyright 2026 HuiDu