AI開始幫銀行做事了！金管會緊急出手，這3大風險洩漏個資

（圖／AI製作）

人工智慧（AI）現在不只會聊天、回答問題，甚至能自己操作系統、處理工作，但如果銀行把客戶資料交給AI，結果AI擅自執行任務，甚至洩漏個資，究竟該怎麼辦？面對金融業加速導入AI代理，台灣金融監督管理委員會（金管會）正式提出安全管理方案，準備替這類能自主執行工作的AI訂出明確的風險管理原則。

金管會13日發布《金融業運用代理AI安全諮詢文件》，針對金融機構使用代理式人工智慧（Agentic AI）的風險分級、安全治理及控管措施，公開徵詢各界意見，為期30天。未來銀行、保險及其他金融機構導入AI代理時，應依照不同業務情境，清楚界定AI能讀取哪些資料、使用哪些工具，以及可以執行什麼動作。

AI不只會聊天！還能自己操作系統，金管會擔心出大事

過去大家熟悉的AI，大多是輸入問題後得到答案，但新一代AI代理已經不一樣了。

它不只可以回答問題，還能自行規劃工作步驟、呼叫其他工具，甚至連接不同系統取得資料，協助完成一整套工作流程。

對金融業來說，這項技術有機會減少重複性工作、提升服務效率，但背後也藏著不小的風險。

假設AI原本只被授權查詢資料，卻因判斷錯誤執行了其他操作，甚至把敏感資訊傳送到不該出現的地方，就可能引發資安問題。

更麻煩的是，AI代理通常會連續執行多個步驟，只要前面其中一個環節出錯，後續任務就可能跟著受到影響，讓問題越滾越大。

因此，金管會認為，不能只看AI模型本身有多安全，更重要的是確認它實際被安排去做什麼工作。

金管會訂3大風險標準！只要一項偏高就不能輕忽

這次諮詢文件最重要的內容，就是提出3大風險評估方向，讓金融機構依照AI實際使用情境進行分級管理。

第一是「資料敏感度」，也就是AI能接觸到什麼資訊。如果涉及客戶個資、交易紀錄或其他敏感資料，就必須評估相關風險。

第二是「執行行為的影響程度」。如果AI只是協助整理一般文件，與能夠改動重要業務資料或執行關鍵操作的AI，所需要的管理強度自然不同。

第三則是「能力範圍與擴散可能性」，包括AI能操作多少系統，以及一旦發生錯誤，是否可能影響其他工作流程。

金管會特別強調，風險分級採取「就高不就低」原則。換句話說，即使其他項目的風險較低，只要其中一項被評估為高風險，就應依照較高的等級管理。

相關分級結果也將作為業者評估核准、試行、正式上線及後續監督的參考依據。

AI也要管權限！不能想看什麼就看、想做什麼就做

除了風險分級，金管會也提出一項重要概念：把AI代理視為具有行動能力的「非人類身分」。

簡單來說，AI雖然不是員工，但只要能進入系統、存取資料、執行工作，就應該像管理帳號權限一樣，清楚限制它的活動範圍。

文件建議採用零信任（Zero Trust）安全原則，不預設任何操作一定安全，而是持續驗證身分、限制權限，並保留可追蹤的執行紀錄。

例如，AI如果只負責整理資料，就不應隨意取得修改其他系統內容的權限；當系統發現異常行為時，也應具備監控、暫停、停用及復原機制。

金管會希望透過這些措施，降低AI越權操作、資料外洩及錯誤持續擴大的可能性。

銀行導入AI將更嚴格？目前仍在徵詢意見

不過，這次發布的文件並不代表所有新規定已經正式上路。

金管會說明，目前先透過30天意見徵詢，了解金融業者、科技公司及專家學者的實務需求，相關內容已公布於「公共政策網路參與平臺」的「眾開講」專區。

文件也不會取代現行金融法規、監理要求及金融機構既有的內部控制制度，而是作為未來制定相關指引與政策的重要參考。

隨著AI逐漸從聊天工具變成能夠自主處理工作的數位助手，金融業面臨的挑戰也跟著改變。

對一般民眾來說，真正需要關心的不是銀行用了多厲害的AI，而是自己的資料會不會被妥善保護，以及當AI出錯時，金融機構能否及時發現並處理。

畢竟，金融服務最不能承受的，就是便利性提高了，客戶的資料安全卻跟著打了折扣。