蘇緯政／實踐大學財務金融學系商事法講師
人工智慧（AI）代理超出授權或遭駭客利用，現在已從「假設」變成「現實」。OpenAI內部資安評測顯示，代理曾在降低防護的環境中繞過隔離，入侵Hugging Face平台部分系統，並藉未授權管道協作。Google威脅情報小組發現，駭客攻陷雲端資源後使用AI代理，不到六小時便竊取數千組第三方登入憑證。此外，我國政府機關亦曾遭境外駭客以AI代理輔助攻擊。當AI已從「單純回答問題」進化為「代替人類行動」時，我們的資安思維必須同步升級。
AI代理多以大型語言模型為核心，不只回答問題，更像能操作電腦的數位助理。接到目標後，它會自行安排步驟，操作瀏覽器、電子郵件、資料庫甚至支付系統。國際數據資訊公司（IDC）預估，2029年全球活躍AI代理將超過10億個，每日執行約2,170億次操作。企業可用AI代理處理客服、採購、程式開發及供應鏈調度等事務，而資安人員則可用來發現漏洞或分析警訊。
一般聊天機器人的錯誤，多半僅表現在文字；然而，AI代理一旦做錯，卻可能把機密寄錯對象、誤刪檔案，甚至完成非預期付款。尤其，駭客更可能將惡意命令藏在網頁或文件裡，AI代理可能誤認為使用者指示，這稱為「間接提示注入」。甚至當權限過大時，它還可能藉由合法憑證進入其他系統，衍生諸多爭議。
國家資通安全研究院測試顯示，未設防的OpenClaw在「惡意指令可能出現在外部網頁」、「第三方技能包暗藏惡意程式」及「長時間運作導致安全守則遺失」此三項威脅情境中皆未能有效防禦；NemoClaw雖然透過網路隔離擋下前兩項威脅，仍擋不住長期記憶檔遭覆寫，而未能有效防禦。當AI代理發生爭議時，責任歸屬恐陷入模糊地帶。因此，治理不能只管演算法，還必須管理好相關的身分、權限、紀錄與責任。
筆者建議，政府機關與金融、能源、通訊等關鍵基礎設施提供者，應建立AI代理清冊，掌握由誰負責及接觸哪些資料。凡涉及金流、個資或重要設施者，應經安全測試並建立通報機制。此外，可借鏡國際半導體產業協會（SEMI）推動的「SEMI E187半導體設備資安標準與驗證制度」，發展AI代理評測與認證機制。
企業不能讓AI代理「一次授權、全面放行」。零信任不是防堵AI，而是不能讓代理拿到「通行證」後為所欲為。代理應有專屬身分，只取得必要權限；憑證亦須設定期限，並在隔離環境運作。付款、刪除資料、對外發信或變更帳號，應保留人工核准的最後把關。企業須保存操作紀錄，異常時能警示、停用並復原資料；平時也要模擬攻擊，將供應商責任寫入契約。資安要超前部署，不能等上線後才補破網。
對一般大眾而言，AI代理即使再便利，也不應輕率交出信用卡資訊，或開放郵件與雲端資料的全部權限，且應定期檢查個人的授權情況。付款或變更帳號時，除密碼外，還應以手機驗證碼或生物辨識確認身分。政府與學校則應將AI詐騙、惡意指令及權限管理等基本認知，納入數位素養教育，加強民眾警覺性。
法規是護欄，內控是煞車，素養是方向盤。政府要補強制度，企業要管好權限，使用者要懂風險。三道防線少一道，都可能讓效率工具變成資安破口。台灣若能讓資安成為全民日常，才能在AI浪潮中走得又快又穩。
