暴走的AI 問題篇／無差別襲擊 人類挑戰大

「AI真正改變的是「攻擊成本」。過去駭客會挑選CP值較高的攻擊目標，但是現在AI可以大量、快速地進行地毯式搜尋，這代表企業過去累積的系統問題，可能一一被挖出，「有點像是過去欠的資安債，遲早要還。」」

「AI Agent帶來的最大改變，是傳統資安的防禦邏輯可能失效。因為過去大部分資訊安全產品，主要是針對「已知病毒」或「已知異常行為」進行偵測與阻擋，也就是典型的「黑名單」概念，凡是上了黑名單，就直接封鎖、刪除。但是通常AI Agent使用的是合法帳號、密碼，以及企業正式授予的權限，「這個通行證本來就是公司發的，傳統資安機制很難打掉它。」」

「若設立輕量型安全護欄，甚至毫不設防，將為AI代理程式開啟鑽漏洞之門。」

「AI可輕易並迅速利用任何弱點或缺陷，因此工作流程的每個環節都必須顧及網路安全。」