| 資安新聞 |
Check Point揭露新型AI駭客兵團雛型
刊登日期：2025-05-19
資料來源：iThome
| Check Point在RSAC 2025發布的AI安全報告，揭露多種正在暗網興起的AI犯罪服務（Evil AI as a Service），其執行長Nadav Zafrir更進一步示警，隨著AI代理程式（AI Agent）的興起，有心人士更有可能進一步發展出具備高度自主能力的AI駭客兵團，足以發動更個人化、更自動化、更即時性、更具威脅性的大規模攻擊。 Zafrir提出一個結合生成式AI與AI代理程式，以竊取加密貨幣的新攻擊情境。從攻擊鏈流程來看，這個攻擊情境的起手式與過往的攻擊有一部分相同，都是先蒐集被鎖定對象的資料，例如從被公開的外洩資料中尋找帳號與密碼，作為發動釣魚郵件或入侵受害者電腦的初始機制；然而不同的是，新型態AI攻擊還會再利用個人資料訓練專屬AI模型，創造出模擬受害者特徵與行為模式的數位分身（Digital Twin）。 緊接著，攻擊者會利用蒐集到的帳號密碼等憑證資訊，入侵受害者的電腦或企業網路，一旦成功入侵，攻擊者會持續潛伏，蒐集更多受害者的資料，如電子郵件、視訊會議、聊天資訊或是組織內部的資料，以持續訓練最佳化AI模型。 一旦數位分身AI模型建立好了，攻擊者就會據以發展能夠模擬受害者行為的多種AI代理程式，並將這些AI惡意程式部署至受害者的電腦或網路，由它們自主操作攻擊行動，進行橫向移動攻擊，例如偽冒受害者發送電子郵件或聊天訊息、模擬其帳戶行為在內網偵察或移動，甚或操作加密貨幣轉帳等交易行為。 生成式AI與AI代理程式成為攻擊者的新武器之後，將會對網路攻擊帶來根本性的改變。Zafrir指出，過往要做到上述的自動化攻擊情境相當困難，除了需要投入大量資源，還要耗時數月甚至數年，這麼長的準備時間很容易讓防守方有足夠的時間反應而功虧一潰。然而，現代AI惡意程式不再需要回傳指令至C&C（Command & Control）後端控制中心，一旦防線被攻破，AI惡意程式將會自主運作，不需要依賴後端控制，攻擊行動可能在幾天內就能結束。 再者，這種攻擊方式一旦創造出擬真的數位分身後，就可以利用偽造的數位分身進行惡意行為，而不再需要利用真實的受害者。因此，吊詭的是一旦偽造的數位分身產生了，如果沒有被識別出來，即使受害者擁有正確的資安習慣與資安防護，即便所有資安防護系統都正常運作，也無濟於事。 根據Check Point的AI安全報告評估，拜生成式AI技術之賜，文字、語音與視訊的深偽仿冒已是隨手可得的技術。現今文字與語音的自主對話互動已可由AI全盤操作，諸多釣魚攻擊已展現文字完全自動化與接近完美的語音。而在影像自主對話互動方面，目前要全靠AI達成還有難度，但誰能知道是否會在接下來的幾個月或幾年內發生呢？ Zafrir表示，上述攻擊情境看似危言聳聽，但這些攻擊能力其實已經存在，而更令人憂心的是，AI代理程式一旦啟動就會自主決策，如何中止其流程將是個挑戰。面對基於AI技術的攻擊，他認為防禦端的AI 必須具備與攻擊等速的防禦能力，因此未來的資安防護系統勢必是要「AI原生」，才能即時反應與對抗。他認為借鏡生物的社群與分形，建立複雜適應系統，可以分散式自主運作，避免單點故障，又可即時回應，以及持續學習與適應新的威脅，將會是一個可行的新方向。 |
