近年來，人工智慧（Artificial Intelligence, AI）技術迅速發展已經成為企業數位轉型的重要推動力。AI技術應用不僅能提升企業運營效率，還能幫助企業在競爭激烈的市場中保持優勢。許多企業已經開始將AI應用於數據分析、客戶服務、自動化流程和資訊安全等領域，以提高決策速度和精準度。
美國智庫研究所Aspen Institute的「Aspen Cyber」研究計畫，也針對目前火紅AI工具應用進行探討，他們認為無論是用於自動化、認知運算還是生成式的AI工具，都可能被應用在「理想」與「糟糕」的狀態下，在理想的狀態下，AI工具將大幅提升資訊安全的效率和效能，保護企業組織免受各種威脅；但在糟糕狀態下，AI工具可能成為犯罪者的利器，使他們的攻擊更為強大和難以防範。對此，Aspen Institute也提供一般企業如何妥善的應用AI技術，並面臨AI技術被攻擊者不當應用時的應對建議。
理想狀態：AI工具提升網路安全
在理想狀態下，AI工具能顯著提升企業的網路安全性和工作效率。AI可以通過分析大量數據並識別異常行為，幫助企業更快、更準確地檢測威脅，且能針對確認的威脅進行調整（例如隔離端點、阻擋惡意網址或沙盒攔截惡意程式），並將需要進一步分析的問題上報。此外，AI工具還能優化漏洞管理，幫助企業根據風險和成本來優先處理資訊安全投資，從而最大化投資回報。這種前期且準確的檢測降低了資安應變時間，減少了因誤報而浪費的資源，並幫助標記那些可能被忽視的真實威脅。這樣一來，不僅減少了資安團隊的工作負擔，更可以將有限的資源集中於需要人員分析判斷的調查工作。
AI技術也在「基於安全的設計( secure by design )」原則中發揮關鍵作用。AI工具能協助開發人員提高程式碼的安全性與品質，通過AI工具進行原碼檢測評估，企業可以快速掃描現有和新原碼，發現傳統靜態分析工具無法檢測的漏洞，進而提供改進建議。甚至能在程式碼開發過程中實時監控程式碼，主動識別並修正潛在的安全風險。
Aspen Institute也特別提到，在這股AI熱潮下，企業應避免一味的跟進導入AI，必須確認採用AI工具後對於企業運營或其他方面有益處時才使用。而在應用AI工具時，必須讓人類位於核心位置，負責人員需要清楚地知道自己何時與AI系統互動，了解其產出的內容是否有潛在限制與風險，且在高風險情況下可以介入或推翻AI所做的決策。
總體來說，在理想發展下AI將成為企業資訊安全的強大助手，不僅提升了防護應變效率，還優化了程式碼品質加深安全性，使企業能夠在面對日益複雜的網路威脅時，保持競爭力和安全性。
延伸閱讀：【文章】安全程式開發管理師👉如何利用AI工具協助打造安全的程式原碼？
糟糕狀態：AI工具成為犯罪者的利器
若是在糟糕的狀態中，AI工具可能會被犯罪分子和流氓國家利用，來增強其網路攻擊能力，讓企業防禦者陷入不利的境地。AI使網路攻擊變得更簡單且成本更低，透過機器學習工具，犯罪分子可以更快地發現系統中的漏洞並加以利用。此外，他們還可以進行客製化的魚叉式網路釣魚(Spear phishing)攻擊，提高成功的可能性。一旦成功進入系統，犯罪分子可以再使用量身定制的惡意軟體，針對特定目標進行攻擊。在發動多次這類攻擊後，他們能利用機器學習來分析哪些策略有效，並在未來的攻擊中修改戰略和惡意軟體。
也因為AI工具的廣泛普及降低了網路犯罪的門檻，即使缺乏程式撰寫能力的攻擊者也能利用AI工具編寫惡意軟體。或是使用自動化的駭客工具，這些工具僅需極少的知識就能滲透進入複雜的企業或政府防禦系統，甚至生成大規模的深偽(Deepfakes)內容，來迷惑防禦系統並誤導用戶。在這樣的情境下，企業必須面臨攻擊成本降低、防禦成本大幅上升的困境，這導致防禦者和攻擊者之間的能力差距不斷擴大。
企業採用AI工具時的資安防護建議
1. 加強AI工具的透明度和監控：企業應建立AI工具的透明度和責任機制，確保AI模型的產出內容可以被監控和審查。這包括持續監測AI模型的運行狀況，及時發現並修復被篡改的模型，避免這些篡改對企業產生重大影響。
2. 加強資料的保護和管理：由於攻擊者可能利用共享的AI基礎架構進行資料竊取，企業應該加強對數據資料的保護，確保關鍵數據不會被不法分子獲取或利用。可透過實施嚴格的資料訪問控制、加密敏感資料，以及使用AI工具監控網路流量和用戶行為等措施來進行防護。
3. 建立多層次的防護機制：企業應該採取多層次的防禦策略，不僅依賴單一的AI工具，而是結合多種安全技術和策略，構建一個全面的防禦體系。
4. 提升員工的網路安全意識和技能：隨著AI工具的應用普及，企業應該加強員工的網路安全意識和技能培訓，使其能夠應對AI時代下的網路威脅。例如針對網路釣魚、深偽內容的辨識培訓，以及對新興威脅的應對措施。
總結來說，人工智慧在網路安全領域的應用既能帶來理想的防禦效果，也可能被惡意利用而導致更大的安全挑戰。企業應當積極採取措施，充分利用AI工具的優勢，同時做好應對潛在風險的準備，確保在這個快速變化的技術環境中保持競爭力。