人工智能（AI）的前景令人信服，但是也給安全經理帶來警笛聲。有人不禁疑惑，人工智能已經讓保險業、醫學研究、金融和執法機構紛紛受益。那么，為何AI也存在諸多危機呢？網絡安全中的AI，究竟是炒作還是真實存在呢？

人工智能

人工智能（AI）的前景令人信服。給安全經理的警笛聲。希望利用自主，自學解決方案的強大功能的公司正在產生興趣和投資。畢竟，人工智能已經使保險業，金融和執法機構受益。那么，為什么也不安全呢？根據ESET最近的一項調查，新的業務期望和誤導性營銷術語已在AI周圍引起了廣泛的炒作，以至于現在有75％的信息安全決策者將AI視為解決安全問題的靈丹妙藥。

如此高昂的期望，再加上當前AI技術的現實，將使您的組織面臨風險。雖然在幫助人類分析人員方面非常有用，但孤立的AI不能替代經驗豐富的分析人員實施的可靠信息安全策略。

以Facebook為消除通過其服務傳播的“假新聞”的努力為例。該社交網絡平臺已重新部署了一些最佳工程師，以開發跟蹤和消除虛假新聞的工具，并雇用了一些最佳的AI初創公司，例如Bloomsbury AI。盡管付出了巨大的努力，Facebook產品管理總監Greg Marra承認：“……我們最多可以減少80％的虛假新聞瀏覽量。”如果AI僅解決Facebook上80％的“假新聞”問題，安全性公司顯然對抱負寄予厚望。硬道理是，圍繞AI的許多興奮僅僅是炒作。話雖如此，人工智能還是有希望的。智能AI確實具有天才級解決方案的潛力。現在是進行現實檢查的時候了：AI可以做什么，不能做什么？

人工智能可以緩解網絡安全疲勞？

“數字化轉型”一詞涉及使用數字技術來改造流程，以提高組織的效率或效力。這個想法不僅是使用技術來以數字形式復制現有服務，而且是使用技術將服務轉換為更好的產品。

數字化轉型可能涉及許多不同的技術，但目前最熱門的話題是云計算，物聯網，大數據和人工智能。除此之外，這是一種文化變革，要求組織不斷挑戰現狀，進行試驗并適應失敗。有時，這意味著要放棄長期存在的業務流程，而在這些業務流程上建立公司時會偏向于仍在定義中的相對較新的做法。此類技術帶來了驚人的新組織能力，但同時也創造了新的復雜性，互連性和漏洞點（更大的攻擊面），網絡犯罪分子很快就學會了利用這些漏洞。

AI可以采取什么措施緩解這種情況？

AI的速度，準確性和計算能力為保護無邊界組織提供了獨特的機會，并能夠持續處理每個組織現在每天面對的大量威脅數據。這是因為AI可以很好地完成乏味的重復性任務，例如尋找特定的模式。這樣，其實施可以減輕大多數安全運營中心（SOC）面臨的資源限制。對于入侵防御和檢測，欺詐檢測以及根除諸如DNS數據泄露和憑據濫用之類的惡意活動，這可能是不可估量的好處。此外，人工智能算法可以應用于用戶和網絡行為分析。例如，機器學習可以查看人員，端點和打印機等網絡設備的活動，以標記流氓內部人員的惡意活動。

AI是否達到了“魔術”狀態？

AI的真相

“任何足夠先進的技術，”亞瑟·克拉克（Arthur Clarke）寫道，“與魔術是無法區分的。”但這絕不是AI的真相。羅德尼·布魯克斯（Rodney Brooks）指出：“人工智能在1960年代，1980年代一次又一次被高估，現在我再次相信，但從長遠來看，它的前景也可能被低估了。”實際上，根據布魯克斯的說法，人工智能只是阿馬拉法則的另一項適用規定如下：

“我們傾向于在短期內高估技術的效果，而在長期內低估效果。”

我們對AI犯的一個錯誤是，我們傾向于將其視為一種“魔塵”，一旦將其撒在組織上，它就會變得更加聰明。事實并非如此。當今的AI算法無非就是傳統的機器學習算法。機器學習使用統計技術使計算機具有“學習”的能力-即使用數據并識別數據中的模式以逐步提高特定任務的性能，而無需進行顯式編程。“關于AI，沒有任何人造的東西。它受人的啟發，是人創造的，而且最重要的是，它影響著人們。這是一個強大的工具，我們才剛剛開始了解它，這是深刻的責任。”

人工智能不能消除HI

人工智能主要專注于處理大量威脅數據。它以接近實時的速度幾乎無限地執行這些活動的能力，使其成為現代，有效的網絡安全計劃中的寶貴盟友。而且這些活動可以在網絡安全的每個階段執行，從而使AI在組織遭受攻擊之前，之中和之后都能提供價值。但是，人工智能不能復制人類的見識。它并沒有消除對人類網絡安全專家的需求。

數據科學家需要知道如何提出正確的問題以正確利用AI的功能。這恰恰是有監督和無監督機器學習之間的區別。當前的工具和技術為前者提供了支持，但后者仍然遙不可及。如果沒有人來監視系統的輸入和輸出并訓練算法，人工智能工具就有可能捕獲和報告基本系統數據，但是提供智能威脅響應計劃遠遠超出了他們的范圍。這與Ponemon的一項研究相吻合，該研究發現AI檢測到55％的安全警報仍需要人工監督。

AI：是朋友還是敵人？

企業安全

將AI應用于安全數據與本文開頭列出的其他字段之間的主要區別之一是，在安全字段中，數據正在反擊。由于開發AI資源的工具在公共領域廣泛可用，因此預計在未來幾年中，基于攻擊的AI技術可能會比為防御而創建的AI技術更加普及。因此，盡管在其他學科中成功使用了AI，但將其用于安全性卻是一項更具挑戰性的任務，需要更大程度的人員參與。企業安全公司SAP NS2的總裁兼首席執行官Mark Testoni評論：

“黑客與開發防御黑客的能力的社區一樣復雜。他們正在使用相同的技術，例如智能網絡釣魚，分析潛在目標的行為以確定要使用的攻擊類型，以及“智能惡意軟件”，它們知道何時監視它們，以便將其隱藏。”

— 網絡罪犯使用AI技術最常見攻擊媒介 —

機器學習中毒通過中毒從中學習算法的數據池來規避AI的有效性，從而導致AI系統將惡意活動識別為良性

與聊天機器人相關的網絡犯罪，聊天機器人可以在其中分析和模仿人們的行為

勒索軟件促進

冒名頂替欺詐和身份盜用

收集情報并掃描漏洞

網絡釣魚

分布式拒絕服務

人工智能新部署

除了AI真正可以做的以增強公司安全性之外，公司還必須考慮實施。組織如何有效地部署AI解決方案以最大化結果？” AI本身并不是萬靈藥，也無法解決您的所有安全挑戰。但是，AI可以提高SOC性能。

SOC團隊需要了解AI技術的功能和局限性，并確保他們對如何受益以及在哪些地方仍需要人工參與抱有適當的期望。由AI驅動的工具可以通過自動分析警報來提高安全性，尤其是在將惡意行為添加到分析中時，可以過濾掉很大一部分明顯的良性行為，因此團隊中的人員可以專注于較小百分比的“可能是惡意”活動。通過以這種方式使用AI，SOC可以顯著增加由人類安全分析人員解決的高嚴重性事件的數量，并降低成功攻擊的風險，而無需實際增加分析人員的數量。

人工智能非常重要，它將改變我們的生活，超出我們的想象。但是聲稱它已經發生只是天真。人工智能具有巨大的潛力，當前的發展正在提高速度和準確性。當AI真正成為魔力時，結合建立適當的基礎和人的技能，以及使用基于AI的系統來積累經驗，可以最大程度地發揮AI的現有優勢，并為機器智能的未來奠定基礎。

責任編輯：ct