Joshua Costa，Cortex產(chǎn)品市場總監(jiān)
去年以來，人工智能（AI）技術已經(jīng)成為主流。而每當有新技術成為主流時，人們都會想方設法讓其幫助自己的工作和生活變得更輕松。雖然AI技術的快速普及改善了企業(yè)的運作模式，但它同時也為網(wǎng)絡威脅者制造了新的機會。
鑒于對手正在利用AI發(fā)起速度更快、范圍更廣且效果更好的網(wǎng)絡攻擊，企業(yè)也需要在安全防御策略中采用AI予以應對。派拓網(wǎng)絡自主開發(fā)的AI系統(tǒng)Precision AI通過使用豐富的數(shù)據(jù)和特定的安全模型實現(xiàn)檢測、預防和修復的自動化，幫助安全團隊信任AI所帶來的成果。
AI在網(wǎng)絡攻擊中的應用
威脅者總是在尋找阻力最小的攻擊途徑。例如他們會改造惡意軟件并經(jīng)常使用CobaltStrike、Brute Ratel C4等現(xiàn)成的工具抓住弱點，以最小的代價發(fā)起惡意行動。根據(jù)觀察，他們已經(jīng)開始使用新的AI技術發(fā)動攻擊。隨著新的AI工具上市，威脅者將利用它們自動實施和增強各種攻擊手段。
威脅者通常將AI用于以下途徑：
·實施偵察：威脅者通常會在發(fā)動攻擊前，先采集潛在目標的相關信息。借助AI，他們可以從網(wǎng)站、社交媒體平臺和其他在線資源獲取公開信息，收集企業(yè)數(shù)據(jù)，其中可能包括詳細的個人信息、從屬關系、人際關系和其他可用于策劃和實施網(wǎng)絡攻擊的有用信息。
·增強社交工程：僅憑語法或拼寫問題就能識別釣魚郵件的時代已經(jīng)過去。通過使用生成式AI聊天機器人，威脅者可以編寫出縝密的釣魚郵件、網(wǎng)頁和其他內(nèi)容，進而提高欺詐成功率。這將使社交工程繼續(xù)成為網(wǎng)絡攻擊最主要的威脅載體之一。
·開發(fā)惡意代碼：即便是不具備編碼技能的威脅者也能使用AI工具創(chuàng)建惡意軟件和其他代碼。如今，許多AI工具都能通過簡單的指令或輸入來修改或創(chuàng)建代碼。通過創(chuàng)建自定義腳本、開發(fā)新的惡意軟件變體，以及不斷改進工具，威脅者能夠避免被發(fā)現(xiàn)并提高攻擊效果。
·自動利用漏洞：AI可用于自動發(fā)現(xiàn)和利用應用或系統(tǒng)中的漏洞。借助機器學習技術，威脅者能快速發(fā)現(xiàn)弱點并大規(guī)模發(fā)起有針對性的攻擊。
·深度偽造攻擊：AI生成的深度偽造視頻、圖像或音頻錄音可用于操縱或欺騙個人。威脅者利用AI技術編造出以假亂真的虛假內(nèi)容，損害企業(yè)和個人的聲譽或方便其發(fā)起更大范圍的網(wǎng)絡攻擊。
·提示注入：生成式AI工具容易受到提示注入攻擊，導致生成的輸出結果被威脅者操縱。通過讓這些工具以意想不到的方式回答問題，威脅者便可以利用提示注入采集敏感信息，甚至執(zhí)行惡意代碼。
所有這些技術都讓威脅者能夠更加快速、有效地實施攻擊。從經(jīng)濟損失、數(shù)據(jù)泄露，到聲譽受損、運營中斷，這些攻擊可能導致非常嚴重的后果。此外，AI驅(qū)動的威脅進化迅速且適應性強，令傳統(tǒng)網(wǎng)絡安全措施捉襟見肘。由此可見，企業(yè)正面臨前所未有的風險，他們需要采取具有前瞻性且適應性強的防御措施，以AI防御對抗AI攻擊。
企業(yè)如何運用AI應對網(wǎng)絡攻擊
為有效應對AI驅(qū)動的網(wǎng)絡攻擊，企業(yè)需要在防御策略中充分發(fā)揮AI的能力。采取使用AI技術的安全工具和策略已成為應對攻擊的關鍵。
企業(yè)網(wǎng)絡安全方案中可以使用AI的關鍵方面包括：
·威脅檢測與分析：威脅檢測與分析是AI能夠產(chǎn)生重大影響的一個關鍵領域。使用AI技術的安全工具能夠通過實時分析大量數(shù)據(jù)，快速識別異常活動和潛在的安全事件。借助機器學習算法，企業(yè)可以發(fā)現(xiàn)威脅，并提前采取措施降低風險。這些工具擁有實時響應能力，可通過自動調(diào)整防御措施應對新出現(xiàn)的威脅。
·安全操作自動化：使用AI技術的安全工具能自動執(zhí)行各種安全任務，例如添加數(shù)據(jù)源、拼接不同的警報和擴充安全細節(jié)等。AI還能通過快速分析和關聯(lián)安全事件、確定事件的嚴重程度，并提供建議和應對措施，幫助實現(xiàn)事件響應自動化。這不僅可以減輕安全團隊的負擔、提高效率，還能讓他們專注解決更復雜、更具戰(zhàn)略意義的安全問題。高保真的自動化能加快平均檢測時間（MTTD）和平均響應時間（MTTR），減輕網(wǎng)絡攻擊的影響，更大程度地縮短漏洞窗口期。
·威脅情報分析：具有前瞻性的威脅情報和預測分析是網(wǎng)絡安全策略必不可少的組成部分。AI通過實時分析各種安全數(shù)據(jù)源，發(fā)現(xiàn)新出現(xiàn)的威脅并預測潛在的攻擊載體。比如企業(yè)可以充分利用對抗性AI技術來生成和了解攻擊，以此不斷改進防御。借助AI，企業(yè)可以提前部署防御，從而在與對手的對抗中占得先機并在風險演變成全面攻擊之前將其化解。
通過實施這些策略，企業(yè)將提高其有效檢測和阻止網(wǎng)絡攻擊的能力。
未來趨勢和建議
展望未來，預計AI在網(wǎng)絡攻擊和防御中的作用將進一步增強。威脅者將繼續(xù)改進AI驅(qū)動的攻擊技術，因此網(wǎng)絡安全策略也要不斷創(chuàng)新。為了在應對AI驅(qū)動的威脅時占得先機，建議企業(yè)優(yōu)先考慮這些事項：
·投資使用AI技術的網(wǎng)絡安全解決方案：建議企業(yè)將資源用于落實使用AI技術的防御系統(tǒng)，以便實時適應不斷變化的威脅。
·合作并分享威脅情報：與業(yè)界同行和安全社區(qū)分享威脅情報能夠針對AI驅(qū)動的攻擊加強集體防御。
·培養(yǎng)網(wǎng)絡安全意識文化：通過培訓讓員工了解與AI驅(qū)動的網(wǎng)絡攻擊相關的風險和最佳實踐，強化企業(yè)的整體安全態(tài)勢。
·緊跟不斷發(fā)展的AI技術：企業(yè)應隨時了解新興AI技術及其在網(wǎng)絡攻擊和防御活動中的潛在應用。
充分利用AI應對網(wǎng)絡威脅
面對不斷變化的安全環(huán)境，企業(yè)需要意識到對手在攻擊中正愈發(fā)頻繁地使用AI，且只有將AI用于防御才能保護敏感數(shù)據(jù)、系統(tǒng)和基礎設施。
通過將AI用于威脅檢測、落實運用AI技術的防御系統(tǒng)，以及獲得具有前瞻性的威脅情報，企業(yè)能夠加強自身的安全防御，并對AI驅(qū)動的攻擊保持韌性。將AI應用于安全環(huán)境不僅是為了跟上對手的步伐，更是為了在應對風險時贏得先機。
