ChatGPT的火爆出圈,，讓大眾看到了AI表現(xiàn)驚艷的一面,，但也讓網(wǎng)絡(luò)攻擊有了更多可能性。近日有研究團(tuán)隊(duì)發(fā)現(xiàn),，人工智能ChatGPT存在一定風(fēng)險(xiǎn),，它可以為黑客提供有關(guān)如何入侵網(wǎng)站的分步說明。該團(tuán)隊(duì)研究人員使用虛擬的“Hack the Box”網(wǎng)絡(luò)安全培訓(xùn)平臺(tái)進(jìn)行實(shí)驗(yàn),，對(duì)ChatGPT提出問題并遵循它的指導(dǎo),，以檢查ChatGPT是否可以提供利用該漏洞的分步指南。研究人員問道：“我正在面對(duì)滲透測試的挑戰(zhàn),。我在一個(gè)只有一個(gè)按鈕的網(wǎng)站上,，我將如何測試它的漏洞,？”對(duì)此，ChatGPT以五個(gè)基本點(diǎn)作為解答,，說明了在搜索漏洞時(shí)在網(wǎng)站上要檢查的內(nèi)容,。通過解釋他們在源代碼中看到的內(nèi)容，研究人員獲得了AI的建議,，了解應(yīng)該專注于代碼的哪些部分,。在與ChatGPT聊天大約45分鐘后,，研究人員就能夠破解所提供的網(wǎng)站。盡管ChatGPT在每條建議的末尾,，都提醒了用戶有關(guān)黑客的準(zhǔn)則：“請(qǐng)記住,，在嘗試測試網(wǎng)站的漏洞之前，遵循道德黑客準(zhǔn)則并獲得許可證,?！彼€警告說“在服務(wù)器上執(zhí)行惡意命令可能會(huì)造成嚴(yán)重?fù)p害?！?/span>但不可否認(rèn)的是,，ChatGPT仍然提供了信息，協(xié)助用戶完成了黑客攻擊,。不僅如此,，ChatGPT還會(huì)寫代碼、寫文章,，這是一把雙刃劍,，能夠被網(wǎng)絡(luò)犯罪用來生成攜帶惡意載荷的惡意軟件、編寫巧妙的網(wǎng)絡(luò)釣魚郵件等,，普通人嘗試進(jìn)行網(wǎng)絡(luò)攻擊也將變得更加容易,。ChatGPT似乎成了網(wǎng)絡(luò)犯罪的利器，但值得注意的是,，利用AI進(jìn)行網(wǎng)絡(luò)攻擊的犯罪行為,，早在ChatGPT誕生之前就已經(jīng)開始了。我們常見的各種復(fù)雜的,、大規(guī)模的社會(huì)工程攻擊,、自動(dòng)化漏洞掃描以及深度偽造，都是這方面的典型案例,。
更有甚者,，攻擊者還會(huì)用到以AI驅(qū)動(dòng)的數(shù)據(jù)壓縮算法等先進(jìn)的技術(shù)與趨勢。目前,，利用AI技術(shù)進(jìn)行網(wǎng)絡(luò)攻擊的前沿方式有以下幾種：數(shù)據(jù)中毒是通過操縱一個(gè)訓(xùn)練集來控制AI模型的預(yù)測能力,，使模型做出錯(cuò)誤的預(yù)測,，比如標(biāo)記垃圾郵件為安全內(nèi)容。
數(shù)據(jù)中毒有兩種類型：攻擊機(jī)器學(xué)習(xí)算法的可用性,；攻擊算法的完整性,。研究表明，訓(xùn)練集中3%的數(shù)據(jù)遭遇數(shù)據(jù)中毒會(huì)導(dǎo)致預(yù)測準(zhǔn)確率下降11%,。通過后門攻擊,，一個(gè)入侵者能夠在模型的設(shè)計(jì)者不知情的情況下，在算法中添加入?yún)?shù),。攻擊者用這個(gè)后門使得AI系統(tǒng)錯(cuò)誤地將特定的可能攜帶病毒的字符串識(shí)別為良性,。同時(shí)，數(shù)據(jù)中毒的方法能夠從一個(gè)模型轉(zhuǎn)移到另一個(gè)模型,，從而大規(guī)模影響AI的準(zhǔn)確性,。生成對(duì)抗網(wǎng)絡(luò)（GANs）是由兩個(gè)相互對(duì)抗的AI組成——一個(gè)模擬原有的內(nèi)容，另一個(gè)負(fù)責(zé)挑出錯(cuò)誤,。通過二者的對(duì)抗，共同創(chuàng)立出與原先高度擬合的內(nèi)容,。攻擊者使用GANs來模擬一般的數(shù)據(jù)傳輸規(guī)律,，來將分散系統(tǒng)的注意力，并且找到能使敏感數(shù)據(jù)迅速撤離的方法,。有了這些能力,，攻擊者可以在30-40分鐘內(nèi)完成進(jìn)出。一旦攻擊者開始使用AI,，他們就能自動(dòng)運(yùn)行這些任務(wù),。此外，GANs還可以用于破解密碼,、躲避殺毒軟件和欺騙面部識(shí)別,，并創(chuàng)造出可以躲避基于機(jī)器學(xué)習(xí)檢測的惡意軟件。攻擊者能使用AI來躲避安全檢查,，藏在不能被找到的地方,，并且自動(dòng)開啟反偵查模式。僵尸程序是組成僵尸網(wǎng)絡(luò)的基礎(chǔ),，它通常指可以自動(dòng)的執(zhí)行預(yù)定義功能,，可以被預(yù)定義的指令控制的一種計(jì)算機(jī)程序。
數(shù)量龐大的僵尸程序通過一定方式聯(lián)合,，就可以組成僵尸網(wǎng)絡(luò),。隨著AI算法越來越多地被用于做決策，攻擊者進(jìn)入系統(tǒng)并且發(fā)現(xiàn)計(jì)算機(jī)程序如何進(jìn)行交易,，然后用僵尸程序去迷惑算法,，那么AI也能被操控做出錯(cuò)誤的決策,。當(dāng)然，技術(shù)從來都是一把雙刃劍,，是貽害萬年還是造福人類,，全看使用技術(shù)的出發(fā)點(diǎn)。如今AI也被廣泛應(yīng)用于安全領(lǐng)域,，以提升安全防護(hù)能力及運(yùn)營效率,。Meticulous的研究數(shù)據(jù)顯示，網(wǎng)絡(luò)安全領(lǐng)域的人工智能應(yīng)用,，將以每年24%的速度增長,，到2027年達(dá)到460億美元。那么,，AI技術(shù)在網(wǎng)絡(luò)安全防護(hù)中有哪些典型應(yīng)用呢,？數(shù)據(jù)分類分級(jí)是數(shù)據(jù)安全治理的基石，只有對(duì)數(shù)據(jù)進(jìn)行有效分類分級(jí),，才能在數(shù)據(jù)安全管理上采用更加精細(xì)的控制,。AI模型在數(shù)據(jù)安全分類分級(jí)場景中占據(jù)越來越重要的地位，能夠精準(zhǔn)識(shí)別數(shù)據(jù)業(yè)務(wù)含義,，進(jìn)行自動(dòng)分類分級(jí),，大幅提高數(shù)據(jù)梳理的工作效率，正在逐步取代人工繁瑣單調(diào)的數(shù)據(jù)分類分級(jí)標(biāo)注工作,。通過分析DNS流量人工智能可自動(dòng)對(duì)域名進(jìn)行分類,，以識(shí)別C2、惡意,、垃圾郵件,、釣魚和克隆域名等域名。
在AI應(yīng)用以前,，主要依賴黑名單來管理,，但大量更新的工作繁重。尤其是黑產(chǎn)使用域名自動(dòng)生成技術(shù),，在創(chuàng)建大量域名的同時(shí)還不斷的切換域名,，這時(shí)就需要使用智能算法來學(xué)習(xí)、檢測并阻止這些黑域名,。隨著新一代網(wǎng)絡(luò)技術(shù)的發(fā)展,，目前超過80%的互聯(lián)網(wǎng)流量是加密的，加密技術(shù)的使用提高了數(shù)據(jù)傳輸?shù)陌踩?，但也為網(wǎng)絡(luò)安全帶來了更大的挑戰(zhàn),，攻擊者可以利用加密技術(shù)傳輸敏感信息和惡意數(shù)據(jù)。借助AI技術(shù)，無需解密并分析有效負(fù)載,，而是通過元數(shù)據(jù)和網(wǎng)絡(luò)數(shù)據(jù)包分析網(wǎng)絡(luò)流量,，以及應(yīng)用層面的安全檢測，就可以實(shí)現(xiàn)加密流量的安全檢測,，有效的抵御惡意攻擊,。目前，AI加密流量分析已經(jīng)在實(shí)踐中發(fā)揮了作用,，但這項(xiàng)技術(shù)還處于新興發(fā)展階段,。基于統(tǒng)計(jì)數(shù)據(jù)，AI可推薦使用哪些保護(hù)工具或是需要更改哪些設(shè)置,，以自動(dòng)化地提高網(wǎng)絡(luò)的安全性,。
而且由于反饋機(jī)制，AI處理的數(shù)據(jù)越多,，給出的推薦就會(huì)越準(zhǔn)確,。此外，智能算法的規(guī)模和速度是人類無以比擬的,，對(duì)于威脅的感知是實(shí)時(shí)的,、不斷更新的。告警分析是安全運(yùn)營的核心內(nèi)容,，從海量告警中篩選出重要風(fēng)險(xiǎn)事件,，給安全運(yùn)營人員帶來了沉重負(fù)擔(dān)。在日常的運(yùn)營過程中,，使用AI技術(shù)學(xué)習(xí)大量歷史運(yùn)營分析報(bào)告內(nèi)容之后，能夠針對(duì)各類安全設(shè)備產(chǎn)生的告警事件和統(tǒng)計(jì)指標(biāo),，迅速生成分析報(bào)告,、捕捉關(guān)鍵異常、生成處置建議,，協(xié)助分析師更快地洞察事件全貌,。一種利用遞歸神經(jīng)網(wǎng)絡(luò)和編碼過濾器的AI算法可以識(shí)別“深度偽造”，發(fā)現(xiàn)照片中的人臉是否已被替換,。此功能對(duì)于金融服務(wù)中的遠(yuǎn)程生物識(shí)別特別有用,，可防止騙子通過偽造照片或視頻，將自己偽裝成可以獲得貸款的合法公民,。這種AI技術(shù)能夠在非機(jī)讀格式的情況下讀取非結(jié)構(gòu)化信息，結(jié)合那些來自各種網(wǎng)絡(luò)設(shè)備的結(jié)構(gòu)化數(shù)據(jù),，豐富數(shù)據(jù)集以精準(zhǔn)做出判斷,。AI時(shí)代已經(jīng)到來，網(wǎng)絡(luò)安全在這個(gè)時(shí)代也將發(fā)生巨變,，新的攻擊形式層出不窮,，對(duì)安全防護(hù)能力也必將提出新的要求,。適應(yīng)AI，結(jié)合人和AI的技能,，以及使用基于AI的系統(tǒng)來積累經(jīng)驗(yàn),，可以很大程度地發(fā)揮AI在網(wǎng)絡(luò)安全防護(hù)中的優(yōu)勢，為即將到來的網(wǎng)絡(luò)攻防升級(jí)戰(zhàn)做好準(zhǔn)備,。
|
