隨著ChatGPT等各類AI產(chǎn)品逐漸融入大眾的工作，甚至日常生活，AI似乎以極大的便利性和廣泛的運(yùn)用掩蓋了自身的危險(xiǎn)性。AI正在以不道德的方式協(xié)助網(wǎng)絡(luò)攻擊者加速并升級(jí)其攻擊方式。與之相伴的還有當(dāng)前環(huán)境下的其他威脅，包括網(wǎng)絡(luò)犯罪分子與高級(jí)持續(xù)威脅 (APT) 團(tuán)伙之間的界限正在變得模糊，事故對(duì)目標(biāo)企業(yè)產(chǎn)生的影響更廣泛，檢測和緩解攻擊需要多種防御途徑。AI時(shí)代下，企業(yè)正在面臨著更加嚴(yán)峻的網(wǎng)絡(luò)安全環(huán)境。

AI催生新威脅

對(duì)于網(wǎng)絡(luò)攻擊者而言，AI的利用可以分成三大類，第一類是用AI寫木馬程序，并利用木馬程序進(jìn)入被攻擊者的環(huán)境中；第二是利用AI寫釣魚郵件；第三，攻擊者會(huì)利用AI使原本的攻擊更快速、簡單。

以生成式AI為例，網(wǎng)絡(luò)攻擊者已經(jīng)研發(fā)出了像是WormGTP、FraudGPT這樣的AI程序，作為ChatGPT的一個(gè)衍生，它可以讓攻擊者很容易地寫出木馬程序或釣魚郵件。此前，當(dāng)人們收到釣魚郵件時(shí)，由于詞匯不通順，或者用錯(cuò)詞語，會(huì)很快被識(shí)破。但運(yùn)用AI去驅(qū)動(dòng)這一類型的工具時(shí)，寫出來的文字就會(huì)變得更加準(zhǔn)確，釣魚郵件的辨認(rèn)也就變得更加困難。

當(dāng)企業(yè)運(yùn)用像Copilot這樣的ChatGPT類AI工具時(shí)，相當(dāng)于為攻擊者開辟了端口。所以任何企業(yè)使用AI時(shí)都要慎之又慎。并且，生成式AI后端是語言模型，而此類語言模型背后有很多開源程序會(huì)在例如GitHub一類的平臺(tái)上分享。攻擊者可以利用這一類型的開源訓(xùn)練自己的AI模型。開放的網(wǎng)絡(luò)環(huán)境也會(huì)讓不同攻擊者更輕易地分享自己的成功經(jīng)驗(yàn)和故事。

與此同時(shí)，勒索軟件會(huì)變得更加泛濫。在AI的助力下，勒索變得更加難以辨認(rèn)，且危害性更高。比如，勒索者會(huì)利用AI換臉軟件制作勒索視頻。個(gè)人在社交媒體分享的照片和視頻都有可能變成犯罪分子的勒索素材。而現(xiàn)在越來越普遍的人臉識(shí)別登錄和付款也可能蘊(yùn)藏著被利用的風(fēng)險(xiǎn)。

AI構(gòu)筑新防御

面對(duì)AI環(huán)境中“道高一尺，魔高一丈”的網(wǎng)絡(luò)攻擊，用AI對(duì)抗AI是唯一的途徑。Palo Alto Networks（派拓網(wǎng)絡(luò)）Unit 42咨詢總監(jiān)Terence Lau 認(rèn)為： “我們無法僅憑人力去阻擋AI攻擊，而是應(yīng)該用AI去對(duì)抗AI。我們之前所熟知的一些防御模式和方法需要改變，因?yàn)锳I讓我們看到了更快、更強(qiáng)、更精準(zhǔn)的攻擊模式。”

作為全球網(wǎng)絡(luò)安全領(lǐng)導(dǎo)者之一，派拓網(wǎng)絡(luò)會(huì)一直跟蹤AI演進(jìn)的過程、利用方式和攻擊者的新手段。派拓網(wǎng)絡(luò)Unit 42 是世界一流的威脅研究機(jī)構(gòu)和事件響應(yīng)團(tuán)隊(duì)之一，對(duì)于精準(zhǔn)AI頗有經(jīng)驗(yàn)，會(huì)利用各種數(shù)據(jù)和機(jī)器學(xué)習(xí)，并通過一些模式來研究目前威脅信息方面的整體現(xiàn)狀。同時(shí)，信息和研究成果會(huì)以開放、免費(fèi)的形式公布在網(wǎng)站和論壇與大眾共享。派拓網(wǎng)絡(luò)始終希望能夠?qū)σ粋€(gè)企業(yè)所運(yùn)營的網(wǎng)絡(luò)生態(tài)系統(tǒng)實(shí)現(xiàn)整體保護(hù)，并最終保護(hù)整個(gè)生態(tài)系統(tǒng)。

除了針對(duì)AI的持續(xù)跟蹤，對(duì)于企業(yè)，派拓網(wǎng)絡(luò)還有一些重點(diǎn)建議：首先是要改變對(duì)成功防御的看法，企業(yè)不僅要預(yù)防，更要懂得響應(yīng)。其次是優(yōu)先考慮限制攻擊者，并為防御者提供回旋的空間和時(shí)間，做到精簡防御，實(shí)現(xiàn)可重復(fù)性和自動(dòng)化。企業(yè)還需要注意24/7全天候監(jiān)控，以增加攻擊者的時(shí)間壓力。除此之外，努力過渡到零信任企業(yè)、增強(qiáng)安全措施、測量并減少外部攻擊面也是面對(duì)AI時(shí)代網(wǎng)絡(luò)攻擊的必要防御手段之一。