利用AI散布謠言 "殺豬盤"延伸黑鏈條……網(wǎng)絡(luò)安全防火墻如何筑更牢？

9月11日至17日，2023年國家網(wǎng)絡(luò)安全宣傳周在全國范圍內(nèi)統(tǒng)一開展。當(dāng)前，以大數(shù)據(jù)、人工智能等為代表的信息技術(shù)日新月異，與此同時(shí)，網(wǎng)絡(luò)攻擊、網(wǎng)絡(luò)竊密、網(wǎng)絡(luò)詐騙頻頻出現(xiàn)，網(wǎng)絡(luò)安全的風(fēng)險(xiǎn)正在被技術(shù)不斷放大。網(wǎng)絡(luò)安全風(fēng)險(xiǎn)對于個(gè)人、社會、國家意味著什么？技術(shù)的更新?lián)Q代又讓現(xiàn)今的網(wǎng)絡(luò)安全面臨哪些新情況、新問題、新挑戰(zhàn)？嚴(yán)防攻擊竊密詐騙，網(wǎng)絡(luò)安全防火墻如何筑更牢？

我國網(wǎng)民規(guī)模超10億人 網(wǎng)絡(luò)安全事關(guān)你我

截至2023年6月，我國網(wǎng)民規(guī)模達(dá)10.79億人，較2022年12月增長1109萬人，互聯(lián)網(wǎng)普及率已經(jīng)達(dá)到76.4%。當(dāng)前，以大數(shù)據(jù)、人工智能等為代表的信息技術(shù)日新月異，給我們的生活帶來很大極大便利。同時(shí)，網(wǎng)絡(luò)攻擊、網(wǎng)絡(luò)竊密、網(wǎng)絡(luò)詐騙頻頻出現(xiàn)，一些不法分子利用快速迭代的技術(shù)不斷放大網(wǎng)絡(luò)安全的風(fēng)險(xiǎn)。

利用網(wǎng)絡(luò)技術(shù) "殺豬盤"延伸黑鏈條

近年來，各地各部門不斷加大打擊治理電信網(wǎng)絡(luò)詐騙違法犯罪力度，有效遏制了案件快速上升勢頭。然而，仍有犯罪分子鋌而走險(xiǎn)，不斷翻新手段實(shí)施詐騙。就以殺豬盤為例，隨著技術(shù)的更新?lián)Q代，網(wǎng)絡(luò)詐騙團(tuán)伙一方面在境外多地設(shè)立多個(gè)電信網(wǎng)絡(luò)詐騙窩點(diǎn)，配備電腦、手機(jī)、聊天軟件賬號等作案工具；另一方面，組建國內(nèi)洗錢人員、技術(shù)維護(hù)團(tuán)隊(duì)、國內(nèi)推廣引流團(tuán)隊(duì)、窩點(diǎn)主管、窩點(diǎn)作案人員，搭建虛假投資理財(cái)返利等App，利用國內(nèi)公眾號或網(wǎng)站推廣引流，最終吸引潛在受害者下載指定App實(shí)施“殺豬盤”詐騙活動。

利用AI散布謠言 “有視頻也未必有真相”

對于我們個(gè)人來說，網(wǎng)絡(luò)安全的風(fēng)險(xiǎn)讓犯罪分子盯上了我們的錢袋子，而從社會層面來說，眼下，就有不少人利用AI技術(shù)散播謠言，嚴(yán)重?cái)_亂社會秩序，造成惡劣影響。

“有視頻也未必有真相”。今年6月2日，浙江警方破獲一起利用AI技術(shù)制作虛假視頻編造網(wǎng)絡(luò)謠言非法牟利案。這則“紹興上虞工業(yè)園區(qū)發(fā)生重大火災(zāi)”的視頻就是通過AI技術(shù)深度合成，看上去煞有其事的播報(bào)事件，實(shí)際上子虛烏有，視頻實(shí)為網(wǎng)上其他火災(zāi)畫面剪輯拼接而成。

記者了解到，5月中旬以來，該團(tuán)伙為吸粉引流、牟取利益，利用AI合成技術(shù)自動生成虛假視頻，通過平臺返利形式非法獲利4萬余元。截至案發(fā)，已經(jīng)編造虛假視頻1.8萬余個(gè)，有20個(gè)視頻造成惡劣影響。

通過AI合成技術(shù)，不法分子大大降低了虛假視頻的制作門檻，有的僅需1分鐘就可以制作完成；而當(dāng)這種技術(shù)應(yīng)用在虛假文章生產(chǎn)上，則成了違法違規(guī)的重災(zāi)區(qū)。

今年6月，一則“綿陽大學(xué)生涉嫌賣淫800多次，賺120余萬元，警方成功抓獲”的配圖文章引發(fā)網(wǎng)民圍觀，后經(jīng)警方證實(shí)，為AI軟件自動生成虛假文章；

今年3月，山東警方破獲一起特大造謠引流網(wǎng)絡(luò)水軍案，某傳媒公司利用群控軟件和人工智能技術(shù)，大肆爬取境內(nèi)外短視頻內(nèi)容，篡改編造敏感社會事件，在網(wǎng)絡(luò)平臺發(fā)布虛假信息，通過其運(yùn)營的自媒體賬號達(dá)4萬多個(gè)，虛假帖文信息80多萬篇。

除了一些“網(wǎng)絡(luò)水軍”通過編造傳播虛假信息，造熱點(diǎn)、帶節(jié)奏、牟取經(jīng)濟(jì)利益，更有一些不法分子，利用網(wǎng)絡(luò)謠言實(shí)施敲詐勒索。

今年3月以來，山東張某某等3人運(yùn)營多個(gè)超百萬粉絲的“大V”賬號，專門編造發(fā)布針對單位或個(gè)人的虛假信息，并使用多個(gè)賬號相互轉(zhuǎn)發(fā)評論進(jìn)行炒作，借機(jī)向受害單位及個(gè)人敲詐勒索，嚴(yán)重?cái)_亂社會秩序，造成惡劣影響。

武漢市地震監(jiān)測中心遭境外網(wǎng)絡(luò)攻擊事件

對于個(gè)人來說，網(wǎng)絡(luò)詐騙讓人深惡痛絕，而對于社會和國家來說，網(wǎng)絡(luò)攻擊、網(wǎng)絡(luò)竊密又會構(gòu)成哪些威脅？今年7月，武漢市公安局江漢分局發(fā)布了一份不同尋常的警情通報(bào)，通報(bào)顯示，武漢市地震監(jiān)測中心部分地震速報(bào)數(shù)據(jù)前端臺站采集點(diǎn)網(wǎng)絡(luò)設(shè)備遭受網(wǎng)絡(luò)攻擊，相關(guān)的地震烈度數(shù)據(jù)極有可能被竊取。

據(jù)江漢分局警情通報(bào)顯示，此次武漢地震監(jiān)測中心遭受網(wǎng)絡(luò)攻擊后，地震速報(bào)前端臺站采集的地震烈度數(shù)據(jù)極有可能被竊取。

據(jù)地震領(lǐng)域的相關(guān)專家介紹，地震數(shù)據(jù)是目前探測地下空間最有效的一個(gè)手段。調(diào)查組獲取的大量證據(jù)也顯示，此次武漢地震監(jiān)測中心遭遇網(wǎng)絡(luò)攻擊的幕后黑手，來源于美國的情報(bào)機(jī)構(gòu)。

360公司網(wǎng)絡(luò)安全專家 邊亮：通過大數(shù)據(jù)我們發(fā)現(xiàn)了一個(gè)樣本的編寫復(fù)雜度，這種武器的縝密程度，包括攻擊的單位的重要程度，一個(gè)非常特別的攻擊事件。我們把這個(gè)事件進(jìn)行分析和還原，發(fā)現(xiàn)它里邊這種代碼的編寫習(xí)慣，包括武器的整體架構(gòu)，都嚴(yán)格遵循著CIA（美國中央情報(bào)局）相關(guān)那種技術(shù)框架。

據(jù)了解，近些年，美國的國家安全局、中央情報(bào)局等情報(bào)機(jī)構(gòu)頻繁對我國相關(guān)敏感機(jī)構(gòu)發(fā)動網(wǎng)絡(luò)攻擊，他們的網(wǎng)絡(luò)武器使用了極其嚴(yán)格的間諜技術(shù)規(guī)范，各種攻擊手法前后呼應(yīng)、環(huán)環(huán)相扣，現(xiàn)已覆蓋全球幾乎所有互聯(lián)網(wǎng)和物聯(lián)網(wǎng)資產(chǎn)，可以隨時(shí)隨地控制別國網(wǎng)絡(luò)，盜取別國重要、敏感數(shù)據(jù)。

國家計(jì)算機(jī)病毒應(yīng)急處理中心高級工程師 杜振華：目前在美國情報(bào)機(jī)構(gòu)體系中主要情報(bào)機(jī)構(gòu)有18個(gè)，除了中央情報(bào)局和國家安全局外，隸屬于美國國防部的國防情報(bào)局、國家地理空間情報(bào)局，國家偵察局等，都具有很強(qiáng)的軍事地理地質(zhì)信息情報(bào)分析能力。此次攻擊，我們不排除多個(gè)情報(bào)機(jī)構(gòu)合作的可能性。

網(wǎng)絡(luò)安全領(lǐng)域面臨哪些新挑戰(zhàn)？

隨著技術(shù)的發(fā)展，目前，網(wǎng)絡(luò)安全領(lǐng)域面臨哪些新情況、新問題、新挑戰(zhàn)？

廣東省數(shù)字政府網(wǎng)絡(luò)和數(shù)據(jù)安全應(yīng)急響應(yīng)專家組專家 李新亮：我們面臨的網(wǎng)絡(luò)安全形勢越來越嚴(yán)峻了，分布式拒絕服務(wù)攻擊同期上升了200%，網(wǎng)站被篡改的數(shù)量同期增長了159%，被植入的后門同期增長了250%多。我們面臨的一些問題特別是在網(wǎng)絡(luò)安全建設(shè)方面，因?yàn)樵谶^往我們更多的基于合規(guī)去建設(shè)網(wǎng)站安全能力，這樣的話，如果面對高強(qiáng)度的網(wǎng)絡(luò)攻擊或者多樣化的網(wǎng)絡(luò)攻擊是遠(yuǎn)遠(yuǎn)不夠的。

全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會委員 李雪瑩：生成式人工智能可能會被攻擊者用來挖掘漏洞生成惡意代碼，甚至自動地進(jìn)行網(wǎng)絡(luò)攻擊，這就降低了網(wǎng)絡(luò)犯罪的門檻，給網(wǎng)絡(luò)安全帶來了一個(gè)巨大的挑戰(zhàn)。生成式人工智能也有可能被用來生成一些虛假的信息，這些信息在社會層面和國家層面可能會造成相應(yīng)的安全危害。

網(wǎng)絡(luò)安全“四梁八柱”基本確立

今年是我國網(wǎng)絡(luò)安全法施行的第6年。這部我國網(wǎng)絡(luò)安全領(lǐng)域的基礎(chǔ)性法律，對個(gè)人信息保護(hù)、治理網(wǎng)絡(luò)詐騙、實(shí)施網(wǎng)絡(luò)實(shí)名制等方面作出明確規(guī)定，成為我國網(wǎng)絡(luò)空間法治化建設(shè)的重要里程碑。近年來，我國加快推進(jìn)網(wǎng)絡(luò)安全領(lǐng)域頂層設(shè)計(jì)，網(wǎng)絡(luò)安全的“四梁八柱”基本確立。那么，嚴(yán)防攻擊竊密詐騙，網(wǎng)絡(luò)安全防火墻如何筑更牢？

全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會專家 程度：從監(jiān)管方面，最近幾年國家推出了很多關(guān)于網(wǎng)絡(luò)安全方面的法律，從未來的預(yù)見來看，這種法律的推動、執(zhí)行的力度是逐年在加強(qiáng)的。第二，從整個(gè)信息化的轉(zhuǎn)型來看，大部分的數(shù)據(jù)和信息系統(tǒng)，包括一些應(yīng)用都在云上，所以說未來可能對于云這方面的安全保障，投入人力和物力會越來越多。第三是對于個(gè)人信息的保護(hù)，增強(qiáng)大家自己的意識，包括對于自己敏感數(shù)據(jù)泄露的敏感性、警惕性，以及不要隨意下載一些惡意軟件，公眾要提高這樣的一些意識。