ChatGPT引發新安全風險 網絡安全攻防進入智能對抗時代

  網絡滲透測試     |      2023-03-30 01:11

21世紀經濟報道記者白楊 北京報道

以ChatGPT為代表的人工智能技術正掀起新一輪人工智能革命,與此同時,也引發了潛在的新型網絡攻擊和內容合規等安全風險。3月21日,中國產業互聯網發展聯盟、騰訊安全等機構聯合發布的《2023產業互聯網安全十大趨勢》報告,便把“大模型AI計算廣泛應用安全領域,攻防進入智能化對抗時代”列為十大趨勢之一。

報告認為,人工智能技術為各行各業的業務和人們的生活帶來了巨大的發展潛力,也為網絡安全形勢帶來前所未有的挑戰。人工智能是一把雙刃劍,一方面,人工智能可用于提高網絡安全的效率,包括自動檢測和響應威脅、智能識別漏洞;另一方面,黑客也可將人工智能技術用于網絡犯罪活動,這將是對網絡安全的真正威脅。

知其安創始人兼CEO聶君在接受21世紀經濟報道記者采訪時也表示,ChatGPT首先會帶來一些數據安全的隱患,因為大家在試用過程中,會把一些像代碼的敏感信息輸入進去,而ChatGPT的服務器、數據都保存在國外。其次,ChatGPT輸出的內容并不具備驗真或者驗偽的作用,所以,如果直接拿ChatGPT結果來做相應的一些安全確認,也會帶來一些隱患。

不過,聶君也提到,很多安全行業人士也在使用ChatGPT提高工作效率?!耙恍┌踩邪岩恍└婢?、日志解析等原來由人工完成的、比較中低端的技術活交給ChatGPT來做,它的完成效率還很不錯,這則是ChatGPT給安全方面帶來的積極作用?!?/p>

報告指出,目前,網絡攻擊者已開始使用ChatGPT創建惡意軟件、暗網站點和其他實施網絡攻擊的工具。此外,使用ChatGPT編寫用于網絡攻擊的惡意軟件代碼,將會大大降低攻擊者的編程或技術能力門檻,將導致即使沒有技術基礎也能成為攻擊者。

騰訊安全策略發展中心總經理呂一平以詐騙場景為例說道,在安全專業領域有一個詞叫“社工”,是一種社交攻擊方式,通過跟用戶聊天或者郵件溝通,誘導對方點擊惡意鏈接,或是讓對方在毫無感知的情況下,下載一些惡意軟件,從而入侵對方電腦竊取數據。

“過去,詐騙分子為了冒充一個身份,需要做釣魚劇本,準備一套說辭,這些以前都是由人工完成。但現在有了ChatGPT,我們已經觀察到有犯罪分子在用ChatGPT做劇本設計?!眳我黄奖硎?,“按照我們經驗,如果人工做這樣一個劇本設計,他要先深入了解對方的工作,需要花很長時間,而通過ChatGPT可以大幅度提升這個效率。所以,過去社交誘騙中的角色更多是HR、財務、保險、銀行業務員等等,但是未來基于ChatGPT,可能有更多不同的誘騙角色出現?!?/p>

報告也認為,人工智能賦能網絡攻擊與傳統網絡攻擊在技術與手法上相比,將使過去勞動密集型、成本高昂的攻擊手法開始徹底轉型,朝著分布式、智能化、自動化方向發展,從而形成更為精準和快速的自動化攻擊手法。所以未來,隨著大模型AI計算被廣泛應用于網絡攻擊各個領域,網絡安全形勢將更加嚴峻,攻防真正進入智能化對抗時代。

對于ChatGPT的未來,聶君認為,安全只能提高門檻,并不能杜絕。比如說作為維護方,他們其實有一些底層的基準定義,通常說不能反人類,不能教唆人們去犯罪,這是底層基礎的原則。

但是,這些基本原則很難覆蓋到各行各業,所以會導致信息大量出來后,辯證真偽很困難,成本很高?!斑@個時候,可能需要一些行業組織,去制定一些相應的規則和策略,用規則來約束ChatGPT?!甭櫨硎?。