新報告揭示了四種關(guān)鍵的人工智能驅(qū)動的網(wǎng)絡(luò)威脅，并闡述了用戶如何在人工智能驅(qū)動的世界中智勝攻擊者。
近日，網(wǎng)絡(luò)安全解決方案先驅(qū)者和全球領(lǐng)導者 Check Point® 軟件技術(shù)有限公司（納斯達克股票代碼：CHKP）在2025年RSA大會期間正式發(fā)布首份《AI安全報告》。該報告系統(tǒng)分析了網(wǎng)絡(luò)犯罪分子如何“武器化”人工智能（AI）技術(shù)，并為安全從業(yè)者提供一系列有力的防御建議與實踐策略。隨著AI在各行各業(yè)的應(yīng)用中加速普及，數(shù)字世界中真假邊界正逐漸模糊。網(wǎng)絡(luò)攻擊者正利用生成式AI與大語言模型（LLM）大規(guī)模偽造身份，破壞公眾對數(shù)字身份的信任。如今，用戶在網(wǎng)絡(luò)上所看到、聽到或閱讀到的信息已無法簡單憑表象判斷真?zhèn)巍I驅(qū)動的深度偽造技術(shù)甚至可以繞過最先進的身份驗證機制，使每一個人都可能成為網(wǎng)絡(luò)欺詐的受害者。
“網(wǎng)絡(luò)犯罪組織對AI技術(shù)的快速采用，正在以前所未有的速度重塑威脅格局，”Check Point Research研究總監(jiān)Lotem Finkelstein表示。“某些地下服務(wù)平臺的智能化程度已經(jīng)相當高，而即將到來的下一階段將是‘數(shù)字分身’的崛起——它不僅是外貌或聲音的仿造，更是具備模擬人類思維與行為的AI復(fù)制體。這并不是遙不可及的未來，而是即將來臨的現(xiàn)實。”
人工智能安全報告的關(guān)鍵威脅洞察：
報告指出，這些發(fā)展背后的核心是人工智能能夠以極高仿真度模仿和操控數(shù)字身份，模糊了真實與失實之間的界限。以下是信任崩塌最為明顯的四個核心領(lǐng)域：
· AI增強型身份冒充與社交工程攻擊：攻擊者利用AI生成高度仿真的釣魚郵件、語音模擬和深度偽造視頻。近期甚至出現(xiàn)攻擊者通過AI語音合成冒充意大利國防部長的事件，充分說明網(wǎng)絡(luò)空間中無論是聲音、面容還是文字內(nèi)容都可能被偽造。
· 大語言模型（LLM）數(shù)據(jù)污染與失實信息傳播：黑客通過操控AI訓練數(shù)據(jù)，引導其輸出偏差內(nèi)容。例如，涉及俄羅斯失實信息網(wǎng)絡(luò)的“Pravda”相關(guān)案例顯示，AI聊天機器人有多達33%的回答內(nèi)容為失實敘事，凸顯AI系統(tǒng)數(shù)據(jù)完整性防護的重要性。
· AI生成惡意軟件與數(shù)據(jù)挖掘：網(wǎng)絡(luò)犯罪團伙借助AI技術(shù)生成并優(yōu)化惡意代碼、自動化DDoS攻擊流程，并對被盜數(shù)據(jù)進行清洗處理。以“Gabbers Shop”為代表的平臺，已通過AI提升數(shù)據(jù)轉(zhuǎn)售價值與攻擊目標精度。
· AI模型的武器化與劫持：從被盜的大語言模型賬號到暗網(wǎng)定制的FraudGPT、WormGPT等黑產(chǎn)模型，攻擊者正繞過原有安全機制，將AI工具商業(yè)化，用于黑客攻擊與詐騙活動。
安全防御建議：
Check Point指出，防御方應(yīng)默認AI技術(shù)已深度嵌入對抗體系，并據(jù)此調(diào)整安全架構(gòu)。為應(yīng)對這一挑戰(zhàn)，用戶應(yīng)采用具備人工智能意識的網(wǎng)絡(luò)安全框架，包括：
· AI輔助檢測與威脅狩獵：利用AI識別由AI生成的攻擊內(nèi)容，例如偽造郵件、深度合成視頻等。
· 多層次身份驗證機制：增強身份驗證，采取超越傳統(tǒng)的安全策略，實施多層身份驗證，以應(yīng)對文本、語音和視頻中的AI驅(qū)動的身份冒充——認識到數(shù)字身份的可信度已不再是理所當然。
· 基于AI上下文背景威脅情報能力：為安全團隊配備具備AI感知能力的分析工具，增強其對新型攻擊手段的識別與響應(yīng)能力。
“在人工智能驅(qū)動的時代，網(wǎng)絡(luò)安全團隊必須將AI能力整合入防御體系，與攻擊者實現(xiàn)同頻對抗，”Finkelstein補充道，“本報告不僅揭示了AI帶來的新型安全挑戰(zhàn)，更提供了構(gòu)建安全、負責任AI環(huán)境的行動路徑。”
完整的《2025 AI安全報告》現(xiàn)已開放下載！
關(guān)于 Check Point 軟件技術(shù)有限公司
Check Point 軟件技術(shù)有限公司（www.checkpoint.com）是數(shù)字信任領(lǐng)域的領(lǐng)先保護者，通過 AI 驅(qū)動的網(wǎng)絡(luò)安全解決方案，保護全球超過 100,000 家組織免受網(wǎng)絡(luò)威脅。Check Point 通過其 Infinity 平臺與開放生態(tài)系統(tǒng)，堅持“預(yù)防為先”的理念，在提升安全效能的同時降低企業(yè)風險。依托以 SASE 為核心的混合網(wǎng)格架構(gòu)，Infinity 平臺實現(xiàn)了本地、云端及辦公環(huán)境的統(tǒng)一管理，為企業(yè)及服務(wù)提供商帶來靈活、簡潔、可擴展的網(wǎng)絡(luò)安全能力。
申請創(chuàng)業(yè)報道，分享創(chuàng)業(yè)好點子。點擊此處，共同探討創(chuàng)業(yè)新機遇！
