不過，就目前而言，它并沒有讓攻擊者變得“更聰明”，也沒有徹底改變網絡威脅。
惡意行為者如何使用GenAI
該報告基于 CTA 成員可獲得的數據和實證案例研究，解釋了攻擊者目前使用GenAI的幾個方面：
• 創建深度偽造視頻和欺騙性圖像、克隆特定聲音的錄音、編寫高度逼真的電子郵件、信息和網站內容
• 輔助創建惡意軟件(但無法在沒有額外人為輸入和調整的情況下創建惡意軟件)
• 優化命令和控制操作(例如，用于管理僵尸網絡)
• 傳播錯誤信息和虛假信息(例如，以推動網絡陰謀論、影響選舉活動)
• 創建由AI控制的虛假社交媒體賬戶網絡(機器人農場)
分析人員發現，“雖然AI創新無疑具有強大功能，但到目前為止，它們只是逐步提升了對手的能力，并沒有創造出全新的威脅。”
挫敗AI增強的威脅
迄今為止，基礎的網絡安全實踐——定期軟件更新、多因素身份驗證、離線數據備份、終端監控、行為分析等——對于抵御所有威脅(包括那些由AI增強的威脅)仍然至關重要。
但對抗后者還需要結合技術解決方案(如深度偽造檢測器)以及更為重要的持續教育、獲取特定技能(如知道如何進行事實核查、反向圖像搜索、驗證元數據等)和鼓勵批判性思維。
CTA 分析師切爾西·康納德指出：“企業應強調以內容分析為重點的培訓，并培養一種健康懷疑的文化。應鼓勵員工提出諸如‘是我發起的這個請求嗎?’或‘這次通信與之前的交流一致嗎?’等問題。”
“其他防御措施可以依賴于技術和流程相結合的措施。技術工具可以分析內容是否被篡改，例如音頻不匹配。當這些工具不足時，企業可以依賴基于流程的措施，包括多渠道驗證、雙重審批或預先安排的認證短語，以提供關鍵保障。”
好消息是，對手對GenAI的使用尚未達到炒作的程度，如果企業和機構行動迅速，他們可以部署防御措施來阻止大多數由AI增強的威脅。
企業網D1net(m.hfnxjk.com)：
國內主流的to B IT門戶，旗下運營國內最大的甲方CIO專家庫和智力輸出及社交平臺-信眾智(www.cioall.com)。旗下運營19個IT行業公眾號(微信搜索D1net即可關注)。
版權聲明：本文為企業網D1Net編譯，轉載需在文章開頭注明出處為：企業網D1Net，如果不注明出處，企業網D1Net將保留追究其法律責任的權利。
京公網安備 11010502049343號