當ChatGPT首次問世時，我詢問了一個由CISO組成的小組，這對他們的網(wǎng)絡(luò)安全計劃意味著什么。他們認識到了即將到來的變化，但回顧了過去的顛覆性技術(shù)，如iPods、Wi-Fi接入點和SaaS應(yīng)用程序進入企業(yè)界的情況。大家的共識是，安全AI將成為一個類似的顛覆者，因此他們認為80%(或更多)的AI安全要求已經(jīng)到位。諸如強大的資產(chǎn)清單、數(shù)據(jù)安全、身份治理、漏洞管理等安全基礎(chǔ)，將作為AI網(wǎng)絡(luò)安全的基礎(chǔ)。
快進到2025年，我的CISO朋友們說得對——但又不完全對。確實，一個健全且全面的企業(yè)安全計劃可以作為AI安全的錨點，但剩下的20%比最初想象的要更具挑戰(zhàn)性。AI應(yīng)用正在迅速擴大攻擊面，同時還將攻擊面擴展到第三方合作伙伴，以及深入到軟件供應(yīng)鏈內(nèi)部，這意味著有限的可見性和盲點。AI通常根植于開源和API連接性，因此可能到處都存在影子AI活動。最后，AI創(chuàng)新正在迅速推進，使得負擔過重的安全團隊難以跟上步伐。
除了AI的技術(shù)方面外，值得注意的是，許多AI項目最終都以失敗告終。根據(jù)標準普爾全球市場情報(S&P Global Market Intelligence)的研究，2025年有42%的企業(yè)關(guān)閉了大部分AI倡議(相比之下，2024年這一比例為17%)。此外，近一半(46%)的企業(yè)在AI概念驗證還未進入生產(chǎn)階段就已叫停。
為什么這么多AI項目會失敗?行業(yè)研究指出，成本、數(shù)據(jù)質(zhì)量差、缺乏治理、人才缺口以及擴展問題等是主要原因。
隨著項目的失敗和一系列安全挑戰(zhàn)的出現(xiàn)，企業(yè)在確保穩(wěn)健的AI創(chuàng)新和安全戰(zhàn)略方面有一長串且不斷增長的任務(wù)清單。當我最近與我的CISO朋友們會面時，他們經(jīng)常強調(diào)以下五個優(yōu)先事項：
1. 以強大的治理模型為起點
需要明確的是，我所說的不僅僅是技術(shù)或安全。事實上，AI治理模型必須始于業(yè)務(wù)和技術(shù)團隊之間就AI如何以及在哪里用于支持企業(yè)使命達成的一致。
為了實現(xiàn)這一點，CISO應(yīng)與CIO合作，對業(yè)務(wù)領(lǐng)導(dǎo)者以及法律、財務(wù)等業(yè)務(wù)職能部門進行教育，以建立一個支持業(yè)務(wù)需求和技術(shù)能力的AI框架，該框架應(yīng)遵循從構(gòu)思到生產(chǎn)的生命周期，并包括倫理考慮、可接受的使用政策、透明度、監(jiān)管合規(guī)性以及成功指標。
在此過程中，CISO應(yīng)審查現(xiàn)有的框架，如NIST AI風(fēng)險管理框架、ISO/IEC 42001:2023、聯(lián)合國教科文企業(yè)關(guān)于人工智能倫理的建議，以及RockCyber的RISE(研究、實施、維持、評估)和CARE(創(chuàng)建、采用、運行、進化)框架。企業(yè)可能需要創(chuàng)建一個適合其特定需求的“最佳”框架。
2. 全面且持續(xù)地了解AI風(fēng)險
要掌握企業(yè)的AI風(fēng)險，首先要從基礎(chǔ)做起，如AI資產(chǎn)清單、軟件物料清單、漏洞和暴露管理最佳實踐以及AI風(fēng)險登記冊。除了基礎(chǔ)衛(wèi)生外，CISO和安全專業(yè)人員必須了解AI特有的威脅，如模型中毒、數(shù)據(jù)推斷、提示注入等。威脅分析師需要跟上新興的戰(zhàn)術(shù)、技術(shù)和程序(TTP)，這些用于AI攻擊。MITRE ATLAS是一個很好的資源。
隨著AI應(yīng)用擴展到第三方，CISO將需要對第三方數(shù)據(jù)、AI安全控制、供應(yīng)鏈安全等進行定制審計。安全領(lǐng)導(dǎo)者還必須關(guān)注新興且經(jīng)常變化的AI法規(guī)。歐盟AI法案是目前最全面的，強調(diào)安全性、透明度、非歧視性和環(huán)境友好性。其他法規(guī)，如科羅拉多州人工智能法案(CAIA)，可能會隨著消費者反應(yīng)、企業(yè)經(jīng)驗和法律判例法的演變而迅速變化。CISO應(yīng)預(yù)期其他州、聯(lián)邦、地區(qū)和行業(yè)法規(guī)的出現(xiàn)。
3. 關(guān)注不斷發(fā)展的數(shù)據(jù)完整性定義
你可能會認為這是顯而易見的，因為機密性、完整性和可用性構(gòu)成了網(wǎng)絡(luò)安全的CIA三要素，但在信息安全領(lǐng)域，數(shù)據(jù)完整性一直側(cè)重于未經(jīng)授權(quán)的數(shù)據(jù)修改和數(shù)據(jù)一致性等問題。這些保護措施仍然是必要的，但CISO應(yīng)擴大其視野，以包括AI模型本身的數(shù)據(jù)完整性和真實性。
為了說明這一點，這里有一些著名的數(shù)據(jù)模型問題示例。亞馬遜創(chuàng)建了一個AI招聘工具，以幫助其更好地篩選簡歷并選擇最合格的候選人。不幸的是，該模型主要使用男性導(dǎo)向的數(shù)據(jù)進行訓(xùn)練，因此它歧視女性申請者。同樣，當英國創(chuàng)建一個護照照片檢查應(yīng)用程序時，其模型是使用白皮膚的人進行訓(xùn)練的，因此它歧視深色皮膚的人。
AI模型的真實性不是CISSP認證的一部分，但CISO必須將其作為AI治理責(zé)任的一部分來掌握。
4. 在所有層面追求AI素養(yǎng)
每個員工、合作伙伴和客戶都將在某種程度上與AI合作，因此AI素養(yǎng)是一個高度優(yōu)先事項。CISO應(yīng)從自己的部門開始，對整個安全團隊進行AI基礎(chǔ)知識培訓(xùn)。
已建立的軟件安全開發(fā)生命周期(SDLC)應(yīng)進行修訂，以涵蓋AI威脅建模、數(shù)據(jù)處理、API安全等內(nèi)容。開發(fā)者還應(yīng)接受AI開發(fā)最佳實踐的培訓(xùn)，包括大型語言模型(LLM)的OWASP十大安全風(fēng)險、谷歌的安全AI框架(SAIF)以及云安全聯(lián)盟(CSA)的指導(dǎo)。
最終用戶培訓(xùn)應(yīng)包括可接受的使用、數(shù)據(jù)處理、錯誤信息和深度偽造培訓(xùn)。來自Mimecast等供應(yīng)商的人類風(fēng)險管理(HRM)解決方案可能是跟上AI威脅并為不同個體和角色定制培訓(xùn)所必需的。
5. 對用于網(wǎng)絡(luò)安全的AI技術(shù)保持謹慎樂觀的態(tài)度
我會將今天的AI安全技術(shù)歸類為更像是“駕駛員輔助”，如巡航控制，而非自動駕駛。盡管如此，事情正在迅速推進。
CISO應(yīng)要求其員工識別離散的任務(wù)，如警報分類、威脅狩獵、風(fēng)險評分和創(chuàng)建報告，在這些任務(wù)中他們可能需要一些幫助，然后開始研究這些領(lǐng)域的新興安全創(chuàng)新。
同時，安全領(lǐng)導(dǎo)者應(yīng)與領(lǐng)先的安全技術(shù)合作伙伴安排路線圖會議。參加這些會議時，要準備好討論具體需求，而不是聽那些不切實際的PowerPoint演示。CISO還應(yīng)直接詢問供應(yīng)商AI將如何用于現(xiàn)有技術(shù)的調(diào)優(yōu)和優(yōu)化。創(chuàng)新正在不斷涌現(xiàn)，因此我認為值得在現(xiàn)有合作伙伴、競爭對手和初創(chuàng)企業(yè)中廣泛尋找。
然而，要小心謹慎，許多AI“產(chǎn)品”實際上只是產(chǎn)品功能，AI應(yīng)用需要大量資源，且開發(fā)和運營成本高昂。一些初創(chuàng)企業(yè)將被收購，但許多可能會迅速衰落。買家要當心!
未來的機遇
我將以一個預(yù)測來結(jié)束這篇文章，目前，約70%的CISO向CIO匯報工作，我相信，隨著AI的普及，CISO的匯報結(jié)構(gòu)將迅速發(fā)生變化，更多地將直接向CEO匯報，那些在AI業(yè)務(wù)和技術(shù)治理中發(fā)揮領(lǐng)導(dǎo)作用的人很可能會成為首批被提拔的人。
企業(yè)網(wǎng)D1net(m.hfnxjk.com)：
國內(nèi)頭部to B IT門戶，旗下運營國內(nèi)最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_-信眾智(www.cioall.com)。旗下運營19個IT行業(yè)公眾號(微信搜索D1net即可關(guān)注)。
版權(quán)聲明：本文為企業(yè)網(wǎng)D1Net編譯，轉(zhuǎn)載需在文章開頭注明出處為：企業(yè)網(wǎng)D1Net，如果不注明出處，企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。
京公網(wǎng)安備 11010502049343號