攻擊、爬蟲(chóng)、數(shù)據(jù)泄露？大模型應(yīng)用安全落地的生存指南
摘要： 本期《安全記》欄目圍繞“大模型應(yīng)用安全防護(hù)”主題展開(kāi)探討
AI大模型創(chuàng)新與應(yīng)用風(fēng)起云涌，有機(jī)構(gòu)預(yù)測(cè)2025年將涌現(xiàn)5億個(gè) ToB 和 ToC 的AI應(yīng)用，加速滲透到金融、制造、政務(wù)等千行百業(yè)，推動(dòng)生產(chǎn)效率與業(yè)務(wù)模式的深刻變革。但大模型的規(guī)模化應(yīng)用也給企業(yè)帶來(lái)了包括數(shù)據(jù)安全、內(nèi)容合規(guī)、系統(tǒng)穩(wěn)定性在內(nèi)的復(fù)雜風(fēng)險(xiǎn)。
基于此，本期《安全記》欄目圍繞“大模型應(yīng)用安全防護(hù)”主題展開(kāi)探討，首次邀請(qǐng)到了阿里云智能集團(tuán)研究院院長(zhǎng)穆飛擔(dān)任主持人，特邀阿里云通義大模型業(yè)務(wù)總經(jīng)理徐棟、阿里云安全產(chǎn)品負(fù)責(zé)人祝建躍作為嘉賓，共同就大模型應(yīng)用面臨的風(fēng)險(xiǎn)、防護(hù)方案等方面展開(kāi)探討，結(jié)合阿里云和客戶的供需雙方實(shí)踐經(jīng)驗(yàn)，深入淺出地解構(gòu)大模型應(yīng)用安全挑戰(zhàn)的應(yīng)對(duì)路徑與技術(shù)趨勢(shì)。
本文基于訪談嘉賓觀點(diǎn)進(jìn)行提煉，完整版內(nèi)容請(qǐng)點(diǎn)擊下方視頻。
AI大模型應(yīng)用存在大量安全風(fēng)險(xiǎn)
訪談中徐棟表示，在大模型應(yīng)用場(chǎng)景下的安全問(wèn)題主要有三類：
♦ 以數(shù)據(jù)安全為代表的傳統(tǒng)安全問(wèn)題依舊存在。
♦ 部分大模型在線服務(wù)類企業(yè)更加關(guān)注內(nèi)容安全問(wèn)題。
♦ 對(duì)系統(tǒng)穩(wěn)定性提出了更高要求，面對(duì)海量流量時(shí)確保平穩(wěn)可靠。
祝建躍則進(jìn)一步從技術(shù)角度闡述了上述安全風(fēng)險(xiǎn)出現(xiàn)的原因。他表示傳統(tǒng)的經(jīng)典安全問(wèn)題，比如DDoS攻擊等，在大模型場(chǎng)景下依然存在。但同時(shí)大模型應(yīng)用場(chǎng)景下，其獨(dú)特的服務(wù)形態(tài)還帶來(lái)了新興安全風(fēng)險(xiǎn)，例如算力環(huán)境安全、大模型API安全等，需要企業(yè)額外關(guān)注。
面對(duì)日益嚴(yán)峻的安全風(fēng)險(xiǎn)，祝建躍表示，大模型應(yīng)用場(chǎng)景下存在安全木桶理論，任何一塊短板的出現(xiàn)都可能帶來(lái)嚴(yán)重安全事故。
因此，大模型應(yīng)用需具備全棧防御思維：
♦ 安全防護(hù)流程上
要建立起事前治理、事中防護(hù)和事后響應(yīng)的安全閉環(huán)。
♦ 在安全防護(hù)路徑上
針對(duì)邊界層、系統(tǒng)層和應(yīng)用環(huán)境建立起多層次防護(hù)體系。
阿里云安全團(tuán)隊(duì)也在基于大模型應(yīng)用場(chǎng)景更新迭代防護(hù)方案，例如阿里云安全中心可對(duì)PAI、靈駿等Severless高性能GPU計(jì)算實(shí)例提供運(yùn)行時(shí)的威脅檢測(cè)，阻斷工作負(fù)載中的惡意進(jìn)程，特別是對(duì)于挖礦類的進(jìn)程能快速識(shí)別并自動(dòng)隔離，保障大模型應(yīng)用的穩(wěn)定性。
徐棟則從企業(yè)的視角分享了大模型應(yīng)用安全的實(shí)踐。他表示，大模型應(yīng)用相比于傳統(tǒng)互聯(lián)網(wǎng)應(yīng)用有一定的區(qū)別，其知識(shí)庫(kù)可能更加簡(jiǎn)潔直白，為此阿里云針對(duì)性推出“本地知識(shí)庫(kù)+云端模型”的安全架構(gòu)來(lái)滿足用戶訴求：既可以享受在云上調(diào)用最好、最領(lǐng)先的模型，又兼顧安全可控的體驗(yàn)。
祝建躍表示阿里云作為同時(shí)提供云計(jì)算與大模型服務(wù)的領(lǐng)先廠商，在云安全和大模型安全領(lǐng)域有著深厚的技術(shù)積累，以及豐富的安全實(shí)戰(zhàn)經(jīng)驗(yàn)，深刻理解企業(yè)業(yè)務(wù)效率和安全的平衡。例如推出了基于大模型的AI助手，幫助用戶更好地了解和處置告警。
同時(shí)將安全能力深度融入云原生架構(gòu)之中，具備云的天然優(yōu)勢(shì)，將包括彈性、高可用、規(guī)模化等賦予安全。最終為用戶打造一個(gè)統(tǒng)一的云計(jì)算與大模型應(yīng)用的安全防護(hù)體系，通過(guò)統(tǒng)一運(yùn)營(yíng)平臺(tái)實(shí)現(xiàn)“構(gòu)建-部署-運(yùn)行”全生命周期安全管理，減少人為配置錯(cuò)誤。
徐棟認(rèn)為阿里云通義大模型依托于“百煉”模型服務(wù)平臺(tái)，已經(jīng)有大量用戶使用，積累了豐富且成熟的經(jīng)驗(yàn)。因?yàn)椴扇￠_(kāi)源策略，所以阿里云在模型原生安全方面投入了大量的資源進(jìn)行強(qiáng)化，并且未來(lái)還會(huì)持續(xù)提升。此外在模型對(duì)外提供服務(wù)時(shí)，阿里云自帶安全圍欄，幫助用戶及時(shí)調(diào)整內(nèi)容策略，讓用戶有更多的時(shí)間對(duì)業(yè)務(wù)進(jìn)行優(yōu)化，無(wú)需擔(dān)心安全問(wèn)題。
祝建躍表示，未來(lái)阿里云將進(jìn)一步強(qiáng)化安全與AI的“雙向賦能”。在大模型應(yīng)用安全防護(hù)方面：
♦ 讓用戶更加方便、一體化地使用阿里云的安全能力；
♦ 對(duì)云安全中心AI-SPM的能力進(jìn)行升級(jí)，給予用戶更全面的安全態(tài)勢(shì)管理；
♦ 針對(duì)企業(yè)高需求防護(hù)場(chǎng)景，包括防爬蟲(chóng)、防DDoS攻擊、安全隔離等產(chǎn)品功能進(jìn)行升級(jí)（Security for AI）。
同時(shí)阿里云也將利用大模型全面提升安全能力（AI for Security），例如在內(nèi)容安全領(lǐng)域?qū)崿F(xiàn)“用模型打敗模型”；在威脅檢測(cè)及自動(dòng)化響應(yīng)方面去做更多的能力提升。
徐棟也表示，AI時(shí)代大量的風(fēng)險(xiǎn)來(lái)源于文本，因此通義大模型將在不久之后，針對(duì)非IT層面的內(nèi)容安全進(jìn)行一次大的升級(jí)，圍繞業(yè)務(wù)安全讓傳統(tǒng)小模型升級(jí)為大模型或大的風(fēng)控智能體。
阿里云安全
國(guó)際領(lǐng)先的云安全解決方案提供方，零信任SASE、數(shù)據(jù)安全、流量安全等8大安全域百余項(xiàng)核心能力，助力百行百業(yè)在云上構(gòu)建生于云架構(gòu)，具備高度一體化、智能化、自我進(jìn)化特征的原生安全保護(hù)體系。
阿里云安全能力獲權(quán)威機(jī)構(gòu)認(rèn)可：在2023年Forrester《基礎(chǔ)設(shè)施即服務(wù)平臺(tái)原生安全Wave™》報(bào)告中，阿里云榮升強(qiáng)勁表現(xiàn)者象限，容器安全等標(biāo)準(zhǔn)中獲得最高分；在IDC《中國(guó)公有云網(wǎng)絡(luò)安全即服務(wù)市場(chǎng)份額，2022》報(bào)告中，阿里云市場(chǎng)份額位居第一；在Gartner®發(fā)布的網(wǎng)絡(luò)防火墻魔力象限《Magic Quadrant™ for Network Firewalls，2022》中，阿里云連續(xù)2年進(jìn)入“挑戰(zhàn)者”象限。
云原生安全技術(shù)的引領(lǐng)探索和實(shí)踐者，通過(guò)安全能力與云緊耦合，實(shí)現(xiàn)雙向技術(shù)的變革式突破，安全能效數(shù)倍提升，高彈高可用、穩(wěn)定與協(xié)同；云服務(wù)內(nèi)置天然免疫基因，與用戶一起共同守護(hù)云上數(shù)字原生世界安全。
基于此，本期《安全記》欄目圍繞“大模型應(yīng)用安全防護(hù)”主題展開(kāi)探討，首次邀請(qǐng)到了阿里云智能集團(tuán)研究院院長(zhǎng)穆飛擔(dān)任主持人，特邀阿里云通義大模型業(yè)務(wù)總經(jīng)理徐棟、阿里云安全產(chǎn)品負(fù)責(zé)人祝建躍作為嘉賓，共同就大模型應(yīng)用面臨的風(fēng)險(xiǎn)、防護(hù)方案等方面展開(kāi)探討，結(jié)合阿里云和客戶的供需雙方實(shí)踐經(jīng)驗(yàn)，深入淺出地解構(gòu)大模型應(yīng)用安全挑戰(zhàn)的應(yīng)對(duì)路徑與技術(shù)趨勢(shì)。
本文基于訪談嘉賓觀點(diǎn)進(jìn)行提煉，完整版內(nèi)容請(qǐng)點(diǎn)擊下方視頻。
AI大模型應(yīng)用存在大量安全風(fēng)險(xiǎn)
訪談中徐棟表示，在大模型應(yīng)用場(chǎng)景下的安全問(wèn)題主要有三類：
♦ 以數(shù)據(jù)安全為代表的傳統(tǒng)安全問(wèn)題依舊存在。
♦ 部分大模型在線服務(wù)類企業(yè)更加關(guān)注內(nèi)容安全問(wèn)題。
♦ 對(duì)系統(tǒng)穩(wěn)定性提出了更高要求，面對(duì)海量流量時(shí)確保平穩(wěn)可靠。
祝建躍則進(jìn)一步從技術(shù)角度闡述了上述安全風(fēng)險(xiǎn)出現(xiàn)的原因。他表示傳統(tǒng)的經(jīng)典安全問(wèn)題，比如DDoS攻擊等，在大模型場(chǎng)景下依然存在。但同時(shí)大模型應(yīng)用場(chǎng)景下，其獨(dú)特的服務(wù)形態(tài)還帶來(lái)了新興安全風(fēng)險(xiǎn)，例如算力環(huán)境安全、大模型API安全等，需要企業(yè)額外關(guān)注。
大模型應(yīng)用“全棧防御”實(shí)踐
面對(duì)日益嚴(yán)峻的安全風(fēng)險(xiǎn)，祝建躍表示，大模型應(yīng)用場(chǎng)景下存在安全木桶理論，任何一塊短板的出現(xiàn)都可能帶來(lái)嚴(yán)重安全事故。
因此，大模型應(yīng)用需具備全棧防御思維：
♦ 安全防護(hù)流程上
要建立起事前治理、事中防護(hù)和事后響應(yīng)的安全閉環(huán)。
♦ 在安全防護(hù)路徑上
針對(duì)邊界層、系統(tǒng)層和應(yīng)用環(huán)境建立起多層次防護(hù)體系。
阿里云安全團(tuán)隊(duì)也在基于大模型應(yīng)用場(chǎng)景更新迭代防護(hù)方案，例如阿里云安全中心可對(duì)PAI、靈駿等Severless高性能GPU計(jì)算實(shí)例提供運(yùn)行時(shí)的威脅檢測(cè)，阻斷工作負(fù)載中的惡意進(jìn)程，特別是對(duì)于挖礦類的進(jìn)程能快速識(shí)別并自動(dòng)隔離，保障大模型應(yīng)用的穩(wěn)定性。
徐棟則從企業(yè)的視角分享了大模型應(yīng)用安全的實(shí)踐。他表示，大模型應(yīng)用相比于傳統(tǒng)互聯(lián)網(wǎng)應(yīng)用有一定的區(qū)別，其知識(shí)庫(kù)可能更加簡(jiǎn)潔直白，為此阿里云針對(duì)性推出“本地知識(shí)庫(kù)+云端模型”的安全架構(gòu)來(lái)滿足用戶訴求：既可以享受在云上調(diào)用最好、最領(lǐng)先的模型，又兼顧安全可控的體驗(yàn)。
阿里云AI大模型應(yīng)用安全的優(yōu)勢(shì)
祝建躍表示阿里云作為同時(shí)提供云計(jì)算與大模型服務(wù)的領(lǐng)先廠商，在云安全和大模型安全領(lǐng)域有著深厚的技術(shù)積累，以及豐富的安全實(shí)戰(zhàn)經(jīng)驗(yàn)，深刻理解企業(yè)業(yè)務(wù)效率和安全的平衡。例如推出了基于大模型的AI助手，幫助用戶更好地了解和處置告警。
同時(shí)將安全能力深度融入云原生架構(gòu)之中，具備云的天然優(yōu)勢(shì)，將包括彈性、高可用、規(guī)模化等賦予安全。最終為用戶打造一個(gè)統(tǒng)一的云計(jì)算與大模型應(yīng)用的安全防護(hù)體系，通過(guò)統(tǒng)一運(yùn)營(yíng)平臺(tái)實(shí)現(xiàn)“構(gòu)建-部署-運(yùn)行”全生命周期安全管理，減少人為配置錯(cuò)誤。
徐棟認(rèn)為阿里云通義大模型依托于“百煉”模型服務(wù)平臺(tái)，已經(jīng)有大量用戶使用，積累了豐富且成熟的經(jīng)驗(yàn)。因?yàn)椴扇￠_(kāi)源策略，所以阿里云在模型原生安全方面投入了大量的資源進(jìn)行強(qiáng)化，并且未來(lái)還會(huì)持續(xù)提升。此外在模型對(duì)外提供服務(wù)時(shí)，阿里云自帶安全圍欄，幫助用戶及時(shí)調(diào)整內(nèi)容策略，讓用戶有更多的時(shí)間對(duì)業(yè)務(wù)進(jìn)行優(yōu)化，無(wú)需擔(dān)心安全問(wèn)題。
針對(duì)大模型應(yīng)用
是否會(huì)有全新的安全產(chǎn)品形態(tài)出現(xiàn)？
是否會(huì)有全新的安全產(chǎn)品形態(tài)出現(xiàn)？
祝建躍表示，未來(lái)阿里云將進(jìn)一步強(qiáng)化安全與AI的“雙向賦能”。在大模型應(yīng)用安全防護(hù)方面：
♦ 讓用戶更加方便、一體化地使用阿里云的安全能力；
♦ 對(duì)云安全中心AI-SPM的能力進(jìn)行升級(jí)，給予用戶更全面的安全態(tài)勢(shì)管理；
♦ 針對(duì)企業(yè)高需求防護(hù)場(chǎng)景，包括防爬蟲(chóng)、防DDoS攻擊、安全隔離等產(chǎn)品功能進(jìn)行升級(jí)（Security for AI）。
同時(shí)阿里云也將利用大模型全面提升安全能力（AI for Security），例如在內(nèi)容安全領(lǐng)域?qū)崿F(xiàn)“用模型打敗模型”；在威脅檢測(cè)及自動(dòng)化響應(yīng)方面去做更多的能力提升。
徐棟也表示，AI時(shí)代大量的風(fēng)險(xiǎn)來(lái)源于文本，因此通義大模型將在不久之后，針對(duì)非IT層面的內(nèi)容安全進(jìn)行一次大的升級(jí)，圍繞業(yè)務(wù)安全讓傳統(tǒng)小模型升級(jí)為大模型或大的風(fēng)控智能體。
阿里云安全
國(guó)際領(lǐng)先的云安全解決方案提供方，零信任SASE、數(shù)據(jù)安全、流量安全等8大安全域百余項(xiàng)核心能力，助力百行百業(yè)在云上構(gòu)建生于云架構(gòu)，具備高度一體化、智能化、自我進(jìn)化特征的原生安全保護(hù)體系。
阿里云安全能力獲權(quán)威機(jī)構(gòu)認(rèn)可：在2023年Forrester《基礎(chǔ)設(shè)施即服務(wù)平臺(tái)原生安全Wave™》報(bào)告中，阿里云榮升強(qiáng)勁表現(xiàn)者象限，容器安全等標(biāo)準(zhǔn)中獲得最高分；在IDC《中國(guó)公有云網(wǎng)絡(luò)安全即服務(wù)市場(chǎng)份額，2022》報(bào)告中，阿里云市場(chǎng)份額位居第一；在Gartner®發(fā)布的網(wǎng)絡(luò)防火墻魔力象限《Magic Quadrant™ for Network Firewalls，2022》中，阿里云連續(xù)2年進(jìn)入“挑戰(zhàn)者”象限。
云原生安全技術(shù)的引領(lǐng)探索和實(shí)踐者，通過(guò)安全能力與云緊耦合，實(shí)現(xiàn)雙向技術(shù)的變革式突破，安全能效數(shù)倍提升，高彈高可用、穩(wěn)定與協(xié)同；云服務(wù)內(nèi)置天然免疫基因，與用戶一起共同守護(hù)云上數(shù)字原生世界安全。