360胡振泉出席2024數(shù)博會：應(yīng)對大模型數(shù)據(jù)安全風(fēng)險(xiǎn)要“以模制?！?/h1>

次閱讀 ? 作者：網(wǎng)絡(luò)? 來源： 網(wǎng)絡(luò) ? 2024-08-28

摘要： 2024數(shù)博會：360提出小模型策略，破解大模型數(shù)據(jù)安全“黑匣子”難題

8月28日，2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會在貴陽國際生態(tài)會議中心隆重召開，一場以“人工智能時代數(shù)據(jù)安全風(fēng)險(xiǎn)和應(yīng)對策略”為主題的數(shù)據(jù)安全交流活動吸引了眾多行業(yè)專家和企業(yè)代表。該活動由國家數(shù)據(jù)局指導(dǎo)，貴州省大數(shù)據(jù)發(fā)展管理局、貴陽市人民政府主辦，中國互聯(lián)網(wǎng)協(xié)會承辦，貴州省互聯(lián)網(wǎng)協(xié)會協(xié)辦，旨在深入探討數(shù)據(jù)安全最新熱點(diǎn)、技術(shù)和產(chǎn)業(yè)發(fā)展動向，提升數(shù)據(jù)安全治理和保障能力。

隨著大模型在各行各業(yè)的廣泛應(yīng)用，其在提升效能的同時，也帶來了數(shù)據(jù)安全和隱私保護(hù)的擔(dān)憂。對此，360數(shù)字安全集團(tuán)總裁胡振泉指出，數(shù)據(jù)安全風(fēng)險(xiǎn)主要源于兩個方面：一是數(shù)據(jù)收集和處理階段的不規(guī)范操作，可能導(dǎo)致隱私數(shù)據(jù)的泄露；二是大模型的內(nèi)部機(jī)制像一個“黑匣子”，生成的內(nèi)容難以預(yù)測，增加了隱私泄露的可能性。

為了應(yīng)對大模型帶來的一系列數(shù)據(jù)安全挑戰(zhàn)，胡振泉提出，首先，需要對大模型訓(xùn)練數(shù)據(jù)的全生命周期進(jìn)行嚴(yán)格的監(jiān)控和管理，對數(shù)據(jù)語料進(jìn)行更嚴(yán)格的智能治理。其次，他提倡通過“以模制模”的方法，即利用人工智能技術(shù)來解決人工智能帶來的數(shù)據(jù)安全問題。具體而言，要構(gòu)建專用的、規(guī)模較小的專業(yè)大模型，對大模型的輸入輸出內(nèi)容進(jìn)行雙向安全監(jiān)測。

對于未來的大模型數(shù)據(jù)安全趨勢，胡振泉建議企業(yè)應(yīng)根據(jù)自身業(yè)務(wù)情況，采取“小切口、大縱深”的策略，精準(zhǔn)定位業(yè)務(wù)場景，逐步提升數(shù)字化水平，以小步快跑的方式實(shí)現(xiàn)企業(yè)的全面AI化。

作為國內(nèi)唯一兼具安全能力和AI技術(shù)雙重優(yōu)勢的廠商，360針對攻擊檢測、運(yùn)營處置、追蹤溯源、知識管理、數(shù)據(jù)保護(hù)和代碼安全等六個關(guān)鍵安全場景，開發(fā)了六個專家級別的子模型。這些子模型共同構(gòu)成了360安全大模型，并已在終端安全、安全運(yùn)營、安全服務(wù)等多個業(yè)務(wù)場景中得到實(shí)際應(yīng)用。

未來，360將繼續(xù)秉持“上山下海助小微”的企業(yè)使命，以數(shù)字安全和人工智能雙主線，為數(shù)字化轉(zhuǎn)型和創(chuàng)

---

詳情請關(guān)注安在新媒體，一家信息安全領(lǐng)域媒體，以“做有內(nèi)涵的泛黑客媒體”為方向，線上通過自媒體，采訪網(wǎng)絡(luò)安全領(lǐng)域人物梳理行業(yè)脈絡(luò)，通過介紹他們的經(jīng)歷、感悟、對行業(yè)的看法等來剖析網(wǎng)絡(luò)安全發(fā)展的脈絡(luò)；致力于建立完整的信息發(fā)布矩陣，覆蓋微信、微博、知乎等主流自媒體渠道。

 

官網(wǎng)：http://anzerclub.com/

市場部聯(lián)系（廠商）：徐倩（微信：Madeline_Sue）

市場部聯(lián)系（甲方）：Tina（微信：xuqingqing823125689 ）及 Enco（微信：Anzer10）