在AI快速發(fā)展的背景下，基于AI大模型應(yīng)用提供服務(wù)已成常態(tài)，常見應(yīng)用場景包括對內(nèi)辦公類應(yīng)用和對外服務(wù)類應(yīng)用。對內(nèi)辦公提供資料檢索、文案生成、文稿校對、數(shù)據(jù)分析等服務(wù)；對外提供智能問答、信息檢索、業(yè)務(wù)導(dǎo)辦等服務(wù)。雖然AI大模型應(yīng)用給我們帶來了諸多便利和正向價值，但也伴隨著提示詞注入、數(shù)據(jù)竊取、敏感數(shù)據(jù)泄露等風(fēng)險問題。針對AI大模型應(yīng)用場景，北信源數(shù)據(jù)安全防泄露（XDLP）產(chǎn)品提供了大模型“保密護(hù)欄”能力，全面保障大模型應(yīng)用數(shù)據(jù)安全。
近期密集發(fā)布的政務(wù)大模型應(yīng)用相關(guān)指導(dǎo)文件，安全成為焦點(diǎn)。2025年9月25日發(fā)布的《政務(wù)大模型應(yīng)用安全規(guī)范》中提出政務(wù)部門在大模型應(yīng)用中可能會出現(xiàn)數(shù)據(jù)安全風(fēng)險、系統(tǒng)安全風(fēng)險和內(nèi)容安全風(fēng)險，應(yīng)在大模型的選用、部署、運(yùn)行、停運(yùn)的整個生命周期中遵守安全防護(hù)規(guī)范，保障大模型應(yīng)用安全。2025年10月10日兩部聯(lián)合發(fā)布的《政務(wù)領(lǐng)域人工智能大模型部署應(yīng)用指引》中指出政務(wù)部門在模型訓(xùn)練、部署應(yīng)用等過程中應(yīng)加強(qiáng)數(shù)據(jù)安全保密和個人信息保護(hù)，堅持底線思維，嚴(yán)格落實(shí)“涉密不上網(wǎng)、上網(wǎng)不涉密”等保密紀(jì)律要求，采取加裝保密“護(hù)欄”等措施，防止國家秘密、工作秘密和敏感信息等輸入非涉密人工智能大模型，防范敏感數(shù)據(jù)匯聚、關(guān)聯(lián)引發(fā)的泄密風(fēng)險。
針對指導(dǎo)文件提出的數(shù)據(jù)安全問題，北信源XDLP產(chǎn)品推出在終端用戶和大模型應(yīng)用之間構(gòu)建“安全護(hù)欄”的防護(hù)方案。產(chǎn)品對終端用戶和大模型之間的數(shù)據(jù)會話進(jìn)行監(jiān)控，對傳輸數(shù)據(jù)內(nèi)容敏感信息進(jìn)行精準(zhǔn)識別，對敏感數(shù)據(jù)傳輸行為進(jìn)行審計、告警和攔截處理，保障大模型應(yīng)用數(shù)據(jù)安全。
本產(chǎn)品內(nèi)置包含國家秘密、工作秘密、個人信息在內(nèi)的多種敏感內(nèi)容識別規(guī)則，開箱即用。提供覆蓋多模態(tài)數(shù)據(jù)的安全防護(hù)體系，能夠精準(zhǔn)識別與處理語音、文本、圖像等交互內(nèi)容。
本產(chǎn)品面向大模型各類應(yīng)用終端（包括Web端、私有化客戶端以及CHATBOX、CLOSECHART等通用客戶端），提供體系化的數(shù)據(jù)安全防護(hù)能力，覆蓋KIMI、DEEPSEEK、阿里通義千問、百度文心一言、字節(jié)豆包、騰訊混元、訊飛星火、ChatGPT等國內(nèi)外主流大模型。技術(shù)實(shí)現(xiàn)上，通過在終端部署安全防護(hù)代理，實(shí)時感知并解析大模型會話流量，基于對多種通信協(xié)議的深度解析，構(gòu)建起對混合模態(tài)數(shù)據(jù)的內(nèi)容識別與風(fēng)險感知能力。系統(tǒng)終端主體綜合風(fēng)險評估結(jié)果和數(shù)據(jù)敏感等級等上下文信息對敏感數(shù)據(jù)外發(fā)事件提供審計、提醒、攔截、審批等多種響應(yīng)處置手段。
北信源XDLP產(chǎn)品以數(shù)據(jù)資產(chǎn)為核心，構(gòu)建識別、防護(hù)、監(jiān)測、響應(yīng)、溯源的主動防御體系。依托NLP、OCR、語音識別等多模態(tài)AI技術(shù)，自動識別、分類、定級政企結(jié)構(gòu)化與非結(jié)構(gòu)化數(shù)據(jù)，動態(tài)生成數(shù)據(jù)資產(chǎn)地圖，實(shí)現(xiàn)資產(chǎn)可知可視。基于分類分級結(jié)果與終端主體的實(shí)時風(fēng)險評估，實(shí)現(xiàn)自適應(yīng)、精細(xì)化的終端全外發(fā)通道的動態(tài)防護(hù)策略。同時提供圖片、完整文檔、片段等多形式的溯源手段，全面提升企業(yè)溯源分析能力。
本產(chǎn)品已在政府、能源、金融（銀行/證券）及大型企業(yè)等多個關(guān)鍵行業(yè)實(shí)現(xiàn)規(guī)模化落地應(yīng)用，具備廣泛的行業(yè)適配性與實(shí)戰(zhàn)驗證能力。典型案例如某能源企業(yè)統(tǒng)建項目，累計部署終端幾十萬臺，充分驗證了產(chǎn)品在超大規(guī)模終端環(huán)境下的穩(wěn)定防護(hù)與集中管控能力。在某金融行業(yè)項目中，本產(chǎn)品與終端安全管理、云文檔協(xié)作及應(yīng)用系統(tǒng)深度集成的多維聯(lián)動方案，成功實(shí)現(xiàn)復(fù)雜業(yè)務(wù)場景下的系統(tǒng)化整合與安全閉環(huán)。
