2025年4月19日下午，中國計算機用戶協(xié)會信息安全分會在北京成功舉辦了“人工智能大模型在特定場景中的風(fēng)險分析及安全應(yīng)對研討會”。
研討會聚焦于最新熱點的人工智能技術(shù)，尤其是以DeepSeek為代表的通用人工智能在特定場景中的應(yīng)用風(fēng)險與安全問題。會議邀請了相關(guān)領(lǐng)域?qū)＜壹把雵蟆⑸婷軉挝幌嚓P(guān)部門負(fù)責(zé)人，他們分別來自上海、成都、重慶、深圳、綿陽、廣州等多地企業(yè)，共計 50 余人共同探討人工智能在特定場景下的應(yīng)用風(fēng)險與安全應(yīng)對策略。
中國計算機用戶協(xié)會信息安全分會副理事長兼秘書長 鄭濤
研討會由中國計算機用戶協(xié)會信息安全分會副理事長兼秘書長鄭濤主持。中國計算機用戶協(xié)會（總會）監(jiān)事、名譽副理事長、信息安全分會名譽理事長施峰到會致辭，他強調(diào)，要凝聚行業(yè)智慧，系統(tǒng)性分析大模型技術(shù)應(yīng)用潛在風(fēng)險，構(gòu)建科學(xué)安全應(yīng)對體系，為行業(yè)規(guī)范化發(fā)展提供支撐，期待參會代表貢獻(xiàn)建設(shè)性方案。
中國計算機用戶協(xié)會名譽副理事長、總會監(jiān)事 施峰
會上多位安全領(lǐng)域的專家發(fā)表了精彩演講，分會理事長李技全面梳理人工智能技術(shù)演進(jìn)脈絡(luò)，預(yù)測未來應(yīng)用趨勢，提出技術(shù)創(chuàng)新與安全防護(hù)需雙向驅(qū)動。
信息安全分會理事長 李技 AI 戰(zhàn)略布局：錨定核心賽道 驅(qū)動創(chuàng)新發(fā)展
北京北信源軟件股份有限公司董事、副總裁高曦介紹，公司圍繞國家重大安全戰(zhàn)略規(guī)劃進(jìn)行創(chuàng)新和布局，加大了人工智能領(lǐng)域投入力度，打造了“密信AI基座”，開發(fā)了多種AI能力，包括多模型混合駕駛艙、AI即時問答、教AI、語音助手等。目前“密信AI基座”已經(jīng)集成市面主流的多種大語言模型，如DeepSeek、Kimi、千問、文心一言等，并正在融合多功能智能體和多種開源大模型，具備AI辦文、辦事、辦會的綜合能力。通過“密信AI基座”不僅可以為第三方應(yīng)用提供大模型的統(tǒng)一標(biāo)準(zhǔn)化接口，減少應(yīng)用的適配開發(fā)工作量，而且還能通過AI基座監(jiān)控、過濾、審計不合理的AI訪問行為。可滿足黨政機關(guān)、軍工單位、金融機構(gòu)等高安全需求場景下的端到端安全通信與數(shù)據(jù)防護(hù)需求，在黨政軍企等領(lǐng)域取得顯著市場認(rèn)可。
北信源董事、副總裁 高曦
另一方面，北信源積極探索AI技術(shù)并進(jìn)軍國際市場，2024年推出了AI即時母語傳譯功能。通過替代人工翻譯和傳統(tǒng)同傳服務(wù)，有效打破語言壁壘，顯著減少跨國會議、商務(wù)談判中的語言服務(wù)成本，極大提升了全球溝通效率。在第21屆中國—東盟博覽會上發(fā)布的愛傳APP更是能幫助企業(yè)突破小語種人才短缺瓶頸，快速觸達(dá)新興市場。目前已成為文旅部“你好！中國”入境旅游活動語言翻譯服務(wù)唯一指定應(yīng)用。
通過持續(xù)創(chuàng)新，北信源為政府、軍隊、軍工、金融、能源、交通等重要單位提供行業(yè)領(lǐng)先的網(wǎng)絡(luò)與信息安全解決方案，彰顯出其在網(wǎng)絡(luò)安全領(lǐng)域的強大競爭力和良好發(fā)展前景。 接下來，與會專家也分享了各自領(lǐng)域的一些情況。 中航工業(yè)集團成飛公司總監(jiān)、信息安全分會副理事長董武高結(jié)合實際業(yè)務(wù)，分析實踐應(yīng)用中的風(fēng)險類型，總結(jié)出五個方向的應(yīng)對思路。 成飛公司保密總監(jiān)、信息安全分會副理事長 董武高
中國長城互聯(lián)網(wǎng)信息中心總工程師賈利濱，就“新興領(lǐng)域中人工智能（DeepSeek）技術(shù)應(yīng)用的挑戰(zhàn)和實踐”進(jìn)行經(jīng)驗介紹，分享中國長城互聯(lián)網(wǎng)在新質(zhì)戰(zhàn)斗力建設(shè)中的應(yīng)用場景與解決方案。
中國長城互聯(lián)網(wǎng)信息中心總工 賈利濱 場景實踐：AI安全應(yīng)用的典型案例與行業(yè)啟示 在案例分享環(huán)節(jié)，北信源央企行業(yè)總監(jiān)郭軍廷針對AI在內(nèi)網(wǎng)安全工作中的應(yīng)用場景及安全實踐，介紹了兩個典型場景，信源密信AI能力平臺和商業(yè)秘密及工作秘密防護(hù)方案。信源密信是北信源歷時十年耗資十多億打造的高安全即時通信平臺，服務(wù)于國家重點工程和重點單位，其在國產(chǎn)化環(huán)境適配、服務(wù)器私有部署、技術(shù)自主可控以及多產(chǎn)品形態(tài)構(gòu)建等方面成果顯著，能夠充分滿足不同客戶的多樣化需求。 信源密信系列產(chǎn)品憑借其在安全性、技術(shù)創(chuàng)新、市場認(rèn)可度以及政策支持等方面的優(yōu)勢，為用戶提供高效服務(wù)，帶動公司實現(xiàn)快速增長；商業(yè)秘密及工作秘密一體化解決方案為用戶解決了商密和工作秘密不同防護(hù)要求的難題，一體化防護(hù)方案既解決了大型央國企敏感數(shù)據(jù)防護(hù)的難題，又滿足了相關(guān)指引指南政策的要求，同時兼顧了高效便捷且不影響用戶辦公習(xí)慣的需求，而且方案引入AI在輔助定密、判密、分析決策等方面的能力，幫用戶實現(xiàn)效率提升、價值創(chuàng)造和風(fēng)險對沖。 北信源央企行業(yè)總監(jiān) 郭軍廷 郭軍廷的分享，引發(fā)了與會領(lǐng)導(dǎo)嘉賓對行業(yè)未來發(fā)展的深度思考與廣泛共鳴，為推動我國信息安全產(chǎn)業(yè)高質(zhì)量發(fā)展提供了極具價值的實踐范本與創(chuàng)新思路。 協(xié)同創(chuàng)新：共建 AI 應(yīng)用與安全平臺實驗室
隨后，戰(zhàn)略合作正式啟動，信息安全分會副理事長蔣成彬宣布“信息安全分會與北信源共同建設(shè)人工智能（DeepSeek）應(yīng)用與安全平臺實驗室”。他介紹，實驗室將充分整合信息安全分會與北信源的資源優(yōu)勢，凝聚雙方在信息安全領(lǐng)域和人工智能領(lǐng)域的專業(yè)力量，形成協(xié)同創(chuàng)新的工作機制，共同開展相關(guān)研究與實踐。實驗室圍繞著核心目標(biāo)開展AI應(yīng)用安全風(fēng)險研究，為制定針對性的解決方案提供理論支持。實現(xiàn)對AI應(yīng)用的安全監(jiān)測、評估與防護(hù)，提升AI系統(tǒng)的安全性能。向往更多單位積極加入實驗室團隊，共同分享研究成果和經(jīng)驗，推動AI在安全領(lǐng)域的做深做實。
信息安全分會副理事長 蔣成彬 在研討交流環(huán)節(jié)，參會代表圍繞會議主題與實際需求展開深入討論，從風(fēng)險分析、技術(shù)應(yīng)用、安全應(yīng)對、保密合規(guī)等多元視角分享觀點和實踐路徑。信息安全分會李技理事長在總結(jié)中提到，期待各方以此次研討為契機，將討論成果轉(zhuǎn)化為實際行動，共同構(gòu)筑大模型安全發(fā)展的堅實屏障，推動人工智能技術(shù)在安全、可控的軌道上賦能社會。 下一步，信息安全分會將持續(xù)搭建技術(shù)交流平臺，聚焦信息安全領(lǐng)域前沿問題，通過政策研究、技術(shù)研討、標(biāo)準(zhǔn)建設(shè)等多元形式，助力行業(yè)構(gòu)建安全可控的人工智能應(yīng)用生態(tài)
