近日，百度安全憑借在人工智能安全領(lǐng)域的創(chuàng)新實踐和突出貢獻，連續(xù)入選工業(yè)和信息化部兩項典型案例：作為單獨申報單位入選"2024年度網(wǎng)絡(luò)安全技術(shù)應(yīng)用典型案例"支持項目名單，同時名列151項"人工智能賦能新型工業(yè)化典型應(yīng)用案例"之中。
2024年度網(wǎng)絡(luò)安全技術(shù)應(yīng)用典型案例 & 人工智能賦能新型工業(yè)化典型應(yīng)用案例
作為AI安全領(lǐng)域的領(lǐng)軍企業(yè)，百度安全始終堅持以技術(shù)創(chuàng)新引領(lǐng)行業(yè)發(fā)展。在大模型技術(shù)快速迭代的背景下，百度大模型安全解決方案敏銳把握行業(yè)需求，從多模態(tài)內(nèi)容安全、端側(cè)內(nèi)容安全、數(shù)據(jù)安全、模型安全等多個維度，構(gòu)建了全方位的大模型安全防護體系。此次同時入選工信部兩項典型案例，不僅是行業(yè)對百度安全技術(shù)創(chuàng)新的肯定，更是對百度安全持續(xù)面向行業(yè)提供更加全面、可靠的大模型安全保障解決方案的認(rèn)可。
在多模態(tài)內(nèi)容安全領(lǐng)域，百度安全創(chuàng)新性地提出了"模態(tài)對齊"和"視覺理解"的原生安全方案。該方案融合了前沿的視覺理解技術(shù)和自然語言處理能力，通過區(qū)域分割和聚合分析技術(shù)實現(xiàn)精細化的風(fēng)險識別。
多模態(tài)內(nèi)容安全
針對端側(cè)大模型場景，百度安全深入理解終端環(huán)境下的特殊需求，構(gòu)建了一套精簡而全面的安全架構(gòu)。從多模態(tài)審核到防越獄設(shè)計，從上下文提示詞保護到云端策略更新，實現(xiàn)了端上與云端的安全管控閉環(huán)。這一解決方案在手機廠商、PC廠商與智能IoT設(shè)備廠商等領(lǐng)域獲得廣泛認(rèn)可。
端側(cè)大模型內(nèi)容安全
在大模型數(shù)據(jù)安全方面，百度安全基于"零信任、零改造、全流程"理念，實現(xiàn)從語料數(shù)據(jù)管理到模型訓(xùn)練、流轉(zhuǎn)、使用和私有化交付等環(huán)節(jié)的全方位保護。通過可信計算、數(shù)據(jù)全流程加密以及數(shù)據(jù)圍欄等技術(shù)，確保數(shù)據(jù)"可見不可用、可用不可得"，有效防范各類安全風(fēng)險。
大模型數(shù)據(jù)安全
百度安全的創(chuàng)新實踐不僅體現(xiàn)在技術(shù)層面，更重要的是企業(yè)始終堅持將安全理念融入大模型全生命周期。從數(shù)據(jù)清洗、安全對齊、內(nèi)生安全到安全圍欄，百度安全構(gòu)建了一套完整的原生安全體系。特別在跨模態(tài)安全治理方面，百度安全通過視覺理解與文本語義的雙重審核，引入?yún)^(qū)域關(guān)注、跨模態(tài)對齊等機制，有效提升了對復(fù)合內(nèi)容的風(fēng)險管控能力。
未來，百度安全將繼續(xù)攜手行業(yè)合作伙伴，以技術(shù)創(chuàng)新推動大模型安全的健康發(fā)展，也將在大模型安全領(lǐng)域持續(xù)投入，為各行各業(yè)提供更加專業(yè)、可靠的安全服務(wù)，助力人工智能產(chǎn)業(yè)的可持續(xù)發(fā)展，為構(gòu)建更加安全可信的AI應(yīng)用環(huán)境貢獻力量。
