360重磅發(fā)布《大模型安全白皮書》 推動AI應(yīng)用“安全、向善、可信、可控”

    本報訊 （記者袁傳璽）11月8日，在世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會上，360數(shù)字安全集團(tuán)正式發(fā)布《大模型安全白皮書》（以下簡稱“白皮書”）。該白皮書首次系統(tǒng)性闡釋大模型運(yùn)行時的五大關(guān)鍵風(fēng)險，建設(shè)性地提出“外筑‘以模治模’動態(tài)屏障，內(nèi)固‘平臺原生’安全底座”的核心理念，并源于實(shí)戰(zhàn)，提供了可落地的安全解決方案，為大模型應(yīng)用拉起了全鏈路安全防線，助力推動人工智能行業(yè)向“安全、向善、可信、可控”方向穩(wěn)健發(fā)展。

    據(jù)了解，白皮書以2025年國內(nèi)外多起典型大模型安全事件為切入點(diǎn)，系統(tǒng)性歸納了威脅大模型安全的五大關(guān)鍵風(fēng)險：第一類是基礎(chǔ)設(shè)施安全風(fēng)險，包括設(shè)備控制、供應(yīng)鏈漏洞、拒絕服務(wù)攻擊以及算力資源濫用等問題；第二類是內(nèi)容安全風(fēng)險，涉及不符合核心價值觀、虛假或違規(guī)內(nèi)容、大模型幻覺，以及提示注入攻擊等；第三類是數(shù)據(jù)與知識庫安全風(fēng)險，數(shù)據(jù)泄露、越權(quán)訪問、隱私濫用和知識產(chǎn)權(quán)問題日益突出；第四類是智能體安全風(fēng)險，隨著智能體自主性增強(qiáng)，插件調(diào)用、算力調(diào)度、數(shù)據(jù)流轉(zhuǎn)等環(huán)節(jié)的安全邊界更加模糊；第五類是用戶端安全風(fēng)險，包括權(quán)限控制、API調(diào)用監(jiān)控、惡意腳本執(zhí)行以及MCP執(zhí)行安全等。

    這些風(fēng)險相互交織，形成傳統(tǒng)安全方案難以應(yīng)對的復(fù)雜威脅矩陣，嚴(yán)重威脅個人權(quán)益、企業(yè)發(fā)展乃至國家安全。

    面對上述復(fù)雜挑戰(zhàn)，白皮書基于實(shí)戰(zhàn)經(jīng)驗(yàn)，給出了“外掛式安全+平臺原生安全”雙軌治理策略——前者像AI的“外部保鏢”，靈活應(yīng)對實(shí)時風(fēng)險；后者像AI的“內(nèi)置鎧甲”，從根源筑牢安全基礎(chǔ)，兩者配合形成全鏈路防護(hù)網(wǎng)。

    360提供的企業(yè)級知識庫、智能體構(gòu)建與運(yùn)營平臺、智能體客戶端等產(chǎn)品，均基于這一理念開發(fā)，將安全深度植入平臺底層，全面滿足國家與行業(yè)合規(guī)要求，為智能體應(yīng)用提供全鏈路保障。

    “平臺原生安全”則如同為大模型應(yīng)用注入了“安全基因”，將防護(hù)能力深度內(nèi)嵌于其核心組件之中。這一理念具體體現(xiàn)在三大平臺產(chǎn)品上：企業(yè)級知識庫從根本上守護(hù)數(shù)據(jù)與知識安全；智能體構(gòu)建和運(yùn)營平臺確保智能體行為全程可控；智能體客戶端則筑牢用戶端入口的安全防線。三者協(xié)同，從底層架構(gòu)解決了數(shù)據(jù)泄露、智能體行為失控及終端濫用等內(nèi)生性安全挑戰(zhàn)，為AI應(yīng)用的穩(wěn)定可靠運(yùn)行奠定了內(nèi)生性基礎(chǔ)。

    據(jù)悉，目前，360已將這一能力落地政務(wù)、金融、制造等各行業(yè)，真正讓大模型安全從理論變成能落地、能管用的實(shí)戰(zhàn)方案。

    未來，還將聯(lián)合產(chǎn)學(xué)研各界，共同推動安全標(biāo)準(zhǔn)建設(shè)與技術(shù)共享，攜手共建安全、可信的AI生態(tài)。讓AI世界更安全、更美好。

（編輯 郭之宸）