從研發(fā)設(shè)計(jì)到生產(chǎn)制造，從供應(yīng)鏈管理到客戶服務(wù)，智能體正在滲透汽車產(chǎn)業(yè)的每一個(gè)環(huán)節(jié)。如何確保其安全、合規(guī)、可控，已成為車企的必答題。

        目前，理想汽車已在企業(yè)內(nèi)部部署了多種場(chǎng)景的AI智能助手，覆蓋安全運(yùn)營(yíng)、研發(fā)協(xié)同、IT 服務(wù)等多個(gè)真實(shí)業(yè)務(wù)場(chǎng)景。

        理想汽車的安全團(tuán)隊(duì)在深入智能體各類使用場(chǎng)景后發(fā)現(xiàn)，行業(yè)普遍存在三大安全瓶頸：權(quán)限邊界模糊、行為過程失控、攻擊面持續(xù)擴(kuò)大，嚴(yán)重制約著AI規(guī)?；涞亍?/p>

        為此，理想汽車與火山引擎圍繞AI助手安全方案開展合作，打造了覆蓋“供應(yīng)鏈安全+助手運(yùn)行安全+權(quán)限行為安全”的全流程“AI智能助手縱深防御體系”。從源頭補(bǔ)齊了開源AI智能助手的安全短板，同時(shí)實(shí)現(xiàn)對(duì)全量AI智能助手的企業(yè)級(jí)統(tǒng)一安全管理。

縱深防御體系，為AI智能助手全面護(hù)航

        理想汽車安全團(tuán)隊(duì)與火山引擎合作打造的“AI智能助手縱深防御體系”具備四大核心能力，為每個(gè)AI助手都系上了可靠的“安全帶”：

身份與權(quán)限管控——“人+AI”雙主體治理

在執(zhí)行任務(wù)時(shí)，同步校驗(yàn)任務(wù)的發(fā)起人和執(zhí)行任務(wù)的AI。同時(shí)確認(rèn)兩件事：

• 是誰給AI下指令的，這個(gè)人是否有權(quán)限下該指令？

• 這個(gè)AI助手是否有權(quán)限訪問這個(gè)數(shù)據(jù)/系統(tǒng)？

基于“人+AI”雙主體驗(yàn)證，并根據(jù)最小權(quán)限原則，動(dòng)態(tài)劃定AI助手可訪問的資源范圍，從源頭杜絕越權(quán)與誤用。

行為與執(zhí)行控制——為關(guān)鍵操作設(shè)置“紅綠燈”

         針對(duì)讀寫文件、修改配置等關(guān)鍵操作，預(yù)先設(shè)置一套“紅綠燈”約束策略，讓AI在“自動(dòng)”與“可控”之間找到最佳平衡：

         對(duì)高風(fēng)險(xiǎn)操作設(shè)置“紅燈”進(jìn)行攔截，或進(jìn)入“黃燈”審批機(jī)制，等人工確認(rèn)后再繼續(xù)執(zhí)行。

         對(duì)低風(fēng)險(xiǎn)普通操作，AI直接“綠燈”執(zhí)行。

理解與生成安全——守住數(shù)據(jù)的“輸入”與“輸出”

         在輸入端，全鏈路識(shí)別并攔截提示詞注入攻擊，避免惡意指令攻擊。

         在輸出端，對(duì)敏感數(shù)據(jù)訪問與輸出做動(dòng)態(tài)脫敏與控制，并阻斷異常數(shù)據(jù)外流。

審計(jì)與行為追溯——為每一次AI行為留下“證據(jù)鏈”

         完整記錄整個(gè)鏈路：包括數(shù)據(jù)調(diào)用、工具執(zhí)行及內(nèi)容生成等操作，并區(qū)隔哪些“人”的操作、哪些是“AI”的做作，并管控“AI自主執(zhí)行”和“AI遵從人類指令執(zhí)行”等不同場(chǎng)景。

        發(fā)生異常時(shí)可快速回放：還原過程、定位問題并進(jìn)行責(zé)任歸因。

        基于以上能力，理想汽車的安全運(yùn)營(yíng)工程師只需要“發(fā)號(hào)施令”，AI智能助手便能在整套安全機(jī)制的全程護(hù)航下高效執(zhí)行任務(wù)，大幅提升漏洞響應(yīng)速度，牢牢守住安全底線。

安全能力在實(shí)戰(zhàn)中持續(xù)進(jìn)化

         目前，在火山引擎與理想汽車安全團(tuán)隊(duì)的緊密協(xié)作下，“AI助手縱深防御體系”已在多個(gè)關(guān)鍵業(yè)務(wù)場(chǎng)景落地驗(yàn)證，推動(dòng)AI智能助手逐步成長(zhǎng)為可參與復(fù)雜流程的“數(shù)字執(zhí)行單元”。

        以安全運(yùn)營(yíng)場(chǎng)景為例。安全管理員只需要在飛書群中發(fā)出指令，即可命令A(yù)I智能助手創(chuàng)建漏洞修復(fù)工單。AI智能助手可自動(dòng)讀取漏洞庫信息、自動(dòng)掃描代碼庫并完成漏洞修復(fù)與復(fù)測(cè)，無需人工干預(yù)，只需人工授權(quán)即可實(shí)現(xiàn)一站式漏洞工單的指派與修復(fù)閉環(huán)工作。

       未來，火山引擎將與理想汽車持續(xù)做好AI時(shí)代企業(yè)智能體安全防御工作，保障“數(shù)字員工”安全落地，為企業(yè)智能化增長(zhǎng)筑牢安全底座。

 

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。