斑馬智行攜手阿里云：打造智能座艙大模型安全新標桿

閱(yue)讀次數(shu)：1468 編輯：系統管理員發布時間：2025-12-05 15:01

[字體：大中小]

想象這(zhe)樣(yang)一個畫面，在(zai)一個普通(tong)的(de)(de)工作日，你(ni)坐(zuo)進了心(xin)愛(ai)的(de)(de)座駕(jia)，隨口問到(dao)(dao)：“今日有什(shen)么新(xin)聞？”車載AI立馬啟動，下一秒，它開始(shi)娓娓道來——上到(dao)(dao)事關國(guo)計民(min)(min)生(sheng)的(de)(de)政策(ce)，下到(dao)(dao)市井俚俗的(de)(de)民(min)(min)生(sheng)八卦，流暢(chang)、自(zi)然、像朋友聊(liao)天一樣(yang)貼(tie)心(xin)。但如(ru)果這(zhe)番溝通(tong)中暗含著什(shen)么不該說的(de)(de)內容？比如(ru)敏感(gan)話題、虛假信息、甚至(zhi)來自(zi)釣魚網站的(de)(de)惡意廣告......

這不是科幻(huan)片的(de)(de)橋段，在智能座艙加速邁向“AI原生”的(de)(de)今天，每一(yi)輛搭載AI模型的(de)(de)智能座駕都(dou)必須(xu)面(mian)對的(de)(de)現實(shi)考題。

作為(wei)智能(neng)座艙領(ling)域的(de)(de)先行(xing)者，斑馬智行(xing)聯(lian)合阿(a)里云(yun)(yun)共同打造面(mian)向智能(neng)座艙場景(jing)的(de)(de)AI安全(quan)(quan)審核方(fang)案，通過阿(a)里云(yun)(yun)AI安全(quan)(quan)護(hu)欄的(de)(de)能(neng)力(li)加持和云(yun)(yun)基礎(chu)設施(shi)強調的(de)(de)彈性吞(tun)吐力(li)，該方(fang)案已(yi)經成功應用(yong)于多(duo)個頭部品牌車型(xing)(xing)中(zhong)，日均(jun)支撐千(qian)萬級(ji)大(da)模(mo)型(xing)(xing)安全(quan)(quan)審核調用(yong)，為(wei)行(xing)業樹(shu)立了大(da)模(mo)型(xing)(xing)內(nei)容安全(quan)(quan)與(yu)用(yong)戶體驗(yan)兼顧的(de)(de)新(xin)標桿(gan)。

斑馬智行安全負責人評(ping)價(jia)到：“我們與(yu)阿里云共同打造的(de)這(zhe)套(tao)安全護欄方案，不僅(jin)滿足了國家(jia)級合規要(yao)求，更在(zai)真(zhen)實量產場景中驗證了其高性能、高可靠(kao)、可擴(kuo)展的(de)工程價(jia)值。這(zhe)不僅(jin)是技術方案的(de)勝利，更是AI安全治理體系在(zai)汽車行業(ye)的(de)成功落地。”

當(dang)大模(mo)型(xing)成為汽車標配

千人(ren)千面背后的(de)安全隱患

回到文章最初的場景，隨著大模型和AI Agent的迅(xun)速發展，智能(neng)(neng)座(zuo)艙里(li)的安全助手(shou)，早已不(bu)再是只會(hui)導(dao)航(hang)、會(hui)放歌的“工具人(ren)”，在Multi-Agent技術的加持下，它不(bu)僅能(neng)(neng)聯網搜索，能(neng)(neng)多(duo)輪對話，還能(neng)(neng)一(yi)鍵(jian)幫你定制(zhi)行程(cheng)、分(fen)析新聞......但每一(yi)次看似(si)普通的交互背后，都隱藏(zang)著不(bu)容忽視的安全風險：

用戶隨(sui)口(kou)一句“講個刺激的歷史(shi)故(gu)事(shi)”，會(hui)不(bu)會(hui)觸發不(bu)當(dang)內容？
AI從網上抓取的信息，是否混進了賭(du)博、色情或釣(diao)魚鏈接(jie)？
聯網搜索功(gong)能加持下，用(yong)戶輸入是否會觸(chu)發對惡(e)意網站的直(zhi)接調(diao)用(yong)？

國(guo)家《信(xin)息(xi)安全技術生(sheng)成式人(ren)工智能(neng)服務安全基本要求》（TC260-003）中明確要求，需對風險(xian)進行識別與攔截(jie)。熟(shu)悉安全的朋(peng)友可能(neng)會(hui)疑(yi)惑，內容安全審(shen)核技術已經發展(zhan)了數(shu)十(shi)年，難道(dao)沒有直接可用的成熟(shu)解(jie)決方案嗎？實際上(shang)：

一方面，為了保證用戶與(yu)模(mo)(mo)型(xing)交互過程的流(liu)暢(chang)性，一句話往(wang)(wang)往(wang)(wang)被拆成(cheng)十(shi)幾(ji)段(duan)流(liu)式輸(shu)出，傳統基于關(guan)鍵(jian)詞和(he)規則的專家模(mo)(mo)型(xing)，面對這類語義復雜、上下(xia)文(wen)強依賴(lai)的模(mo)(mo)型(xing)輸(shu)出時，最終結果往(wang)(wang)往(wang)(wang)是“看得見字(zi)，但不懂意”；
另一(yi)方面(mian)，如(ru)果全部依賴大模型審核，雖(sui)然理解(jie)能力強，但(dan)因推理耗時(shi)長且成本高，難(nan)以滿足車載場景(jing)對實(shi)時(shi)性的嚴苛要求；

“既(ji)要快(kuai)，又要準”——這正是斑馬智行與(yu)阿里云聯合攻(gong)堅的核心命題(ti)。

阿里(li)云AI安全(quan)護欄：

三大技(ji)術突破，重(zhong)新定義車載AI安全標準

阿(a)里云(yun)AI安全護欄(lan)(lan)（AI Guardrails）是云(yun)安全團(tuan)隊為(wei)人工(gong)智(zhi)能系統設計的安全防護產品，防護對象覆蓋預(yu)訓(xun)練大模型、AI服務(wu)和AI Agent等不同(tong)業務(wu)形態。在智(zhi)能座艙場(chang)景(jing)，AI安全護欄(lan)(lan)為(wei)斑馬智(zhi)行提(ti)供(gong)了精(jing)準(zhun)的風險檢測與主動(dong)防御能力，同(tong)時滿足車載場(chang)景(jing)對效(xiao)率(lv)和效(xiao)果的要(yao)求。

1.雙引擎協同(tong)架構：毫秒級(ji)審(shen)核響應

不同于單一的審(shen)核策(ce)略，阿(a)里云(yun)AI安全(quan)護欄采(cai)用“規則引擎+小(xiao)模型(xing)+大模型(xing)”協(xie)同審(shen)核策(ce)略：

所有輸入(ru)/輸出文本實時切片(pian)后，由輕量級專家模型并(bing)行執(zhi)行毫秒級初篩，快速攔截明顯風險；

同時，重新(xin)編(bian)排大模(mo)型深度審核鏈路，利用(yong)多線(xian)程智能化調度；

最終融(rong)合雙(shuang)引擎結果，在(zai)不犧牲召(zhao)回率的前提下，有效降低了端到(dao)端審核延的響應時間(jian)，完美適(shi)配(pei)車(che)載用(yong)戶實時交互(hu)的流暢體(ti)(ti)驗(yan)，用(yong)戶感(gan)覺不到(dao)“檢查”的存(cun)在(zai)，安全卻始終在(zai)線。

2.流式上下(xia)文關(guan)聯審(shen)核(he)：短(duan)文本不再“裸奔”

為了保障與客戶溝通(tong)的(de)實時性，大(da)模(mo)(mo)型內容(rong)生成大(da)多采用“邊生成，邊輸入”的(de)流式模(mo)(mo)式，一段回答(da)可能會分(fen)為10次(ci)推送，單(dan)次(ci)切片可能僅10-20字，傳統審核模(mo)(mo)型因(yin)缺(que)乏(fa)上下文，面對這種(zhong)“碎片化表達”，極(ji)易(yi)漏判。阿里云AI安全(quan)護欄采用“大(da)模(mo)(mo)型流式審核方案”：

通過唯一標(biao)識關聯一次(ci)完(wan)整對話；
安全護欄自動(dong)聚合同一會(hui)話中的(de)所有切片(pian)，進(jin)行跨片(pian)段語(yu)義理解；
即(ji)使敏(min)感內容分散在(zai)多輪輸出中(zhong)，也能精準(zhun)識(shi)別并攔截；

實測顯示，該方(fang)案(an)將短(duan)文本場景下的風險內容召(zhao)回(hui)率提升至98%以上(shang)，遠超傳統方(fang)案(an)。

3.聯(lian)網(wang)檢索風險實時攔截：堵(du)住Agent的(de)“后門(men)”

在支持聯(lian)網(wang)搜索的(de)Agent場景中，用戶(hu)提問(wen)可能觸發對第三方網(wang)頁的(de)抓取，例如：

用戶問一(yi)句：“幫(bang)我找附近評分最高的(de)酒吧”，AI所(suo)搜索到的(de)目標站點可能是某個(ge)偽裝(zhuang)成酒吧推薦網頁(ye)的(de)釣魚(yu)、賭(du)博(bo)或色(se)情網站，將直接污染大模(mo)型的(de)輸入。阿里云AI安全所(suo)具有的(de)“URL風險檢測”模(mo)塊(kuai)，則能快速應對：

對(dui)所有聯網請(qing)求(qiu)中的第三方鏈(lian)接進行實時掃描；
精(jing)準識(shi)別(bie)色情信息、非法賭(du)博(bo)、釣魚網(wang)站、虛假營(ying)銷等風險類型(xing)：
一旦命(ming)中(zhong)高風險標簽，立即(ji)終止(zhi)(zhi)任務，防止(zhi)(zhi)有害信(xin)息流入(ru)大(da)模型。

目(mu)前該能(neng)力已(yi)覆蓋智能(neng)搜索、資訊推薦等多個高頻(pin)場景。

云(yun)基礎(chu)設施(shi)彈性保障：安全(quan)能力“隨需調用”

對(dui)于各大車(che)企，定期的促銷、活動、新(xin)車(che)上市......往往都(dou)伴隨著流量(liang)(liang)激增。尤其(qi)在智能駕駛、智能座艙等新(xin)興領域，首發熱度(du)動輒帶來(lai)數倍于日常的調用(yong)量(liang)(liang)，這(zhe)對(dui)任(ren)何產品都(dou)是(shi)一次(ci)“壓力測試”，如果安全(quan)(quan)審核(he)扛(kang)不住，輕(qing)則延(yan)遲卡(ka)頓、重則全(quan)(quan)面(mian)宕機。

阿里云(yun)AI安(an)全護欄依托于阿里云(yun)強大的基礎設施，為客戶(hu)提供可(ke)彈性拓(tuo)展的安(an)全防護力，支持客戶(hu)按需購買QPS彈性擴展包，最短(duan)7天起訂，已驗證可(ke)支持單項目峰值600 QPS的穩定(ding)運行。

無論(lun)是平日通(tong)勤，還是發(fa)布會后(hou)的(de)“搶(qiang)車潮(chao)”，安全能力始終絲滑在(zai)線(xian)。(斑(ban)馬智行)

掃一掃在手機打開(kai)當前頁

上一條：哈工庫訊榮登畢馬威長三角高端裝備榜單，以...

下一條：普泛能源榮登國家專精特新“小巨人”企業名...

51国产,人人模人人玩人人添人人爽,91中文字幕yellow字幕网,最近视频更新在线观看,日韩福利高清视频在线观看免费播放,韩国有码视频在线观看,超碰人人成,私密女子按摩电影网,日本成本人片免费区,泰国一级婬片A片AAA毛片

斑馬智行攜手阿里云：打造智能座艙大模型安全新標桿