巨人財經 - 專業科技行業財經媒體

阿里巴巴攜手上海人工智能實驗室發布白皮書 共筑AI時代安全防線

   發布時間:2026-04-01 21:01 作者:孫明

在上海浦江AI學術年會上,阿里巴巴攜手上海人工智能實驗室共同推出《守己利他:智能時代做負責任的技術》白皮書。該文件聚焦人工智能體安全議題,提出全行業應對技術風險的三大核心原則:守己、利他、合作。這是阿里巴巴連續第四年發布人工智能治理領域的實踐成果,其構建的全棧AI安全防護體系引發學界與產業界關注。

阿里巴巴人工智能治理與可持續發展實驗室主任薛暉在發布會上強調,全球AI技術正從"語言交互"向"任務執行"跨越式發展,智能體自主調度資源、完成復雜操作的能力顯著增強,但隨之而來的安全風險呈現集中爆發態勢。"安全已從技術選項變為社會信任的基石,需要全行業建立命運共同體意識。"他指出,阿里巴巴將安全基因深度植入芯片、云計算、模型開發到應用落地的全鏈條,通過源頭管控確保技術產品的本質安全。

針對用戶自定義智能體存在的安全隱患,阿里巴巴通義實驗室安全負責人張榮用"保險箱與家門口"的比喻形象說明風險差異。他表示,未經專業封裝的智能體如同暴露在公共區域的保險箱,而通過系統級安全加固的產品則具備多層防護機制。該團隊構建的立體化防護體系包含兩大核心策略:強化基礎模型的內生安全能力,以及建立覆蓋全流程的系統級安全圍欄。

在技術實現層面,阿里巴巴依托20余年安全研究積累的千萬級真實漏洞數據庫,打造出行業領先的安全訓練語料庫。通過將代碼安全知識深度融入千問大模型訓練過程,并實施多輪嚴格的安全對齊,使模型生成的代碼安全性在開源領域達到頂尖水平。據權威評測基準SecCodeBench顯示,該模型在代碼安全指標上持續領跑同類開源產品。

為推動行業共建安全生態,阿里巴巴堅持開源開放戰略,將內部驗證的安全技術轉化為公共產品向全行業共享。這種"守己利他"的實踐模式,既保障了自身技術產品的安全性,也為千行百業踐行負責任創新提供了可復制的解決方案。隨著智能體加速滲透至社會生產生活各領域,這種全鏈條、系統化的安全治理思路正獲得越來越多機構的認可與應用。

 
 
更多>同類內容
全站最新
熱門內容
本欄最新