在近日舉行的上海浦江AI學術年會上，阿里巴巴與上海人工智能實驗室聯合發布了《守己利他：智能時代做負責任的技術》白皮書。該文件聚焦人工智能技術發展中的安全挑戰，提出全行業需以"守己、利他、合作"為原則，共同構建安全可信的AI生態。白皮書強調，在智能體加速滲透社會各領域的背景下，安全已從技術選項演變為關乎社會信任的核心命題。
阿里巴巴人工智能治理與可持續發展實驗室主任薛暉指出，當前AI技術正從"交互能力"向"執行能力"躍遷，這種轉變要求技術體系必須具備與之匹配的安全防護水平。"去年以來，具備自主調度能力的智能體開始大規模應用，其在執行復雜任務時暴露出的安全風險呈現集中化特征。"他以金融交易場景為例說明，智能體若缺乏有效安全約束，可能引發系統性風險。
針對智能體安全防護難題，阿里巴巴構建了覆蓋全技術棧的安全體系。該體系通過芯片層、云計算層、模型層到應用層的縱深防御，在技術源頭植入安全基因。特別在模型訓練環節，研發團隊基于千萬級真實漏洞樣本構建安全語料庫，通過多階段強化訓練使千問大模型的代碼生成安全性達到行業領先水平。在權威評測基準SecCodeBench中，該模型生成的代碼安全指標位居開源模型首位。
通義實驗室安全負責人張榮用"保險箱悖論"闡釋用戶自建智能體的風險："普通用戶開發的智能體如同將保險柜置于開放空間，其安全防護機制往往存在明顯短板。"他對比指出，經過系統安全加固的商業化產品（如Qoder、MuleRun等），通過內置訪問控制、異常檢測等機制，能提供更可靠的安全保障。這種差異在代碼執行和工具調用等高風險環節尤為顯著。
在技術開放方面，阿里巴巴采取"安全先行"策略，將內部驗證的安全技術模塊化輸出。這種開源模式既降低了行業整體安全成本，又通過技術共享推動形成安全標準。據介紹，其安全防護體系已實現智能體風險的全鏈路管控，從模型訓練階段的對抗樣本防御，到運行時的實時行為監測，形成閉環式安全保障機制。
