在上海浦江AI學術年會上，阿里巴巴攜手上海人工智能實驗室共同發布了一份名為《守己利他：智能時代做負責任的技術》的白皮書。該白皮書聚焦于人工智能（AI）智能體領域的安全隱患，提出了全行業應對風險挑戰的三大核心原則：守己、利他與合作。
這已是阿里巴巴連續第四年發布人工智能治理方向的實踐成果。據介紹，阿里巴巴依托其全棧AI能力，已構建了一套立體化的智能體安全防護體系，旨在從源頭保障AI技術的安全性。
白皮書強調，在AI技術迅猛發展的當下，安全已不再是研發過程中的可選項，而是社會信任的基石。阿里巴巴人工智能治理與可持續發展實驗室主任薛暉在發布會上指出，隨著AI從“能說會道”向“能干實事”轉變，確保其安全性變得尤為重要。他提到，去年以來，智能體的普及速度加快，AI開始自主調度資源、執行復雜任務，風險也隨之集中顯現。
為了應對這些挑戰，阿里巴巴將安全理念融入全棧AI體系的每一個環節，從芯片、云計算到模型和應用，確保技術和產品從誕生之初就具備安全基因。同時，阿里巴巴還堅持開源開放，將內部驗證過的技術，包括安全技術，作為公共產品向全行業開放，推動“負責任的技術”理念在各行各業落地生根。
在智能體安全的具體實踐上，阿里巴巴通義實驗室安全負責人張榮用一個生動的比喻解釋了用戶DIY智能體與封裝完備產品之間的安全差異。他指出，用戶自行搭建的智能體如同將保險箱置于家門口，安全性難以保障；而封裝完備的產品則通過內置安全機制，為智能體提供了更強的防護能力。
針對智能體面臨的復雜風險，阿里巴巴構建了一套立體化的安全防護體系。該體系的核心在于提升基礎大模型的內生安全能力，并構筑多層系統級安全圍欄，實現智能體風險的全鏈路管控。張榮進一步解釋說，在智能體的運行過程中，工具調用與代碼執行是安全風險的高發環節，這兩個環節高度依賴底層大模型的代碼生成能力。因此，阿里巴巴將強化千問模型在編程場景下的原生安全作為重點工作。
依托阿里巴巴20余年頂尖安全團隊積累的代碼安全經驗，以及千萬級真實漏洞樣本，阿里巴巴打造了高質量的安全訓練語料。通過將這些語料深度融入模型訓練的各個階段，并開展多輪嚴格的安全對齊，千問模型的代碼安全性已達到行業領先水平。在權威代碼安全評測基準SecCodeBench中，千問模型生成代碼的安全性穩居開源模型首位。
