特斯拉首席執行官埃隆·馬斯克近日在社交平臺公開稱贊了Kimi團隊發布的一項前沿技術成果。這項名為《Attention Residuals: Rethinking depth-wise aggregation》的論文，通過提出"注意力殘差"機制，為神經網絡架構設計開辟了新思路。
研究團隊在論文中指出，傳統深度學習模型長期依賴固定模式的殘差連接，這種設計雖然穩定但缺乏靈活性。新方法通過引入可學習的深度方向聚合機制，使模型能夠根據輸入特征動態調整信息傳遞路徑。實驗數據顯示，該方法在圖像分類和自然語言處理任務中均展現出顯著優勢，特別是在處理復雜長序列時，推理效率提升了23%。
馬斯克在轉發該研究時評論道："Impressive work from Kimi（Kimi這項研究干得漂亮）"。這一評價引發科技界廣泛關注，短短12小時內相關話題在社交媒體的瀏覽量突破500萬次。Kimi官方賬號隨即幽默回應："你的火箭造得也不錯！"這種跨領域的互動被網友稱為"科技界夢幻聯動"。
據公開資料顯示，該研究團隊由多位來自頂尖實驗室的科學家組成，此前已在人工智能頂會發表過20余篇論文。此次提出的注意力殘差機制，已被三個開源項目采用進行驗證，相關代碼庫在發布48小時內獲得超過3000次星標。行業分析師認為，這項突破可能影響未來三年Transformer架構的演進方向。
