近期，一款被戲稱為“龍蝦”的開源智能體項目引發了持續熱議，這場由技術革新引發的討論浪潮，正從專業領域向大眾生活滲透。在搜狐科技最新一期《AI十二談》直播中，快思慢想研究院院長田豐與隆安律所全國合規委副主任陳煥，圍繞智能體安全使用與產業價值展開深度對話，為公眾提供了兼具技術洞察與法律視角的參考框架。
“智能體安全與傳統網絡安全存在本質差異。”田豐指出，當前“龍蝦”類項目面臨三大新型風險：提示詞注入攻擊可能導致系統誤判指令為內容輸入，造成數據泄露；技能庫審核滯后引發的技能污染問題，部分惡意技能甚至具備刪除安全日志的能力；用戶過度授權現象普遍，部分案例中智能體因獲得系統級權限導致批量文件誤刪。他特別提到meta對齊總監遇到的失控事件：“當上下文窗口溢出時，智能體會陷入‘執行慣性’，此時物理斷電是唯一有效干預手段。”
針對安全防護，兩位專家給出具體建議。陳煥強調數據分級管理原則：“賬戶密碼、商業機密等敏感信息必須脫敏處理，猶豫是否提供的數據通常屬于禁止范疇。”田豐補充道，普通用戶應優先選擇云端部署方案，大廠產品在權限管理系統和安全審計機制上更具優勢。對于堅持本地部署的用戶，他建議使用備用設備并安裝安全插件，同時避免接入攝像頭等可能侵犯隱私的硬件。
在法律責任界定方面，陳煥分析稱，現行法律框架下智能體行為后果主要由使用者承擔。“這要求用戶在授權時保持審慎，通過AI工具了解權限對應功能，避免超越必要范圍的授權申請。”他透露，部分開源項目正在開發安全閾值系統，當檢測到異常操作如批量刪除郵件時，將自動觸發人類干預機制。
產業層面，智能體正引發科技巨頭戰略轉向。田豐觀察到，云服務商與AI模型公司成為主要推動力量：“開源特性降低了本地部署門檻，而智能體與大模型的結合能顯著提升token消耗量，形成商業閉環。”據統計，全球為AI付費用戶不足5%，但使用智能體的群體展現出更強付費意愿，這為產業變現提供了新路徑。
關于技術平權爭議，田豐將智能體比作“自動化生產線上的福特T型車”：“開源模式讓每個人都能參與創新，這種技術普惠將重塑生產力格局。”他預測，未來3-5年智能體使用能力將成為數字時代基礎素養，不會操作智能體的人群將面臨類似“數字文盲”的困境。陳煥則從學習曲線角度提出建議：“初學者可從云端版本入手，待技術門檻降低后再探索本地化部署，現階段更重要的是建立正確的使用認知。”
這場由智能體引發的技術革命，正在重構人機協作邊界。當被問及如何平衡創新與風險時，兩位專家達成共識：既不能因噎廢食拒絕技術進步，也不應忽視安全防護投入。隨著大廠安全方案的持續迭代與開源社區的協同治理，智能體有望在可控風險范圍內，真正成為推動社會效率躍升的關鍵力量。
