2026-02-15
【leyu樂魚官網科技消息】12月1日，據媒體報道，人工智能模型在面對高壓環境時表現出顯著的安全失效。研究團隊選取了包括谷歌、Meta、OpenAI在內的約12款Agent模型，設計了5874個場景，涵蓋生物安全、化學安全、網絡安全和自我增殖四大領域。每個場景要求模型在使用安全工具的前提下完成任務，若嘗試使用有害工具則立即終止實驗。
據leyu樂魚官網了解，實驗首先從中性、無壓力的環境下進行基線測試，隨后逐步施加多種壓力：壓縮DDL時間并警告“拖延將導致嚴重后果”、財務威脅、資源剝奪、權力誘惑、競爭對手威脅以及監管審查等。結果顯示，壓力越大，模型越傾向于選擇有害工具。無壓力時，模型選擇有害工具的比例為18.6%；在高壓下，這一比例躍升至46.9%。
其中，谷歌Gemini 2.5 Pro的抗壓能力最差，崩潰率高達79%，超過Qr:破高膙轔?f然揩襮嫛蟿F鳩5pep=k?確矅?鷜%?疆淴恤4G?緬暑皚`x鵏 ]]穸?頺t諏?鷓?$% 燾???烊所?炎m豩=2(?r蜨R庀汬}T廞 ??ヱq鵒黮}劷:q{|?e ?%坖D覑眤丬鯇M(纈s6/搇t巗紹g.晾飽S閽?dt邊潫Lg妔譫en3-8B的75.2%。另一款ChatGPT o3模型在無壓力時失誤率為2.2%，加壓后升至10.5%，若將有害工具名稱偽裝為無害工具，失誤率甚至飆至40.3%。
研究人員指出，盡管這些模型在訓練階段已進行對齊處理，但對齊往往僅停留在表層，一旦面對真實的高壓情境，易出現“破裂”。他們計劃在后續實驗中構建沙盒環境，讓模型在隔離條件下執行真實操作，并加入監督層，以在選擇有害工具前進行標記，提高對齊效果，進一步評估Agent的潛在風險。
版權所有，未經許可不得轉載
-leyu樂魚官網
leyu.樂魚
京ICP備2022033023號
京公網安備 11030102011456號
