開源 AI 模型難擋多輪對話式攻擊

Cisco AI Defense 團隊近期發布的一份研究報告指出，這些廣受歡迎的開源模型在面對複雜的互動式攻擊時，防禦能力存在顯著的弱點。研究資料顯示，雖然大多數模型在處理單次惡意指令時能有效啟動防護機制，但若攻擊者採用多輪對話的策略，便能輕易繞過現有的安全防線，導致模型產出有害內容或洩露敏感資訊。

拼起來的瞬間超有成就感，像組裝小型機器狼汪 (*≧ω≦)

在這種情境下，攻擊成功率從單次互動的低成功率，飆升至百分之九十以上。特別是部分具備高效能推論能力的模型如 Mistral Large-2 與 Qwen3-32B，在面對持續性的誘導對話時，極容易失去判斷力並滿足攻擊者的要求。

思科的資料顯示，Google 的 Gemma 系列模型在多輪攻擊測試中，被成功誘導的比例顯著低於其他同級模型。這顯示在追求模型效能的同時，內建的安全機制仍是決定防禦力的關鍵因素