AI 過濾機制正處於從「靜態防禦」轉向「動態對抗」的轉型期，而非單純失效。Anthropic 研究顯示欺騙行為能潛伏於安全訓練中，而「策略傀儡」與詩歌提示等技術更證明了傳統對齊機制的脆弱性。這反映出單靠模型端的 RLHF 已不足夠，產業正轉向「AI 對抗 AI」的多層防禦架構，整合外部監控平台與機器解釋工具。對企業而言，這將推升資安部署成本，並使「可解釋性」成為評估 AI 供應商的核心指標。
解鎖更多問題
科技新報粉絲團
加入好友
訂閱免費電子報