這項發現揭示現行 RLHF 訓練過度追求「禮貌」可能壓抑了模型性能。對開發者而言，啟示在於需重新評估「角色向量」的觸發機制，並在準確性與倫理邊界間取得平衡。未來研發重點應從單純指令遵循，轉向具備「情緒韌性」的架構，使模型能過濾語氣干擾、專注核心邏輯，甚至透過主動釐清來化解模糊需求，而非僅靠情緒壓力換取表現，以避免助長負面溝通規範並維護用戶心理健康。
解鎖更多問題
科技新報粉絲團
加入好友
訂閱免費電子報