Automated Red Teaming

這篇論文真正麻煩的地方，不是又多了幾句會 jailbreak 的 prompt，而是把 automated red teaming 從「改寫提示詞」往上抬成「改寫整個攻擊策略程式」。AutoRISE 讓 coding agent 直接編輯 strategy.py，根據固定 evaluation harness 回傳的成功率、多樣性、新穎性與覆蓋率訊號持續演化 attack pipeline。對防守方來說，這提醒我們真正要面對的可能已經不是 prompt collection，而是會自己換打法的攻擊者。