Adversarial Optimization

AutoInject 這篇論文最值得注意的，不是它又做出一個 prompt injection 範例，而是它把攻擊從人工 red teaming 推進成可被強化學習最佳化的自動化程序。當 adversarial suffix 能被系統化搜尋、又能跨模型與任務遷移時，很多仰賴固定模板與靜態字串規則的 agent 防線，就會開始撐不住。