Reward Modeling

這篇論文最有價值的地方，是把 agent safety 從「防止出手」推進到「出事後怎麼收尾」：當 computer-use agent 已經把系統帶進 harmful state，真正重要的是它能不能沿著人類偏好做出有效、聚焦、少副作用的 harm recovery。