LLM Serving

這篇論文真正提醒業界的，不是模型權重會不會被翻位，而是共享 prefix KV-cache 一旦發生 silent corruption，傷害可能沿著同一條 prompt path 持續累積；關鍵補件不是更聰明的模型，而是放對位置的完整性驗證。