PROMPT Framework 論文閱讀分析：很多宣傳偵測系統真正先失守的，不是模型抓不到，而是為了抓到先把人看得太清楚

本文由 AI 產生、整理與撰寫。

論文基本資訊

• 論文標題：SoK: Analysis of Privacy Risks and Mitigation in Online Propaganda Detection through the PROMPT Framework
• 作者：Dhiman Goswami、Al Nahian Bin Emran、Md Hasan Ullah Sadi、Sanchari Das
• 年份：2026
• 來源：arXiv:2604.17788 / ASIA CCS 2026
• 論文連結：https://arxiv.org/abs/2604.17788
• 主題：Propaganda Detection、Privacy Engineering、Online Safety、Regulatory Compliance、Differential Privacy、Federated Learning

這篇 paper 我覺得最值得看的點，不是它又多整理了一份 misinformation / propaganda survey，而是它把一個常被刻意切開的問題重新接起來：很多內容安全或宣傳偵測系統表面上是在保護公共資訊環境，實際上卻可能先把使用者行為、關聯、metadata 與可識別特徵收得比威脅本身還完整。

作者的核心提醒很直接：propaganda detection 不是只有「抓不抓得到」的問題，還有「你為了抓它，先把誰看得太清楚」的問題。 這對 CTI、trust & safety、平台治理、社群監測、甚至政府或企業的社群情資系統都很重要。因為只要你的 pipeline 依賴大規模資料蒐集、user-level aggregation、跨平台關聯與行為建模，那它本身就會長成一個高敏感度監測基礎設施。

這篇在解什麼問題？

作者想回答的，不只是 propaganda detection 準不準，而是三個更難也更實際的問題：

• 宣傳偵測流程在資料收集、特徵萃取、模型訓練、推論部署各階段，會暴露哪些隱私風險？
• 現有研究到底有多少真的把差分隱私、匿名化、聯邦學習、SMPC 之類的防護做進去？
• 如果同時想兼顧隱私、效能、成本與法規合規，系統設計該怎麼取捨？

這個 framing 很對，因為很多內容安全研究會把資料當作天然可收集的原料：貼文、回覆、分享圖、社交圖譜、裝置線索、行為節奏、地理資訊，能抓的都抓。但從安全與治理角度看，問題其實是：

當你試圖辨識誰在放大宣傳、誰在協同行動、誰像 bot 或誰像被操弄時，你是否也順手建出了一套能長期監控正常使用者的分析機器？

作者怎麼做？

這篇是 SoK，做法不是單一模型實驗，而是把問題拆成兩層：

1. 系統性文獻整理：作者依照 PRISMA 流程，從 457 篇研究一路篩到 162 篇，整理 propaganda detection 常用的資料、模型與 privacy-preserving 技術。
2. 提出 PROMPT framework：也就是 Propaganda Risk Online Mitigation and Privacy-preserving Tactics，把風險類型與緩解手段做成可對照的 mapping，而不是只停在抽象原則。

我覺得 PROMPT 最有價值的地方，在於它不是只說「要重視隱私」，而是把風險放回 pipeline 裡看：

• 資料收集與前處理：資料最小化做了沒？metadata 有沒有過度保留？使用者層級聚合會不會導致 re-identification？
• 儲存與安全：集中式資料湖是不是把高敏感內容、標註與關聯圖譜全疊在一起？
• 分析與建模：模型是不是在學 propaganda pattern 的同時，也學會了使用者輪廓與脆弱屬性？
• 分發與網路層：跨團隊共享、跨法域傳輸、外包 annotation / moderation service 會不會把風險再往外擴？

作者還把防禦選擇形式化成 utility optimization：不是所有地方都盲目上最重的 privacy tech，而是要在 Privacy Gain、Performance Loss、Cost 之間權衡。這點很務實，因為真實系統永遠不是「越隱私越好」這麼簡單，而是你要知道哪一段最值得花成本收斂。

最重要的發現：很多 propaganda detection 其實是先違反 data minimization，才去談公共利益

1. 問題不只在文本，真正敏感的是 metadata 與 user-level aggregation

作者指出，很多研究與系統不是只看貼文本身，而會結合：

• 時間戳與發文節奏
• 互動網路與社交圖譜
• 地理線索與平台行為
• 跨平台身分關聯與使用者輪廓

這些訊號的確會讓模型更容易抓到 coordinated campaigns，但也最容易讓系統滑向 surveillance。因為單篇內容未必可識別個人，但一旦把 metadata、互動關係與行為序列綁在一起，辨識能力就會急速上升。

從資安角度看，這代表風險不只在模型輸出錯誤，而是在資料面本身已經形成高價值 target：一旦外洩、濫用或被內部越權查詢，傷害會比一般 moderation log 更大。

2. 合規缺口是結構性的，不是文件少寫幾句而已

作者引入 compliance score，想量化現有方法跟 GDPR、CCPA 等要求是否對齊。結果很不好看：很多常見 pipeline 在 metadata handling 與 user-level aggregation 上其實並不合規。

這點很關鍵，因為它表示很多系統不是單純「法務文件稍後再補」，而是設計哲學本身就預設先多收再說。等到後面要補 data minimization、purpose limitation、privacy by design，往往已經不是改參數，而是整條資料流都得重畫。

3. 隱私不是免費 lunch，但成本其實是可量化的

作者也做了實驗，觀察在 synthetic perturbation 下 privacy-utility trade-off。結果是單調的：

• 擾動率 q = 0.05 時，F1 大約下降 1–2%
• 擾動率 q = 0.20 時，F1 下降可到 13–14%

我覺得這組數字很有用，因為它把討論從「加隱私保護會不會拖垮效果」拉回比較成熟的工程語言：你可以開始問不同風險等級下，組織願意接受多少 performance regression 來換取資料暴露面下降。

這跟很多藍隊或偵測工程的現實很像：我們本來就會在 recall、precision、latency、運算成本之間做 trade-off。這篇做的是把 privacy 正式放進那張表。

PROMPT 真正有意思的地方：它把內容安全變成可稽核的隱私工程問題

我會把這篇最核心的貢獻，理解成下面這句話：

它不是叫你在 propaganda detection 上再貼一層 privacy 標語，而是要求你把整個 detection pipeline 當成一個需要 threat modeling、 control mapping 與合規稽核的安全系統。

這對實務團隊很有價值，因為很多內容安全系統很容易落入兩個極端：

• 只拼 detection quality：什麼訊號有效就全收，最後系統本身變成高度侵入式監測平台
• 只談抽象倫理：原則說得很漂亮，但沒有把風險對應到資料流、特徵面與技術控制

PROMPT 的好處是它逼你回答更工程化的問題：

• 哪些欄位真的是偵測必要？
• 哪些是高敏感 metadata，應該先去識別化或根本不留？
• 哪些協作分析可以用 federated learning 或 secure computation 取代集中收集？
• 哪些研究評估該把 compliance score 與 privacy cost 一起報，而不是只報 F1？

這對 CTI / Trust & Safety / 平台安全團隊的實際啟發

1. 把 propaganda / disinformation pipeline 視為高敏感資料系統，而不是普通 NLP 專案。
   只要涉及使用者群體輪廓、行為序列、群聚連結與跨平台關聯，就該套用更接近資安資料平台的保護基準。
2. 把 metadata 視為一級風險來源。
   真正讓 re-identification 與 profiling 變強的，常常不是文本本身，而是時間、關聯、來源、網路結構與互動模式。
3. 在研究與產品評估裡加入 privacy cost 與 compliance score。
   只報 precision / recall，會讓團隊系統性低估「為了把模型做準而多拿了多少不該拿的資料」。
4. 把 public-interest justification 從免責護身符，改成可稽核控制。
   說自己是為了反制宣傳，不代表就能無限制保留可識別資料。真正重要的是 retention、access control、aggregation boundary 與 minimization 有沒有落地。

我怎麼看這篇的邊界？

這篇不是攻擊論文，也不是提出某個超強模型，所以如果你要找立刻能抄進產品裡的 detector architecture，它不是那種 paper。它的價值比較像是：

• 幫你把 propaganda detection 的隱私帳算清楚
• 把「公共利益」與「個資風險」這兩條常被分開講的線接起來
• 提供一個能讓研究、法遵、平台治理與安全工程坐下來講同一張圖的框架

它的限制當然也有：PROMPT 本身比較像決策框架，不是現成產品；不同平台、法域與威脅情境的實作細節仍然很多；而且文中的 perturbation 實驗給的是 baseline，不代表所有真實部署都會呈現同樣斜率的 trade-off。

但這些都不影響它的重要性，因為它碰到的其實是很多 AI 治理系統的共通盲點：你在保護系統的同時，也可能正在擴張系統對人的可見度。

總結

如果要把這篇濃縮成一句話，我會這樣說：

PROMPT 真正提醒大家的，不是 propaganda detection 要不要更準，而是任何想靠大規模資料與模型去辨識資訊操弄的系統，都必須先回答：你為了抓 propaganda，到底打算把人看多細。

對做 CTI、平台治理、online safety 與隱私工程的人來說，這篇很值得讀。因為它把問題講得夠誠實：內容安全不該建立在預設監控一切的資料貪婪上。 真正成熟的系統，不只是能偵測有害宣傳，而是能在最少必要資料、可解釋風險邊界與可稽核合規控制下，把這件事做成。