AIS3 2026「模型為何開口,又為何選擇沉默」課程筆記
AIS3 2026「模型為何開口,又為何選擇沉默」課程筆記:從逐字生成的原理到安全對齊與拒答機制,理解語言模型為什麼回答、為什麼拒絕。
2026 年 7 月 21 日
AIS3 2026「模型為何開口,又為何選擇沉默」課程筆記:從逐字生成的原理到安全對齊與拒答機制,理解語言模型為什麼回答、為什麼拒絕。
論文閱讀:Universal and Transferable Adversarial Attacks on Aligned Language Models(GCG 攻擊),解析對齊語言模型的通用對抗後綴攻擊,以及為什麼會拒答不代表真正安全。
ImagePromptly 是 AI 圖像轉換與創意靈感平台,介紹影像生成、風格轉換功能與適合的使用情境。
論文敘事第一章:研究生英靈 Thesis Archer 迎戰 Proposal 計畫書審查,獲得「可以開始真正的研究了」的許可。
Thesis Archer 英靈檔案(Servant Profile):以改稿為武器、熬夜為宿命的研究生英靈角色設定。
上傳到自訂 GPT 知識庫的檔案,可能被使用者透過對話問出來。以 BlackBastaGPT 為例,說明 GPTs 知識庫外洩的原理,並整理製作自訂 GPT 時的資料防護建議。