論文:Stealing Reasoning Traces from Proprietary LLM APIs

整體評價:這是一篇技術邏輯合理、實驗證據也相當有說服力的 LLM 安全研究。

不過,這篇論文真正揭露的並不是「LLM Provider 使用的加密演算法被破解」,而是 Reasoning State 的可攜性(Portability)與 Security Context Binding 不足所造成的安全問題。

攻擊者並沒有破解 AES、偽造 MAC 或取得 Encryption Key,而是利用 Provider 自己的 Backend Infrastructure 解密 Reasoning,再誘導另一個較容易被操控的模型將其轉錄成明文。

從這個角度來看,它更接近一種 Replay + Capability Boundary Failure + Model-assisted Exfiltration

- 閱讀剩餘部分 -