論文：Stealing Reasoning Traces from Proprietary LLM APIs

整體評價：這是一篇技術邏輯合理、實驗證據也相當有說服力的 LLM 安全研究。

不過，這篇論文真正揭露的並不是「LLM Provider 使用的加密演算法被破解」，而是 Reasoning State 的可攜性（Portability）與 Security Context Binding 不足所造成的安全問題。

攻擊者並沒有破解 AES、偽造 MAC 或取得 Encryption Key，而是利用 Provider 自己的 Backend Infrastructure 解密 Reasoning，再誘導另一個較容易被操控的模型將其轉錄成明文。

從這個角度來看，它更接近一種 Replay + Capability Boundary Failure + Model-assisted Exfiltration。

- 閱讀剩餘部分 -

在這個章節我們要繼續延續前一個已經完成的工具調用擴展，升級為「會自己決定跑幾輪」的 Agent，理解 Memory、規劃
其核心原則：Agent = 一個「Thought → Action → Observation」不斷循環、直到任務完成的迴圈

首先，Agent 的本質就是 ReAct 迴圈（Reasoning + Acting）：

- 閱讀剩餘部分 -

1. 丟10次骰子，恰好出現2次1點的概率

這是標準的二項分布問題，每次擲骰子出現1點的概率 p = 1/6。

公式：

$$
P(X=2)= C(10,2) \times (1/6)^2 \times (5/6)^8
$$

計算：

• C(10,2) = 45
• (1/6)² = 1/36
• (5/6)⁸ ≈ 0.23257

- 閱讀剩餘部分 -

如何讓模型能呼叫外部工具，並親手實作「模型選工具 → 執行 → 回輸 → 答覆」的完整迴圈 核心原則
Tool Calling 是 Agent 的底層——Agent 不過是「會自己決定何時呼叫哪個工具的迴圈」

模型本身只會產生文字，不會真的算數、查資料、打 API。Tool Calling 的機制是：

1. 把工具的 JSON Schema 連同問題一起送給模型
2. 模型回答「我要呼叫 calculator，參數 {expression:'...'}」
3. 而程式（不是模型）真的去執行該函式
4. 再把執行結果回輸給模型
5. 模型用結果產出最終自然語言答覆

- 閱讀剩餘部分 -

X 低熵，是否代表(糾纏的)Y 高熵？

不會，而且方向可能跟你想的相反。原因如下：

一、經典資訊論的糾纏＝關聯（相關性/互信息）

對兩個隨機變數 X、Y，關係式是：

$H(X,Y) = H(X) + H(Y) - I(X;Y)$

- 閱讀剩餘部分 -