分類 LLM 下的文章

論文:Stealing Reasoning Traces from Proprietary LLM APIs

整體評價:這是一篇技術邏輯合理、實驗證據也相當有說服力的 LLM 安全研究。

不過,這篇論文真正揭露的並不是「LLM Provider 使用的加密演算法被破解」,而是 Reasoning State 的可攜性(Portability)與 Security Context Binding 不足所造成的安全問題。

攻擊者並沒有破解 AES、偽造 MAC 或取得 Encryption Key,而是利用 Provider 自己的 Backend Infrastructure 解密 Reasoning,再誘導另一個較容易被操控的模型將其轉錄成明文。

從這個角度來看,它更接近一種 Replay + Capability Boundary Failure + Model-assisted Exfiltration。

- 閱讀剩餘部分 -

一、大模型沒有記憶

由於 LLM 本質上是無狀態的(Stateless)。每一次 API 呼叫都是獨立的、全新的計算過程,模型內部不會保留任何「記住上一句話」的狀態。因此,兩次呼叫彼此獨立,第二次完全不知道第一次發生過的事情。於是乎就有了以下的做法。

Prompt 層模擬記憶

把「歷史聊天記錄」+「當前新問題」打包拼接,作為一個完整的 Prompt 一次性傳給模型,讓它在 單次推理中 看到全部上下文。

我們會把對話歷史塞進 context 中,如下:

- 閱讀剩餘部分 -

「將原始模型輸出轉化為結構化、可靠、可預測的行為」。 這是 prompt engineering 的工程定義。其中三個層次:

  1. 策略:zero-shot / few-shot / Chain-of-Thought — 用什麼方式引導模型推理
  2. 約束:JSON mode、schema、格式規範 — 讓輸出可被程式接住
  3. 曡代:用標註資料集量化準確率,像調程式一樣調 prompt

Context Engineering(上下文工程):重點不是單句 prompt,而是 「在有限 context window 裡,放對的範例、對的格式說明、對的歷史」。

- 閱讀剩餘部分 -

這篇延續上一個 CodeGraph 的深度解析數據庫

59431-s247m5gr8fn.png

在上一篇文章CodeGraph 安裝與使用教學:整合 Claude Code、Cursor、Codex 的程式碼圖譜工具中資料如下:

(py3.10) D:\Git\mitagent>codegraph status                                                                                                                                                                                                                                   
CodeGraph Status                                                                                                                                                                                                                                                            
Project: D:\Git\mitagent                                                                                                                                                                                                                                                    
Index Statistics:                                                                                                                                                                                                                                                           
  Files:     25                                                                                                                                                                                                                                                             
  Nodes:     423                                                                                                                                                                                                                                                            
  Edges:     982                                                                                                                                                                                                                                                            
  DB Size:   1.26 MB                                                                                                                                                                                                                                                        
  Backend:   node:sqlite - built-in (full WAL)                                                                                                                                                                                                                              
  Journal:   wal                  

- 閱讀剩餘部分 -