分類 LLM 下的文章

一、大模型沒有記憶

由於 LLM 本質上是無狀態的(Stateless)。每一次 API 呼叫都是獨立的、全新的計算過程,模型內部不會保留任何「記住上一句話」的狀態。因此,兩次呼叫彼此獨立,第二次完全不知道第一次發生過的事情。於是乎就有了以下的做法。

Prompt 層模擬記憶

把「歷史聊天記錄」+「當前新問題」打包拼接,作為一個完整的 Prompt 一次性傳給模型,讓它在 單次推理中 看到全部上下文。

我們會把對話歷史塞進 context 中,如下:

- 閱讀剩餘部分 -

「將原始模型輸出轉化為結構化、可靠、可預測的行為」。 這是 prompt engineering 的工程定義。其中三個層次:

  1. 策略:zero-shot / few-shot / Chain-of-Thought — 用什麼方式引導模型推理
  2. 約束:JSON mode、schema、格式規範 — 讓輸出可被程式接住
  3. 曡代:用標註資料集量化準確率,像調程式一樣調 prompt

Context Engineering(上下文工程):重點不是單句 prompt,而是 「在有限 context window 裡,放對的範例、對的格式說明、對的歷史」。

- 閱讀剩餘部分 -

這篇延續上一個 CodeGraph 的深度解析數據庫

59431-s247m5gr8fn.png

在上一篇文章CodeGraph 安裝與使用教學:整合 Claude Code、Cursor、Codex 的程式碼圖譜工具中資料如下:

(py3.10) D:\Git\mitagent>codegraph status                                                                                                                                                                                                                                   
CodeGraph Status                                                                                                                                                                                                                                                            
Project: D:\Git\mitagent                                                                                                                                                                                                                                                    
Index Statistics:                                                                                                                                                                                                                                                           
  Files:     25                                                                                                                                                                                                                                                             
  Nodes:     423                                                                                                                                                                                                                                                            
  Edges:     982                                                                                                                                                                                                                                                            
  DB Size:   1.26 MB                                                                                                                                                                                                                                                        
  Backend:   node:sqlite - built-in (full WAL)                                                                                                                                                                                                                              
  Journal:   wal                  

- 閱讀剩餘部分 -