Chrome 測試使用本地 model

進入 chrome://on-device-internals 如果模型沒有下載（Foundational model state: No On-device Feature Used），就在 console 呼叫

const session = await LanguageModel.create();

如下圖 model 開始下載

這時候終於出現（chrome://components/）

本地 nvidia gpu 使用量上來了

時間有點久，大概跑了1分鐘多才出現結果

本地設備 RTX 3060

下載下來的 model 大小約 4G

也可以透過這裏測試 https://prompt-api.com/