ローカルLLM Tool Adapterのトラブルシューティング分類
Posted: | Tags: ai, codex, local-llm, tool-calling, troubleshooting
ローカルLLM Tool Adapterのトラブルシューティング分類
ローカル LLM と tool calling adapter を組み合わせると、失敗原因が複数の層に分かれる。
最終応答だけを見ると「model が間違えた」に見えるが、実際には次のような層のどこかで起きていることが多い。
- model context / VRAM
- Hermes prompt / parser
- tool pruning / router
- OpenAI-compatible proxy
- CLI の tool execution
- shell sandbox
- internal web tool
- external research helper
- benchmark harness
このメモでは、公開してもよい抽象度でトラブルの傾向を整理する。実 port、実 path、token 名、host 名、生ログは private runbook 側に残す。
全体の切り分け
flowchart TD
Final[final answer] --> A{tool call eventは出たか}
A -->|no| Router[adapter router / model tool selection]
A -->|yes| B{tool executorは動いたか}
B -->|no| Proxy[proxy / schema / unknown tool]
B -->|yes| C{tool outputは正しいか}
C -->|no| Sandbox[sandbox / command / environment warning]
C -->|yes| D{finalが正しいか}
D -->|no| Relay[output relay / model summarization]
D -->|yes| Done[pass]
まず見るべきなのは final answer ではなく、tool call event と tool result 。
Read more...