#コンテキスト管理

ローカルエージェントがシステムプロンプトを忘れた理由 — Ollama num_ctx無言truncationを実測

ローカルエージェントが長い会話で急に指示を無視しはじめた。プロンプトの先頭に秘密コードを隠し、長さを伸ばしながらrecallを測った。 num_ctxを超えるとOllamaはエラーも出さずプロンプトの前方を切り落とす。そして「既定値は4096」という通説も私のMacでは外れていた。