LLM Agents

一篇关于 CONCUR 的技术笔记：它在 agent 层做准入控制，避免长时间运行的 LLM agent 推理把 KV cache 推入失控区间。