Tag: LLM

深入解析 Prompt 缓存的工作原理，揭示 LLM 服务商如何通过 KV 缓存技术实现 10 倍 Token 成本降低和 85% 延迟减少。

当你用中文写需求时，是否应该先翻译成英文再让 AI 生成代码？本文从 HumanEval-X 多语言基准出发，解答这个困惑，并提供实用的代码场景提示策略。

整理 Andrej Karpathy 关于高效使用 LLM 的实践经验，覆盖心智模型、工具选择和日常工作流。

面对 GPT、Claude、Gemini 等大模型榜单，梳理工程、工具调用和真实体验三个维度的选型方法。

传统搜索引擎和大模型虽然都使用 Tokenization，但它们的目的、原理和处理方式有着本质的区别。本文深入探讨两种分词机制的差异，以及为什么向量搜索无法完全替代传统分词。

探索如何使用类比、结构和视觉元素来制作有效的提示词。了解为什么表情符号就像快捷键，以及为什么清晰的边界比严格的格式更重要。