TTFB(首字节延迟) 核心概念

别名: 首字节延迟

Time To First Byte,从发出请求到收到第一个字节的时间。它决定用户对「卡不卡」的第一印象,流式把总延迟转化为可感知的渐进进度,正是为了缓解 TTFB 带来的焦虑。

它是什么

TTFB(Time To First Byte,首字节延迟)指从客户端发出请求到收到第一个字节的时间。它包含 DNS 解析、TCP/TLS 握手、服务端排队与首字节处理等环节,是衡量「响应是否开始」的关键指标。用户对「卡不卡」的第一印象,几乎完全由 TTFB 决定。

与流式的关系

长任务(比如一次要算 30 秒的 LLM 生成)里,用户的耐心比模型的速度更贵。一次性响应的「总延迟」= TTFB + 生成时长,用户在 30 秒内看不到任何反馈;流式把「总延迟」转化为「渐进可见的进度」——TTFB 之后文本就开始逐字出现。对 Agent 来说,每一个中间结果都是一次「我还活着、正在干活」的广播。

在本教程的实践

后续章节把它落在工程上:事件协议里的 ts 时间戳与 seq 序号(第 15 章)、前端增量渲染(第 17 章)、可观测性里的耗时统计(第 20 章),都是在量化并优化「用户等第一个字的时间」。

相关词条

出现在这些章节