延迟预算 on 繁星物语https://sql668.github.io/blog/tags/%E5%BB%B6%E8%BF%9F%E9%A2%84%E7%AE%97/Recent content in 延迟预算 on 繁星物语Hugozh-cnWed, 16 Sep 2026 14:46:00 +0800System One Models 与 Jev：不生成字符串的模型，凭什么快两个数量级https://sql668.github.io/blog/posts/system-one-jev-typed-output/Wed, 16 Sep 2026 14:46:00 +0800https://sql668.github.io/blog/posts/system-one-jev-typed-output/<p>请求路径里放一个模型做判断——这笔转账要不要放行、这条工单要不要升级。现在的做法是发 prompt、解析返回的 JSON：单次请求几秒到几分钟，输出 token 按字计费，而 SLO 是五百毫秒。这个差距调参补不回来。</p>