结构化输出 on 繁星物语https://sql668.github.io/blog/tags/%E7%BB%93%E6%9E%84%E5%8C%96%E8%BE%93%E5%87%BA/Recent content in 结构化输出 on 繁星物语Hugozh-cnWed, 16 Sep 2026 14:46:00 +0800System One Models 与 Jev：不生成字符串的模型，凭什么快两个数量级https://sql668.github.io/blog/posts/system-one-jev-typed-output/Wed, 16 Sep 2026 14:46:00 +0800https://sql668.github.io/blog/posts/system-one-jev-typed-output/<p>请求路径里放一个模型做判断——这笔转账要不要放行、这条工单要不要升级。现在的做法是发 prompt、解析返回的 JSON：单次请求几秒到几分钟，输出 token 按字计费，而 SLO 是五百毫秒。这个差距调参补不回来。</p>