Compression
It’s the @jevonstonk engine 👀 引用 Akshay 🚀 @akshay_pachaar · 20小时 翻译自 英语 LLMs 与 Jev 的对比,清晰解析! TL;DR 关键区别不在于 Jev 生成得更快。 Jev 根本不生成文本。 传统 LLM 接收上下文,并逐个 token 生成答案。即使输出是一个小型 JSON 对象,每个 token 也依赖于之前生成的那些。 Jev x.com/703601972/stat… 6
It’s the @jevonstonk engine 👀 引用 Akshay 🚀 @akshay_pachaar · 20小时 翻译自 英语 LLMs 与 Jev 的对比,清晰解析! TL;DR 关键区别不在于 Jev 生成得更快。 Jev 根本不生成文本。 传统 LLM 接收上下文,并逐个 token 生成答案。即使输出是一个小型 JSON 对象,每个 token 也依赖于之前生成的那些。 Jev x.com/703601972/stat… 6