推上吹的火热的 jev，是不是还不如小参数的开源模型，感觉钱都去做营销了

[SilenceLL]

跟 AI 一起读了下，暂时得出来的结论如下：

它可能本质上是把“高质量小模型 + 分类/排序 + constrained output + calibration”包装成了一个非常漂亮的 Decision Model 产品。

[maocat]

看了眼，或者可以叫意图识别小模型

[AdminNB]

大概看了下，只做选择和判断，看起来比较适合用来做一些审核类的场景，跟现有模型比，主要还是速度快吧

[SilenceLL]

@AdminNB 智能判断节点？做审核类还是有点不够吧

[seakingii]

小模型再快也没它这个快,目前这是 100 ms 级别的

[seakingii]

现在有一个人,根据这个原理,特化 qwen 2 这个模型,达到 JEV 的效果. 你可以找一下.

按我的了解是,一个革命性的思路,但没有什么技术门槛

[dassh]

看了下，相当于文字版本的 yolo world ，感觉确实营销过头了，你一个小模型，当然比 gpt 那些快

有人用 qwen 0.6b 模拟了一个 https://github.com/TheoLeeCJ/openjev

[muyi]

早上看到了这个开源复刻 https://github.com/TianyuCodings/NanoJev

[sillydaddy]

快思考的直觉脑～这个思路没问题吧。

[mkt]

用户：这怎么算的？
jev：你就说快不快吧

[zhmouV2]

低成本的决策模型，但是结果对不对就不知道了

[cobiao]

"System One""Typesafe""noul""RLCD"有点过度包装了,明明就是用于垂直领域的小模型. 但是,针对垂直领域的便宜又快速的小模型,这个方向的确挺看好的,国内估计很快就会有同类产品跟上.前阵子好像国内面壁和讯飞都出了很小的通用 agent,好像是 4b,没什么水花,还是国外会炒作呀.

上个月国外出了个 45M 的 mini 模型 needle2,专门用于智能家居生成结构化输出的,直接可以在浏览器里运行,速度很快,可以实时交互,我还做了一个简单 demo: https://github.com/whitefoxx/line-room 可以玩下. 前几天,needle3 也出来了,更小了,只有 37M,官网可以玩下: https://cactuscompute.com/needle

[prosgtsr]

反正我不信

[ZZITE]

适合在代码程序中结合使用，能解决某些只想要借助 AI 来根据复杂规则输出判断，并输出结构化结果，交给程序继续执行的场景。

[SilenceLL]

@ZZITE 会不会还不如直接跑小参数模型

[zhanying]

@dassh openjev 的 meme 图太难绷了

[luzemin]

主要是：准确、快速、便宜

三者任意一项不满足，就失去价值了

[seakingii]

@SilenceLL 不可能.就算是当前的小参数模型也不会在这个领域比它快. 目前的 LLM 用来决策,它是有这个功能,但是太重了.慢很多

[andyskaura]

@mkt 想到了以前的 fastjson

[seakingii]

用小模型来模拟 JEV,可以接近效果,但目前有 效率和准确度的 难题

[seakingii]

不过这个新的架构的难度应该不高,至少比 DS 搞出 COT 的那个简单多. 开源代替应该很快可用

[SilencerL]

@SilenceLL #14

我在本地测过了其他人提到的 OpenJev ，明显还是打不过 Jev 这种专用的 classification 模型

[theohateonion]

加了后训练的数据集，模型本身肯定比裸开源模型要好的。即使基座是一个很小参数的开源模型，只要业务上有价值，我感觉很多公司都会跟进然后训练自己的模型然后进一步提升效率。

如果每一个结果真的到了毫秒级别的响应了，那就是另一个 level 的应用了。如果考虑准确度不敢接入业务系统的话，在内部工具里面用用肯定没问题的。

[tudou527]

老早之前 bailian 上就有一个这样的意图分类模型了： https://bailian-legacy.console.aliyun.com/cn-beijing/?tab=model#/model-market/detail/tongyi-intent-detect-v3?serviceSite=asia-pacific-china&ref=all

[godymho]

这个 jev 好像只支持英文

[winglight2016]

感觉是两边不靠：如果我要快速，ifelse 不好吗，如果要准确，AI agent 不是更准？

需要基于业务知识快速决策，只需要大模型生成一套 ifelse 即可。因为这种决策明显不是给人类使用的，机器只需要知道上一步来源和下一步的可选项，这个无非是规则映射。

[zeredy]

完全不懂，让 deepseek v4.1 手搓了一个🫥
https://github.com/zeredy879/minojev

[JZen]

对于实时性强的场景，感觉还是不够快，而且还不支持多模态。如果能做到 20ms 以下的级别，并且支持图片/音频输入，前景非常大。

[cvooc]

量化交易决策?

[Cambra1n]

什么时候能本地部署才有意义，JEV 的大量场景都是不联网需求

[txican]

@winglight2016

你能 if else 什么? 是特定的字符串? 还是 用 自然语言描述的字符串?

if ("脏话 1", "脏话 2", "脏话 3", "脏话 4", ...) then 转人工

if (jev 判断"客人说的是脏话") then 转人工

以上还只是"脏话"一个域, 实际上, 在"脏话"之上, 还有"客人情绪急躁"这个域, 你用 if else 特定的字符串? 还是用 jev 判断 自然语言描述的字符串?