Jev 不能用来和你对话
本文 ai 成分为 0
1、前言:
最近出来一个新的比较“特殊”的 ai 模型,Jev,来自前 openai 研究员 Diogo Almeida,也是 RLHF 的发明人之一
公司:TypeSafe AI
官网:https://typesafe.ai/
目前因为太火需要进入候选队列,不过我已经通过了,开心

2、它是什么
它是一个极速决策模型,用来做快速精准的决策
这世界上,思考分为两种,一种速度极快,靠的是直觉,一种速度慢,靠的是推理分析
现在主流的大模型都是属于第二种,根据用户提出的问题开始分析,推理,问题越复杂耗费的推理分析时间越长,然后回复给你问题的答案或者分析的结果
在未来,肯定不能只有基于推理分析的场景存在,因为不是所有场景都需要一段话的,它需要的只是一个 决策 :
比如这个评论是否包含人身攻击?这个工单该转给谁?这个问题适合用哪个工具解决?该交由哪个模型解决?
它需要的结果是一个是 or 否,一个选择,一个分数,如果只是为了得到一个简单判断而调用大型生成模型,就可能产生额外的生成成本、延迟和输出处理工作,又贵又慢
所以 Jev 出现了,它把你交给它的一个状态和一组带类型的问题并行评估,极其快速而精准的给你一个选项,一个判断,或者一个分数
3、它怎么工作?
它只解决三种问题:
1、选择:从你给的选项里,选出一个,并给每个选项一个概率
2、打分:给你提供的一个有序评分表里,给每个内容打分
3、是或否:给你的问题一个是或否的结果,附上 0-1 之间的概率
三种问题可以混入一个请求里,它会并行处理,互不干扰,不在一个超长上下文里进行连环推理,而是把问题拆分成一个个的原子问题,一次性问出
4、它能干什么?
按照上面说的它能做选择,打分,给是或否,好像看起来只能做为客服,工单场景了:这个工单是严重问题吗?用户的反馈分析他是愤怒还是平静?下一步转给谁?除此之外好像也没有什么应用场景了
不要被你的想象力所束缚了!
1、它能极快的操作浏览器
因为浏览器元素是一个个离散的 dom,操作本质上可以被拆解成一系列选择题
-
选择:众多操作里做哪个操作
-
选择:众多 dom 中选哪个元素
-
需要文字的时候调用小语言模型
这正好是 Jev 的长项,官方已经开源了它操作浏览器:https://github.com/browser-use/jev-ultrafast
相当快速了,搜一张机票的操作只用了 7.1 s,浏览器协议调用从一千多次降低为 101 次
2、它能操纵游戏
因为复杂的游戏操作也是可以拆分为原子问题,比如超级马里奥:
-
选择:手柄的动作
-
是否:现在跳有没有用
-
分数:眼前的危险程度
每 8 帧决策一次,把 Jev 全部特性都用上了,并行解决
3、它可以用于大模型的上下文的压缩
-
打分:这部分上下文重要程度
-
是否:这部分对于上下文理解是否有用
能极其精准快速的压缩大模型上下文
是不是感觉简单的三个特性,被玩出了了花?之前根本就没想到?就像路飞的恶魔果实只是橡胶,他能开发出很多意向不到的功能一样
Jev 还能用来作为分类、路由、打分、排序、智能体决策等很多场景,已经有社区里的人整理好了
https://github.com/Anil-matcha/awesome-jev-by-typesafe
5、怎么用
-
安装 Skill: 让 AI Agent 知道什么时候应该调用 Jev,以及如何设计分类、评分和判断任务。
打开你的 Jev 控制台,它有一个 skill 提供,文档地址:
https://docs.typesafe.ai/agent-skill

-
接入 Jev:配置 TypeSafe API Key,通过 SDK 或 HTTP API 真正调用模型,获得结果
6、开始使用吧
我已经把 Jev 纳入我的 ai 工作流之中了,看看能用它来做什么呢?ai 时代发挥想象力才是最重要的
参考视频:
