Jev 不能用来和你对话

本文 ai 成分为 0

1、前言:

最近出来一个新的比较“特殊”的 ai 模型,Jev,来自前 openai 研究员 Diogo Almeida,也是 RLHF 的发明人之一

公司:TypeSafe AI

官网:https://typesafe.ai/

目前因为太火需要进入候选队列,不过我已经通过了,开心

image

2、它是什么

它是一个极速决策模型,用来做快速精准的决策

这世界上,思考分为两种,一种速度极快,靠的是直觉,一种速度慢,靠的是推理分析

现在主流的大模型都是属于第二种,根据用户提出的问题开始分析,推理,问题越复杂耗费的推理分析时间越长,然后回复给你问题的答案或者分析的结果

在未来,肯定不能只有基于推理分析的场景存在,因为不是所有场景都需要一段话的,它需要的只是一个 决策 :

比如这个评论是否包含人身攻击?这个工单该转给谁?这个问题适合用哪个工具解决?该交由哪个模型解决?

它需要的结果是一个是 or 否,一个选择,一个分数,如果只是为了得到一个简单判断而调用大型生成模型,就可能产生额外的生成成本、延迟和输出处理工作,又贵又慢

所以 Jev 出现了,它把你交给它的一个状态和一组带类型的问题并行评估,极其快速而精准的给你一个选项,一个判断,或者一个分数

3、它怎么工作?

它只解决三种问题:

1、选择:从你给的选项里,选出一个,并给每个选项一个概率

2、打分:给你提供的一个有序评分表里,给每个内容打分

3、是或否:给你的问题一个是或否的结果,附上 0-1 之间的概率

三种问题可以混入一个请求里,它会并行处理,互不干扰,不在一个超长上下文里进行连环推理,而是把问题拆分成一个个的原子问题,一次性问出

4、它能干什么?

按照上面说的它能做选择,打分,给是或否,好像看起来只能做为客服,工单场景了:这个工单是严重问题吗?用户的反馈分析他是愤怒还是平静?下一步转给谁?除此之外好像也没有什么应用场景了

不要被你的想象力所束缚了!

1、它能极快的操作浏览器

因为浏览器元素是一个个离散的 dom,操作本质上可以被拆解成一系列选择题

  • 选择:众多操作里做哪个操作

  • 选择:众多 dom 中选哪个元素

  • 需要文字的时候调用小语言模型

这正好是 Jev 的长项,官方已经开源了它操作浏览器:https://github.com/browser-use/jev-ultrafast

相当快速了,搜一张机票的操作只用了 7.1 s,浏览器协议调用从一千多次降低为 101 次

2、它能操纵游戏

因为复杂的游戏操作也是可以拆分为原子问题,比如超级马里奥:

  • 选择:手柄的动作

  • 是否:现在跳有没有用

  • 分数:眼前的危险程度

每 8 帧决策一次,把 Jev 全部特性都用上了,并行解决

3、它可以用于大模型的上下文的压缩

  • 打分:这部分上下文重要程度

  • 是否:这部分对于上下文理解是否有用

能极其精准快速的压缩大模型上下文

是不是感觉简单的三个特性,被玩出了了花?之前根本就没想到?就像路飞的恶魔果实只是橡胶,他能开发出很多意向不到的功能一样

Jev 还能用来作为分类、路由、打分、排序、智能体决策等很多场景,已经有社区里的人整理好了

https://github.com/Anil-matcha/awesome-jev-by-typesafe

5、怎么用

  • 安装 Skill: 让 AI Agent 知道什么时候应该调用 Jev,以及如何设计分类、评分和判断任务。

    打开你的 Jev 控制台,它有一个 skill 提供,文档地址:

    https://docs.typesafe.ai/agent-skill

    image

  • 接入 Jev:配置 TypeSafe API Key,通过 SDK 或 HTTP API 真正调用模型,获得结果

6、开始使用吧

我已经把 Jev 纳入我的 ai 工作流之中了,看看能用它来做什么呢?ai 时代发挥想象力才是最重要的

参考视频: