大模型
TypeSafe AI发布不生成文本的Transformer模型Jev
Jev以概率输出和校准决策服务软件自动化,测试显示其在命令安全分类中速度最高提升18倍,成本可低至Gemini的十分之一。

TypeSafe AI发布Transformer模型Jev,尝试绕开大语言模型的文本生成范式,以概率输出和“校准决策”服务软件自动化。TypeSafe AI由OpenAI前研究员、RLHF技术参与者Diogo Almeida创办,他于两年前离开OpenAI,并认为围绕人类语言优化的模型并不适合计算机自动化场景。
Jev不生成文本,而是输出概率,因此无需承担传统大语言模型的幻觉和冗余生成成本。其输出标记免费,输入按十亿级标记计费。开发者测试显示,Vercel使用Jev替代OpenAI模型进行命令安全分类后,速度提升5至18倍且准确率更高;Bryo AI测试中,Jev准确率略低于Gemini,但成本低10至20倍。
除分类任务外,Jev还可用于LLM代理监控、越狱检测和模型路由,通过低成本实时判断任务所需模型。TypeSafe称,Jev采用完全合成数据训练,并使用“基于校准决策的强化学习”。该模型目前尚无直接竞品,业内人士预计,随着低成本决策模型的应用价值显现,相关竞争将逐步展开。