Lev – 能动性多模态智能体模型

Lev是面向多选决策任务的循环式语言决策模型,提供Lev‑1.4B、Lev‑2.6B、Lev‑3B三套权重版本,依靠隐藏状态循环迭代完成推理,不生成额外推理token。单套模型权重支持多种推理深度,简单任务执行少量循环即可输出结果,复杂任务增加循环轮次提升输出质量。项目配套LevBench评测数据集与停止器模块,停止器基于无标注样本拟合阈值,动态控制每一条样本的循环终止时机,代码、权重、数据集全部对外开源,适配 JevBench 等多选类评测任务开展实验。

Lev - 能动性多模态智能体模型

Lev特点

推理计算发生在隐藏状态空间,不输出思维链文本 token,每一轮循环后均可读取候选选项概率。

单份模型权重兼容多种推理深度,可手动设定固定循环次数,交由停止器动态控制退出时机。

内置停止器模块,基于无标注数据拟合阈值,评估当前结果与最大深度结果的一致性。

模型在难题样本上获得明显指标提升,简单样本可提前终止循环,减少算力消耗。

提供三套不同参数量检查点,适配不同显存硬件,全部权重、脚本、评测素材对外公开。

输出各候选选项完整概率分布,保留每一轮循环的预测记录,便于回溯推理过程。

Lev技术原理

基于 Ouro、Nanbeige4.2循环预训练底座开展LoRA微调,对全部循环轮次做联合损失训练。输入文本进入网络得到初始隐藏状态,重复送入同一组解码器层完成循环迭代。共享指针读出头在每一轮循环结束后提取各个候选选项概率。停止器子模块接收多轮概率输出,比对当前结果和最大深度输出的吻合程度,达到预设阈值直接终止推理。固定深度模式会执行完整设定轮次,不受停止器干预。训练阶段混合 SocialIQa、MathQA 类多选样本,对齐不同循环轮次输出分布。

Lev项目地址

  • 项目官网:https://openlair.github.io/lev/
  • GitHub仓库:https://github.com/OpenLAIR/lev

Lev功能

多选问答推理,接收题干与候选选项,输出每个选项对应概率。

固定深度推理,人为设定循环轮次,统一控制模型计算开销。

自适应深度推理,停止器自动判定终止时机,不同样本执行不同循环步数。

推理轨迹记录,保存每一轮循环生成的选项概率,用于结果复盘分析。

LevBench、JevBench评测集运行,复现论文中的量化实验指标。

输出概率文件,可供后续统计、阈值调优、停止器参数拟合使用。

Lev应用场景

大模型决策方向科研,循环推理、自适应计算开销相关消融对照实验。

多选问答任务,常识推理、数学选择题的模型效果验证。

推理效率研究,对比固定深度、自适应深度模式下算力与指标变化。

小模型能力迭代,低参数量模型借助循环机制提升复杂题目表现。

评测工具开发,搭建多选类任务的模型测试流程。

Lev同类产品对比

表格

项目LevLaya
开发方OpenLairConvai Innovations
产品类型循环式 System One 决策模型(开源)单前向 System One 决策引擎(开源)
核心亮点循环层复用架构,同一份权重支持动态推理深度;难题自动多轮循环思考、简单题早退节省算力;JevBench 基准表现优秀,支持 Ouro 底座,Apache2.0 开源BERT 类编码器底座,单次前向输出选项概率;多语言支持好、推理延迟稳定,适配轻量硬件,原生兼容 Jev 协议
适用场景高难度判定、需要动态算力分配、风控审核、本地私有化推理、决策算法研究高频轻量分类、Agent 路由、多语言判定、边缘端低延迟批量决策
© 版权声明
为这篇文章评分
8.5/ 10
4 人评价
点击⭐️进行评分

相关文章

暂无评论

none
暂无评论...