decision.host
首页 / 模型 / Kotoba Open-Jev DeBERTa v3 Large

Kotoba Open-Jev DeBERTa v3 Large

Zefan Cai ChoiceNoulScore 开源权重 26B(活跃 24B) curateddis1mb

最主流的 Jev 开源复刻之一,含 2B / 9B / 27B-v1.1。在 S1MB 上 27B-v1.1 拿到 56.9 分(第 6),9B 拿到 52.1 分。

S1MB Task Avg
10.1
第 77 名 · 覆盖 137/137(100%)

模型信息

厂商
Zefan Cai
类别
开源权重
参数规模
26B(活跃 24B)
基座模型
Qwen/Qwen3.5-9B
权重
可下载(开源)
许可证
Apache-2.0(权重)/ MIT(代码) 需自行核对
输入模态
文本
决策原语
ChoiceNoulScore
可微调
可以
微调方法
pip install -e '.[train]';LoRA rank 8 / alpha 16,scalar head 联合训练,保存温度(T=1.897)
微调硬件
9B bf16 约 16 GB
训练方式
LoRA

数据来源与链接

本站聚合自: curated、di、s1mb。 分数与链接均指向原始出处。

S1MB · 137 个基准

基准类型该模型全场最佳 全场均值对比来源
dbpedia Choice 85.4 98.9 83.5 来源 ↗
banking77 Choice 85.3 93.7 54.6 来源 ↗
s1mb generalization contextual choice Choice 84.5 100.0 82.6 来源 ↗
open jev / mailroom control v1 Choice 83.3 100.0 82.9 来源 ↗
laya / ag news Choice 77.6 94.0 75.4 来源 ↗
miqa Choice 68.2 95.5 61.9 来源 ↗
hwu64 Choice 68.1 92.5 56.8 来源 ↗
mtop Choice 66.3 86.9 58.6 来源 ↗
massive Choice 64.3 96.7 64.5 来源 ↗
s1mb generalization diverse choice Choice 56.4 100.0 69.5 来源 ↗
hatecheck Noul 56.0 98.0 47.5 来源 ↗
open jev / amount extraction control v1 Choice 49.0 100.0 55.0 来源 ↗
s1mb generalization diverse noul Noul 48.0 100.0 59.2 来源 ↗
crows pairs Choice 47.9 70.8 30.4 来源 ↗
arc Choice 45.6 98.5 64.4 来源 ↗
open jev / email selection control v1 Choice 42.6 100.0 23.4 来源 ↗
arct Choice 40.4 89.4 39.4 来源 ↗
s1mb generalization contextual noul Noul 32.0 98.0 62.0 来源 ↗
openbookqa Choice 31.9 97.2 53.7 来源 ↗
go emotions Noul 31.1 61.3 38.3 来源 ↗
open jev / customer control v1 Choice 30.4 82.6 64.3 来源 ↗
few nerd Choice 28.7 86.4 43.9 来源 ↗
quartz Choice 26.2 88.1 49.1 来源 ↗
scicite Choice 25.8 71.0 44.0 来源 ↗
canttalk Noul 22.0 86.0 43.9 来源 ↗
ethos Noul 20.0 76.0 43.7 来源 ↗
open jev / painting geometry v1 Noul 20.0 100.0 27.2 来源 ↗
qasper Noul 20.0 88.0 41.6 来源 ↗
bbq Choice 18.3 98.3 53.8 来源 ↗
gretel pii Choice 16.9 94.5 43.1 来源 ↗
impli Noul 16.0 88.0 46.7 来源 ↗
nlsat Noul 16.0 22.0 2.1 来源 ↗
sdoh nli Noul 16.0 92.0 60.8 来源 ↗
sgd Choice 15.3 96.6 24.4 来源 ↗
defeasible nli Choice 15.2 80.4 32.8 来源 ↗
clinc Choice 14.5 99.3 57.3 来源 ↗
cladder Noul 14.0 94.0 17.7 来源 ↗
ethics Noul 13.4 68.6 23.9 来源 ↗
winobias Choice 13.0 91.3 30.1 来源 ↗
babi nli Noul 12.0 84.0 37.0 来源 ↗
open jev / ir control v1 Choice 12.0 88.0 44.8 来源 ↗
ruletaker Noul 12.0 96.0 27.7 来源 ↗
laya / typed decisions Choice 11.7 34.5 18.9 来源 ↗
open jev / customer control v1 Score 10.8 99.3 36.7 来源 ↗
s1mb generalization contextual score Score 10.5 92.7 42.1 来源 ↗
s1mb generalization diverse score Score 9.9 95.3 42.8 来源 ↗
aegis2 Noul 9.7 62.3 32.8 来源 ↗
civil comments Noul 8.4 36.7 21.4 来源 ↗
open jev / workflow controls v1 / security incidents Noul 7.5 100.0 37.8 来源 ↗
open jev / amount extraction control v1 Noul 6.3 100.0 33.3 来源 ↗
creak Noul 6.0 88.0 38.8 来源 ↗
scitail Noul 6.0 98.0 53.0 来源 ↗
gsm8k Choice 5.7 78.6 23.5 来源 ↗
stepgame Choice 4.8 82.1 17.8 来源 ↗
synthetic relevance / nanobeir / nanotouche2020 Noul 4.1 47.0 26.6 来源 ↗
tracie Noul 4.0 34.0 8.7 来源 ↗
laya / typed decisions Noul 3.6 47.8 24.4 来源 ↗
synthetic relevance / nanobeir / nanoscidocs Noul 2.0 41.7 17.3 来源 ↗
paws Noul 2.0 88.0 45.7 来源 ↗
argument quality Noul 1.5 23.9 5.4 来源 ↗
synthetic relevance / nanobeir / nanofiqa2018 Noul 1.0 54.0 28.6 来源 ↗
synthetic relevance / nanobeir / nanohotpotqa Noul 0.8 70.8 28.4 来源 ↗
followir news21 Noul 0.7 42.7 14.9 来源 ↗
followir core17 Noul 0.3 46.6 21.2 来源 ↗
synthetic relevance / nanobeir / nanomsmarco Noul 0.1 62.5 37.3 来源 ↗
aqua rat Choice 0.0 77.5 10.7 来源 ↗
argument quality Choice 0.0 95.9 37.4 来源 ↗
boardgameqa Choice 0.0 62.5 15.6 来源 ↗
contract nli Choice 0.0 76.0 31.8 来源 ↗
corr2cause Choice 0.0 91.7 3.8 来源 ↗
esci Choice 0.0 46.6 13.0 来源 ↗
ethics Choice 0.0 83.3 20.9 来源 ↗
fol nli Choice 0.0 54.1 10.4 来源 ↗
followir robust04 Noul 0.0 90.9 46.9 来源 ↗
hans Noul 0.0 100.0 43.3 来源 ↗
hh rlhf Choice 0.0 23.1 3.1 来源 ↗
laya / enron spam Noul 0.0 100.0 54.6 来源 ↗
laya / typed decisions Score 0.0 63.5 26.5 来源 ↗
lexcomp Noul 0.0 52.0 22.5 来源 ↗
logical entailment Noul 0.0 72.0 12.2 来源 ↗
lonli Choice 0.0 86.9 39.2 来源 ↗
open jev / browser control v1 Choice 0.0 100.0 67.4 来源 ↗
open jev / citation control v1 Choice 0.0 100.0 40.9 来源 ↗
open jev / context retention control v1 Noul 0.0 100.0 19.0 来源 ↗
open jev / customer control v1 Noul 0.0 100.0 58.0 来源 ↗
open jev / drone control v1 Choice 0.0 100.0 4.8 来源 ↗
open jev / drone control v1 Noul 0.0 100.0 50.2 来源 ↗
open jev / drone control v1 Score 0.0 99.2 1.1 来源 ↗
open jev / email selection control v1 Noul 0.0 100.0 40.6 来源 ↗
open jev / entity alignment control v1 Noul 0.0 100.0 35.9 来源 ↗
open jev / entity alignment control v1 Score 0.0 100.0 8.1 来源 ↗
open jev / ir control v1 Noul 0.0 100.0 47.3 来源 ↗
open jev / ir control v1 Score 0.0 98.6 10.1 来源 ↗
open jev / mailroom control v1 Noul 0.0 100.0 62.5 来源 ↗
open jev / painting geometry v1 Choice 0.0 100.0 46.2 来源 ↗
open jev / painting geometry v1 Score 0.0 100.0 15.2 来源 ↗
open jev / phone extraction control v1 Choice 0.0 100.0 32.4 来源 ↗
open jev / phone extraction control v1 Noul 0.0 100.0 50.4 来源 ↗
open jev / reasoning control v1 Choice 0.0 95.0 28.4 来源 ↗
open jev / reasoning control v1 Noul 0.0 100.0 25.3 来源 ↗
open jev / reasoning control v1 Score 0.0 90.7 27.7 来源 ↗
open jev / silent failure control v1 Noul 0.0 100.0 38.8 来源 ↗
open jev / snake v1 Choice 0.0 83.5 8.1 来源 ↗
open jev / snake v1 Noul 0.0 100.0 9.0 来源 ↗
open jev / sponsor segment control v1 Choice 0.0 100.0 52.2 来源 ↗
open jev / tic tac toe v1 Choice 0.0 48.5 3.5 来源 ↗
open jev / vizdoom basic v1 Noul 0.0 100.0 39.0 来源 ↗
open jev / vizdoom basic v1 Score 0.0 100.0 29.6 来源 ↗
open jev / workflow controls v1 / agent trace observability Noul 0.0 100.0 27.8 来源 ↗
open jev / workflow controls v1 / customer service Noul 0.0 100.0 41.6 来源 ↗
open jev / workflow controls v1 / invoice processing Noul 0.0 100.0 34.6 来源 ↗
patent similarity Score 0.0 48.3 17.7 来源 ↗
plane Noul 0.0 100.0 11.1 来源 ↗
poem sentiment Choice 0.0 57.1 4.0 来源 ↗
robust lr Choice 0.0 66.7 18.8 来源 ↗
scone Choice 0.0 92.0 34.2 来源 ↗
snli Choice 0.0 98.4 46.0 来源 ↗
spartqa Choice 0.0 38.7 4.4 来源 ↗
synthetic relevance / nanobeir / nanoarguana Noul 0.0 48.2 15.6 来源 ↗
synthetic relevance / nanobeir / nanoarguana Score 0.0 36.0 7.7 来源 ↗
synthetic relevance / nanobeir / nanodbpedia Noul 0.0 52.1 29.0 来源 ↗
synthetic relevance / nanobeir / nanodbpedia Score 0.0 44.9 17.6 来源 ↗
synthetic relevance / nanobeir / nanofiqa2018 Score 0.0 46.7 15.2 来源 ↗
synthetic relevance / nanobeir / nanohotpotqa Score 0.0 63.6 13.9 来源 ↗
synthetic relevance / nanobeir / nanomsmarco Score 0.0 52.6 17.8 来源 ↗
synthetic relevance / nanobeir / nanonfcorpus Noul 0.0 46.2 25.1 来源 ↗
synthetic relevance / nanobeir / nanonfcorpus Score 0.0 38.6 10.7 来源 ↗
synthetic relevance / nanobeir / nanonq Noul 0.0 67.2 39.5 来源 ↗
synthetic relevance / nanobeir / nanonq Score 0.0 49.4 9.3 来源 ↗
synthetic relevance / nanobeir / nanoscidocs Score 0.0 36.7 7.2 来源 ↗
synthetic relevance / nanobeir / nanotouche2020 Score 0.0 44.3 20.6 来源 ↗
synthetic relevance / nanocoir Noul 0.0 73.0 33.6 来源 ↗
synthetic relevance / nanocoir Score 0.0 44.3 4.3 来源 ↗
temporal nli Choice 0.0 80.7 18.3 来源 ↗
ud ewt Choice 0.0 56.7 13.2 来源 ↗
winowhy Noul 0.0 62.0 18.8 来源 ↗
wiqa Choice 0.0 58.7 19.3 来源 ↗

同族条目(5)

型号参数Decision Index S1MBVision榜单
Kotoba Open-Jev DeBERTa v3 Large 当前 26B(活跃 24B) — 10.1 — s1mb
open-jev (pngwn) 4.7B 32.1 — — di
ZefanCai/Open-Jev-27B-v1.1 26B(活跃 24B) — 56.9 — s1mb
ZefanCai/Open-Jev-2B 1.9B(活跃 1.4B) — 34.6 — s1mb
ZefanCai/Open-Jev-9B 7.9B(活跃 6.9B) — 52.1 — s1mb