首页 / 模型 / Bespoke Nimble 9B

Bespoke Nimble 9B

Name: Bespoke Nimble 9B
Author: Bespoke Labs

Bespoke Labs ChoiceNoulScore 开源权重 9.7B（活跃 8.4B） curateddis1mb

9B 级开源决策模型，文本榜 54.7、S1MB 46.9。社区提到它与 Jev 的一致率约 90%。

Hugging Face 权重 Decision Index 排行榜 S1MB 排行榜

S1MB Task Avg

47.1

第 17 名 · 覆盖 137/137（100%）

Decision Index Full

41.0

第 48 名 · public 39.9

校准 ECE

0.024

越低越好 · Brier 0.467

模型信息

厂商: Bespoke Labs
类别: 开源权重
参数规模: 9.7B（活跃 8.4B）
基座模型: Qwen/Qwen3.5-9B
权重: 可下载（开源）
许可证: Apache-2.0 可商用
输入模态: 文本
决策原语: ChoiceNoulScore
可微调: 可以
微调方法: LoRA r=16；直接对允许答案的 token 打分（label logits）；T=2.179（后续版本用默认温度）
训练方式: LoRA

数据来源与链接

Hugging Face 权重 Decision Index 排行榜 S1MB 排行榜

本站聚合自： curated、di、s1mb。分数与链接均指向原始出处。

Decision Index 领域得分

知识与推理

59.0

语言理解

75.0

检索与分类

57.4

工具与自动化

83.2

艺术与人类品味

50.6

S1MB · 137 个基准

基准	类型	该模型	全场最佳	全场均值	来源
open jev / browser control v1	Choice	100.0	100.0	67.4	来源 ↗
open jev / customer control v1	Noul	100.0	100.0	58.0	来源 ↗
open jev / mailroom control v1	Choice	100.0	100.0	82.9	来源 ↗
open jev / sponsor segment control v1	Choice	100.0	100.0	52.2	来源 ↗
dbpedia	Choice	98.9	98.9	83.5	来源 ↗
s1mb generalization contextual choice	Choice	98.7	100.0	82.6	来源 ↗
arc	Choice	98.5	98.5	64.4	来源 ↗
open jev / amount extraction control v1	Noul	96.9	100.0	33.3	来源 ↗
s1mb generalization diverse choice	Choice	94.7	100.0	69.5	来源 ↗
open jev / entity alignment control v1	Noul	94.4	100.0	35.9	来源 ↗
open jev / drone control v1	Noul	94.1	100.0	50.2	来源 ↗
s1mb generalization diverse noul	Noul	90.0	100.0	59.2	来源 ↗
snli	Choice	88.7	98.4	46.0	来源 ↗
bbq	Choice	88.3	98.3	53.8	来源 ↗
open jev / mailroom control v1	Noul	88.1	100.0	62.5	来源 ↗
open jev / silent failure control v1	Noul	88.0	100.0	38.8	来源 ↗
s1mb generalization contextual noul	Noul	88.0	98.0	62.0	来源 ↗
open jev / citation control v1	Choice	87.9	100.0	40.9	来源 ↗
massive	Choice	86.8	96.7	64.5	来源 ↗
laya / ag news	Choice	86.6	94.0	75.4	来源 ↗
miqa	Choice	86.4	95.5	61.9	来源 ↗
openbookqa	Choice	86.1	97.2	53.7	来源 ↗
mtop	Choice	84.0	86.9	58.6	来源 ↗
open jev / ir control v1	Choice	84.0	88.0	44.8	来源 ↗
sdoh nli	Noul	84.0	92.0	60.8	来源 ↗
argument quality	Choice	83.7	95.9	37.4	来源 ↗
clinc	Choice	83.5	99.3	57.3	来源 ↗
laya / enron spam	Noul	82.0	100.0	54.6	来源 ↗
banking77	Choice	81.0	93.7	54.6	来源 ↗
lonli	Choice	80.3	86.9	39.2	来源 ↗
scitail	Noul	80.0	98.0	53.0	来源 ↗
s1mb generalization diverse score	Score	79.4	95.3	42.8	来源 ↗
hwu64	Choice	78.7	92.5	56.8	来源 ↗
s1mb generalization contextual score	Score	78.6	92.7	42.1	来源 ↗
hatecheck	Noul	78.0	98.0	47.5	来源 ↗
impli	Noul	78.0	88.0	46.7	来源 ↗
quartz	Choice	76.2	88.1	49.1	来源 ↗
scone	Choice	72.0	92.0	34.2	来源 ↗
gretel pii	Choice	71.4	94.5	43.1	来源 ↗
followir robust04	Noul	70.9	90.9	46.9	来源 ↗
few nerd	Choice	70.6	86.4	43.9	来源 ↗
open jev / vizdoom basic v1	Score	70.3	100.0	29.6	来源 ↗
hans	Noul	70.0	100.0	43.3	来源 ↗
open jev / phone extraction control v1	Noul	70.0	100.0	50.4	来源 ↗
qasper	Noul	70.0	88.0	41.6	来源 ↗
open jev / customer control v1	Choice	69.6	82.6	64.3	来源 ↗
open jev / vizdoom basic v1	Noul	69.5	100.0	39.0	来源 ↗
open jev / amount extraction control v1	Choice	68.6	100.0	55.0	来源 ↗
creak	Noul	66.0	88.0	38.8	来源 ↗
open jev / reasoning control v1	Score	65.4	90.7	27.7	来源 ↗
open jev / ir control v1	Noul	64.3	100.0	47.3	来源 ↗
open jev / workflow controls v1 / security incidents	Noul	64.0	100.0	37.8	来源 ↗
babi nli	Noul	64.0	84.0	37.0	来源 ↗
canttalk	Noul	64.0	86.0	43.9	来源 ↗
arct	Choice	63.8	89.4	39.4	来源 ↗
synthetic relevance / nanobeir / nanonq	Noul	63.2	67.2	39.5	来源 ↗
ethos	Noul	62.0	76.0	43.7	来源 ↗
defeasible nli	Choice	60.9	80.4	32.8	来源 ↗
crows pairs	Choice	60.4	70.8	30.4	来源 ↗
synthetic relevance / nanocoir	Noul	60.2	73.0	33.6	来源 ↗
open jev / reasoning control v1	Choice	60.0	95.0	28.4	来源 ↗
scicite	Choice	59.7	71.0	44.0	来源 ↗
contract nli	Choice	58.9	76.0	31.8	来源 ↗
open jev / email selection control v1	Noul	57.7	100.0	40.6	来源 ↗
open jev / phone extraction control v1	Choice	56.5	100.0	32.4	来源 ↗
synthetic relevance / nanobeir / nanomsmarco	Noul	56.5	62.5	37.3	来源 ↗
gsm8k	Choice	55.7	78.6	23.5	来源 ↗
ruletaker	Noul	52.0	96.0	27.7	来源 ↗
aegis2	Noul	50.7	62.3	32.8	来源 ↗
synthetic relevance / nanobeir / nanohotpotqa	Noul	50.0	70.8	28.4	来源 ↗
winobias	Choice	50.0	91.3	30.1	来源 ↗
go emotions	Noul	49.3	61.3	38.3	来源 ↗
synthetic relevance / nanobeir / nanofiqa2018	Noul	49.0	54.0	28.6	来源 ↗
open jev / painting geometry v1	Choice	47.4	100.0	46.2	来源 ↗
synthetic relevance / nanobeir / nanodbpedia	Noul	47.4	52.1	29.0	来源 ↗
open jev / customer control v1	Score	46.9	99.3	36.7	来源 ↗
synthetic relevance / nanobeir / nanonfcorpus	Noul	45.0	46.2	25.1	来源 ↗
ethics	Noul	44.3	68.6	23.9	来源 ↗
paws	Noul	44.0	88.0	45.7	来源 ↗
open jev / workflow controls v1 / invoice processing	Noul	42.2	100.0	34.6	来源 ↗
laya / typed decisions	Score	40.2	63.5	26.5	来源 ↗
open jev / workflow controls v1 / customer service	Noul	39.8	100.0	41.6	来源 ↗
laya / typed decisions	Noul	39.5	47.8	24.4	来源 ↗
synthetic relevance / nanobeir / nanodbpedia	Score	39.2	44.9	17.6	来源 ↗
synthetic relevance / nanobeir / nanotouche2020	Noul	37.9	47.0	26.6	来源 ↗
sgd	Choice	37.3	96.6	24.4	来源 ↗
lexcomp	Noul	36.0	52.0	22.5	来源 ↗
open jev / context retention control v1	Noul	36.0	100.0	19.0	来源 ↗
synthetic relevance / nanobeir / nanomsmarco	Score	35.6	52.6	17.8	来源 ↗
synthetic relevance / nanobeir / nanofiqa2018	Score	34.8	46.7	15.2	来源 ↗
open jev / reasoning control v1	Noul	34.6	100.0	25.3	来源 ↗
boardgameqa	Choice	34.4	62.5	15.6	来源 ↗
synthetic relevance / nanobeir / nanoarguana	Noul	34.2	48.2	15.6	来源 ↗
stepgame	Choice	33.3	82.1	17.8	来源 ↗
open jev / email selection control v1	Choice	32.2	100.0	23.4	来源 ↗
tracie	Noul	32.0	34.0	8.7	来源 ↗
followir core17	Noul	31.4	46.6	21.2	来源 ↗
laya / typed decisions	Choice	31.0	34.5	18.9	来源 ↗
aqua rat	Choice	31.0	77.5	10.7	来源 ↗
synthetic relevance / nanobeir / nanoscidocs	Noul	30.3	41.7	17.3	来源 ↗
synthetic relevance / nanobeir / nanohotpotqa	Score	30.2	63.6	13.9	来源 ↗
cladder	Noul	30.0	94.0	17.7	来源 ↗
open jev / workflow controls v1 / agent trace observability	Noul	29.4	100.0	27.8	来源 ↗
temporal nli	Choice	29.0	80.7	18.3	来源 ↗
civil comments	Noul	28.9	36.7	21.4	来源 ↗
synthetic relevance / nanobeir / nanotouche2020	Score	28.1	44.3	20.6	来源 ↗
logical entailment	Noul	28.0	72.0	12.2	来源 ↗
synthetic relevance / nanobeir / nanonfcorpus	Score	27.4	38.6	10.7	来源 ↗
ud ewt	Choice	25.8	56.7	13.2	来源 ↗
esci	Choice	24.7	46.6	13.0	来源 ↗
wiqa	Choice	23.8	58.7	19.3	来源 ↗
robust lr	Choice	23.3	66.7	18.8	来源 ↗
synthetic relevance / nanobeir / nanoscidocs	Score	22.8	36.7	7.2	来源 ↗
synthetic relevance / nanobeir / nanoarguana	Score	22.8	36.0	7.7	来源 ↗
fol nli	Choice	19.7	54.1	10.4	来源 ↗
patent similarity	Score	18.1	48.3	17.7	来源 ↗
synthetic relevance / nanobeir / nanonq	Score	17.0	49.4	9.3	来源 ↗
plane	Noul	14.0	100.0	11.1	来源 ↗
spartqa	Choice	12.9	38.7	4.4	来源 ↗
winowhy	Noul	12.0	62.0	18.8	来源 ↗
followir news21	Noul	11.3	42.7	14.9	来源 ↗
open jev / entity alignment control v1	Score	10.6	100.0	8.1	来源 ↗
open jev / tic tac toe v1	Choice	8.3	48.5	3.5	来源 ↗
open jev / painting geometry v1	Noul	5.7	100.0	27.2	来源 ↗
open jev / snake v1	Choice	3.1	83.5	8.1	来源 ↗
argument quality	Noul	2.4	23.9	5.4	来源 ↗
nlsat	Noul	2.0	22.0	2.1	来源 ↗
corr2cause	Choice	0.0	91.7	3.8	来源 ↗
ethics	Choice	0.0	83.3	20.9	来源 ↗
hh rlhf	Choice	0.0	23.1	3.1	来源 ↗
open jev / drone control v1	Choice	0.0	100.0	4.8	来源 ↗
open jev / drone control v1	Score	0.0	99.2	1.1	来源 ↗
open jev / ir control v1	Score	0.0	98.6	10.1	来源 ↗
open jev / painting geometry v1	Score	0.0	100.0	15.2	来源 ↗
open jev / snake v1	Noul	0.0	100.0	9.0	来源 ↗
poem sentiment	Choice	0.0	57.1	4.0	来源 ↗
synthetic relevance / nanocoir	Score	0.0	44.3	4.3	来源 ↗

Decision Index · 42 个基准

基准	类型	该模型	全场最佳	全场均值	来源
Home appliances	混合（Choice	98.9	98.9	23.2	来源 ↗
ARC-Easy	混合（Choice	98.2	99.5	87.3	来源 ↗
BFCL	混合（Choice	97.5	98.8	80.5	来源 ↗
ARC-Challenge	混合（Choice	95.6	98.2	79.4	来源 ↗
BPoMP	混合（Choice	90.5	97.0	73.8	来源 ↗
FinEntity	混合（Choice	90.4	97.1	73.8	来源 ↗
HellaSwag	混合（Choice	88.8	98.5	73.0	来源 ↗
CLINC150	混合（Choice	88.3	97.4	67.8	来源 ↗
When2Call	混合（Choice	86.8	91.7	57.8	来源 ↗
WinoGrande	混合（Choice	86.4	97.5	69.8	来源 ↗
HoVer	混合（Choice	84.9	89.4	63.8	来源 ↗
BBH	混合（Choice	84.5	92.9	58.3	来源 ↗
BANKING77	混合（Choice	83.7	94.1	68.7	来源 ↗
NLI4CT	混合（Choice	82.4	86.2	69.3	来源 ↗
API-Bank	混合（Choice	79.1	93.1	56.3	来源 ↗
MMLU	混合（Choice	79.1	91.9	64.4	来源 ↗
RouterBench	混合（Choice	76.5	80.1	73.2	来源 ↗
RAGTruth	混合（Choice	76.2	86.0	52.1	来源 ↗
CLadder	混合（Choice	75.0	97.7	62.5	来源 ↗
POP909	混合（Choice	74.6	74.6	12.6	来源 ↗
ContractNLI	混合（Choice	74.1	86.5	59.9	来源 ↗
VAST	混合（Choice	73.1	82.0	50.1	来源 ↗
SGD	混合（Choice	71.8	73.4	47.4	来源 ↗
ANLI	混合（Choice	70.3	98.6	54.0	来源 ↗
ToolRet	混合（Choice	68.5	69.1	55.1	来源 ↗
CRUXEval	混合（Choice	64.7	87.9	50.7	来源 ↗
cfcolor	混合（Choice	64.0	70.2	57.9	来源 ↗
Humicroedit	混合（Choice	61.6	75.1	57.2	来源 ↗
New Yorker	混合（Choice	61.5	82.0	52.9	来源 ↗
MMLU-Pro	混合（Choice	60.0	82.7	42.3	来源 ↗
GSM8K	混合（Choice	59.0	83.5	36.0	来源 ↗
MuSR	混合（Choice	58.8	86.2	56.0	来源 ↗
Amazon ESCI	混合（Choice	58.3	61.6	40.9	来源 ↗
PhishNChips	混合（Choice	54.0	99.9	62.1	来源 ↗
iSarcasmEval	混合（Choice	53.5	71.0	38.4	来源 ↗
GPQA Diamond	混合（Choice	46.4	78.3	37.7	来源 ↗
ACOS	混合（Choice	39.0	57.3	14.6	来源 ↗
BRIGHT	混合（Choice	38.8	50.9	36.1	来源 ↗
Habermas	混合（Choice	36.2	71.8	42.2	来源 ↗
SATA-Bench	混合（Choice	25.6	37.2	20.3	来源 ↗
ChessBench	混合（Choice	14.4	40.2	14.2	来源 ↗
HLE	混合（Choice	11.4	20.4	12.3	来源 ↗