Shisa DE-2 (repeat)
Decision Index Full
60.9
第 7 名 · public 57.6
Vision Full
52.9
第 19 名 · public 58.3
校准 ECE
0.207
越低越好 · Brier 0.475
模型信息
- 厂商
- Shisa.AI
- 类别
- 开源权重
- 参数规模
- 26B（活跃 NaNK）
- 基座模型
- google/gemma-4-26B-A4B-it
- 权重
- 闭源 / 未公开
- 许可证
- 未标注 许可不明
- 输入模态
- 文本 图像
- 决策原语
- ChoiceNoulScore
- 可微调
- 未确认
- 训练方式
- LoRA
数据来源与链接
本站聚合自：
Decision Index、Decision Index Vision。
分数与链接均指向原始出处。
Decision Index 领域得分
知识与推理
66.5
语言理解
83.8
检索与分类
60.4
工具与自动化
93.8
艺术与人类品味
55.9
Decision Index · 42 个基准
| 基准 | 类型 | 该模型 | 全场最佳 | 全场均值 | 对比 | 来源 |
|---|---|---|---|---|---|---|
| ARC-Easy | 混合（Choice | 99.0 | 99.5 | 88.0 | 来源 ↗ | |
| ARC-Challenge | 混合（Choice | 96.9 | 98.2 | 80.4 | 来源 ↗ | |
| BFCL | 混合（Choice | 96.5 | 98.8 | 81.9 | 来源 ↗ | |
| FinEntity | 混合（Choice | 91.5 | 97.1 | 75.5 | 来源 ↗ | |
| BPoMP | 混合（Choice | 91.4 | 98.2 | 74.9 | 来源 ↗ | |
| HellaSwag | 混合（Choice | 88.2 | 98.5 | 75.3 | 来源 ↗ | |
| API-Bank | 混合（Choice | 86.0 | 93.1 | 58.9 | 来源 ↗ | |
| PhishNChips | 混合（Choice | 85.8 | 99.9 | 63.2 | 来源 ↗ | |
| CLINC150 | 混合（Choice | 84.5 | 97.4 | 71.1 | 来源 ↗ | |
| BANKING77 | 混合（Choice | 84.4 | 94.1 | 71.5 | 来源 ↗ | |
| MMLU | 混合（Choice | 84.0 | 91.9 | 65.6 | 来源 ↗ | |
| WinoGrande | 混合（Choice | 81.7 | 97.5 | 71.7 | 来源 ↗ | |
| CRUXEval | 混合（Choice | 80.9 | 87.9 | 52.6 | 来源 ↗ | |
| NLI4CT | 混合（Choice | 80.7 | 86.3 | 70.3 | 来源 ↗ | |
| HoVer | 混合（Choice | 80.5 | 89.4 | 65.9 | 来源 ↗ | |
| When2Call | 混合（Choice | 80.4 | 92.2 | 61.1 | 来源 ↗ | |
| RouterBench | 混合（Choice | 80.0 | 80.1 | 73.6 | 来源 ↗ | |
| ANLI | 混合（Choice | 77.4 | 98.6 | 55.4 | 来源 ↗ | |
| RAGTruth | 混合（Choice | 76.9 | 86.0 | 55.7 | 来源 ↗ | |
| BBH | 混合（Choice | 76.2 | 92.9 | 59.7 | 来源 ↗ | |
| GSM8K | 混合（Choice | 75.1 | 86.7 | 38.7 | 来源 ↗ | |
| CLadder | 混合（Choice | 74.8 | 97.7 | 63.8 | 来源 ↗ | |
| ContractNLI | 混合（Choice | 73.9 | 86.5 | 62.8 | 来源 ↗ | |
| New Yorker | 混合（Choice | 72.0 | 82.0 | 54.9 | 来源 ↗ | |
| VAST | 混合（Choice | 70.8 | 82.0 | 53.3 | 来源 ↗ | |
| MuSR | 混合（Choice | 67.8 | 86.2 | 56.4 | 来源 ↗ | |
| MMLU-Pro | 混合（Choice | 66.5 | 83.3 | 44.0 | 来源 ↗ | |
| iSarcasmEval | 混合（Choice | 63.5 | 71.2 | 40.0 | 来源 ↗ | |
| ToolRet | 混合（Choice | 63.4 | 70.6 | 56.2 | 来源 ↗ | |
| Humicroedit | 混合（Choice | 62.7 | 75.1 | 57.6 | 来源 ↗ | |
| cfcolor | 混合（Choice | 62.3 | 72.9 | 58.4 | 来源 ↗ | |
| Amazon ESCI | 混合（Choice | 53.2 | 61.6 | 42.4 | 来源 ↗ | |
| Habermas | 混合（Choice | 48.0 | 71.8 | 42.5 | 来源 ↗ | |
| BRIGHT | 混合（Choice | 44.6 | 50.9 | 36.6 | 来源 ↗ | |
| GPQA Diamond | 混合（Choice | 43.9 | 78.3 | 38.4 | 来源 ↗ | |
| Home appliances | 混合（Choice | 40.9 | 100.0 | 27.6 | 来源 ↗ | |
| SATA-Bench | 混合（Choice | 31.4 | 37.2 | 20.4 | 来源 ↗ | |
| ACOS | 混合（Choice | 29.8 | 57.3 | 16.0 | 来源 ↗ | |
| ChessBench | 混合（Choice | 20.8 | 40.2 | 14.4 | 来源 ↗ | |
| POP909 | 混合（Choice | 15.1 | 81.7 | 15.5 | 来源 ↗ | |
| HLE | 混合（Choice | 13.8 | 20.4 | 12.3 | 来源 ↗ | |
| SGD | 混合（Choice | 9.0 | 73.4 | 46.0 | 来源 ↗ |
Decision Index · Vision · 20 个基准
| 基准 | 类型 | 该模型 | 全场最佳 | 全场均值 | 对比 | 来源 |
|---|---|---|---|---|---|---|
| InfographicVQA | 图像 | 93.3 | 100.0 | 82.2 | 来源 ↗ | |
| KIE (CORD+FUNSD) | 图像 | 90.6 | 92.8 | 82.9 | 来源 ↗ | |
| InfographicVQA | 图像 | 90.2 | 100.0 | 82.2 | 来源 ↗ | |
| Winoground | 图像 | 83.0 | 93.0 | 75.8 | 来源 ↗ | |
| KIE (CORD+FUNSD) | 图像 | 78.9 | 92.8 | 82.9 | 来源 ↗ | |
| Winoground | 图像 | 76.5 | 93.0 | 75.8 | 来源 ↗ | |
| CV-Bench | 图像 | 68.6 | 77.8 | 52.3 | 来源 ↗ | |
| CharXiv | 图像 | 67.4 | 81.2 | 52.9 | 来源 ↗ | |
| Mind2Web | 图像 | 60.7 | 84.5 | 56.9 | 来源 ↗ | |
| RealWorldQA | 图像 | 53.1 | 76.1 | 42.4 | 来源 ↗ | |
| CharXiv | 图像 | 50.0 | 81.2 | 52.9 | 来源 ↗ | |
| Mind2Web | 图像 | 40.7 | 84.5 | 56.9 | 来源 ↗ | |
| Moderation (Hateful Memes) | 图像 | 38.8 | 62.0 | 28.3 | 来源 ↗ | |
| CV-Bench | 图像 | 37.4 | 77.8 | 52.3 | 来源 ↗ | |
| R-Bench-M | 图像 | 29.8 | 37.2 | 21.6 | 来源 ↗ | |
| MMMU-Pro vision | 图像 | 29.2 | 45.4 | 25.3 | 来源 ↗ | |
| Moderation (Hateful Memes) | 图像 | 23.0 | 62.0 | 28.3 | 来源 ↗ | |
| RealWorldQA | 图像 | 20.7 | 76.1 | 42.4 | 来源 ↗ | |
| BLINK | 图像 | -6.0 | 66.0 | 34.5 | 来源 ↗ | |
| BLINK | 图像 | -33.3 | 66.0 | 34.5 | 来源 ↗ |