Solomon v1.1 (27B)
Decision Index Vision 榜第 2（67.7）。注意榜单给的 caveat：它最多只答 8 个选项，MMMU-Pro 里选项更多的题会被记为失败。
Decision Index Full
40.9
第 49 名 · public 38.1
Vision Full
67.7
第 2 名 · public 69.8
校准 ECE
0.081
越低越好 · Brier 0.442
模型信息
- 厂商
- Doccy Health
- 类别
- 开源权重
- 参数规模
- 28B
- 基座模型
- Qwen/Qwen3.8-27B
- 权重
- 可下载（开源）
- 许可证
- 未标注 许可不明
- 输入模态
- 文本 图像
- 决策原语
- ChoiceNoulScore
- 延迟
- 561.6 ms 中位（Decision Index Vision 实测）
- 可微调
- 可以
- 微调方法
- head / adapter 方案
- 训练方式
- head / adapter
数据来源与链接
本站聚合自：
curated、di、di_vision。
分数与链接均指向原始出处。
Decision Index 领域得分
知识与推理
62.1
语言理解
81.0
检索与分类
58.3
工具与自动化
99.1
艺术与人类品味
59.2
Decision Index · 36 个基准
| 基准 | 类型 | 该模型 | 全场最佳 | 全场均值 | 对比 | 来源 |
|---|---|---|---|---|---|---|
| BFCL | 混合（Choice | 98.0 | 98.8 | 80.5 | 来源 ↗ | |
| BPoMP | 混合（Choice | 94.1 | 97.0 | 73.8 | 来源 ↗ | |
| FinEntity | 混合（Choice | 91.9 | 97.1 | 73.8 | 来源 ↗ | |
| HellaSwag | 混合（Choice | 91.0 | 98.5 | 73.0 | 来源 ↗ | |
| ARC-Easy | 混合（Choice | 86.6 | 99.5 | 87.3 | 来源 ↗ | |
| ARC-Challenge | 混合（Choice | 84.6 | 98.2 | 79.4 | 来源 ↗ | |
| When2Call | 混合（Choice | 82.6 | 91.7 | 57.8 | 来源 ↗ | |
| NLI4CT | 混合（Choice | 81.8 | 86.2 | 69.3 | 来源 ↗ | |
| WinoGrande | 混合（Choice | 81.1 | 97.5 | 69.8 | 来源 ↗ | |
| RAGTruth | 混合（Choice | 75.5 | 86.0 | 52.1 | 来源 ↗ | |
| BBH | 混合（Choice | 72.5 | 92.9 | 58.3 | 来源 ↗ | |
| ContractNLI | 混合（Choice | 71.5 | 86.5 | 59.9 | 来源 ↗ | |
| HoVer | 混合（Choice | 71.1 | 89.4 | 63.8 | 来源 ↗ | |
| MMLU-Pro | 混合（Choice | 70.7 | 82.7 | 42.3 | 来源 ↗ | |
| CLadder | 混合（Choice | 70.4 | 97.7 | 62.5 | 来源 ↗ | |
| MMLU | 混合（Choice | 70.0 | 91.9 | 64.4 | 来源 ↗ | |
| VAST | 混合（Choice | 69.4 | 82.0 | 50.1 | 来源 ↗ | |
| CRUXEval | 混合（Choice | 69.3 | 87.9 | 50.7 | 来源 ↗ | |
| PhishNChips | 混合（Choice | 68.2 | 99.9 | 62.1 | 来源 ↗ | |
| ANLI | 混合（Choice | 67.1 | 98.6 | 54.0 | 来源 ↗ | |
| ToolRet | 混合（Choice | 65.6 | 69.1 | 55.1 | 来源 ↗ | |
| MuSR | 混合（Choice | 60.6 | 86.2 | 56.0 | 来源 ↗ | |
| SGD | 混合（Choice | 59.2 | 73.4 | 47.4 | 来源 ↗ | |
| Amazon ESCI | 混合（Choice | 56.2 | 61.6 | 40.9 | 来源 ↗ | |
| Humicroedit | 混合（Choice | 54.2 | 75.1 | 57.2 | 来源 ↗ | |
| New Yorker | 混合（Choice | 51.7 | 82.0 | 52.9 | 来源 ↗ | |
| cfcolor | 混合（Choice | 50.2 | 70.2 | 57.9 | 来源 ↗ | |
| iSarcasmEval | 混合（Choice | 48.2 | 71.0 | 38.4 | 来源 ↗ | |
| BRIGHT | 混合（Choice | 46.9 | 50.9 | 36.1 | 来源 ↗ | |
| GPQA Diamond | 混合（Choice | 42.9 | 78.3 | 37.7 | 来源 ↗ | |
| ChessBench | 混合（Choice | 40.2 | 40.2 | 14.2 | 来源 ↗ | |
| Habermas | 混合（Choice | 37.3 | 71.8 | 42.2 | 来源 ↗ | |
| GSM8K | 混合（Choice | 27.6 | 83.5 | 36.0 | 来源 ↗ | |
| ACOS | 混合（Choice | 20.7 | 57.3 | 14.6 | 来源 ↗ | |
| SATA-Bench | 混合（Choice | 20.6 | 37.2 | 20.3 | 来源 ↗ | |
| HLE | 混合（Choice | 14.7 | 20.4 | 12.3 | 来源 ↗ |
Decision Index · Vision · 20 个基准
| 基准 | 类型 | 该模型 | 全场最佳 | 全场均值 | 对比 | 来源 |
|---|---|---|---|---|---|---|
| InfographicVQA | 图像 | 95.6 | 98.7 | 77.3 | 来源 ↗ | |
| KIE (CORD+FUNSD) | 图像 | 91.8 | 92.7 | 80.0 | 来源 ↗ | |
| Winoground | 图像 | 91.0 | 93.0 | 70.7 | 来源 ↗ | |
| InfographicVQA | 图像 | 87.3 | 98.7 | 77.3 | 来源 ↗ | |
| KIE (CORD+FUNSD) | 图像 | 85.4 | 92.7 | 80.0 | 来源 ↗ | |
| Winoground | 图像 | 83.8 | 93.0 | 70.7 | 来源 ↗ | |
| Mind2Web | 图像 | 79.7 | 79.7 | 49.7 | 来源 ↗ | |
| RealWorldQA | 图像 | 75.3 | 75.3 | 41.1 | 来源 ↗ | |
| CharXiv | 图像 | 74.9 | 79.7 | 48.5 | 来源 ↗ | |
| CV-Bench | 图像 | 74.9 | 76.6 | 49.1 | 来源 ↗ | |
| CharXiv | 图像 | 63.2 | 79.7 | 48.5 | 来源 ↗ | |
| BLINK | 图像 | 59.3 | 63.0 | 32.0 | 来源 ↗ | |
| BLINK | 图像 | 59.1 | 63.0 | 32.0 | 来源 ↗ | |
| Mind2Web | 图像 | 58.7 | 79.7 | 49.7 | 来源 ↗ | |
| RealWorldQA | 图像 | 54.0 | 75.3 | 41.1 | 来源 ↗ | |
| Moderation (Hateful Memes) | 图像 | 48.0 | 54.0 | 28.6 | 来源 ↗ | |
| CV-Bench | 图像 | 42.7 | 76.6 | 49.1 | 来源 ↗ | |
| Moderation (Hateful Memes) | 图像 | 36.4 | 54.0 | 28.6 | 来源 ↗ | |
| R-Bench-M | 图像 | 18.2 | 35.4 | 19.0 | 来源 ↗ | |
| MMMU-Pro vision | 图像 | -2.6 | 40.7 | 22.3 | 来源 ↗ |