Winoground
Matching captions to images when the words are the same but their order changes the meaning.
评估集信息
- 所属套件
- Decision Index Vision
- 分组
- 多模态决策（图像输入）
- 决策类型
- 图像 + 文本决策
- 主指标
- accuracy
- 优化方向
- 越高越好
- 参评模型
- 20 个
- 最佳分
- 93.0
- 平均分
- 70.7
- 基准权重
- 1
- 上游数据集
- Winoground
- 数据许可证
- 见上游原始数据集
这个评估集测什么
Tests whether a model understands who does what to whom.
Caption choice for each of two images; pairs of images and captions.
示例：Which caption fits: 'a dog bites a person' or 'a person bites a dog'?
在该评估集上的模型成绩（40 个）
| # | 模型 | 得分 | 对比 | 其他指标 | 模态 | 官方链接 |
|---|---|---|---|---|---|---|
| 1 | Xor 1.2 / Xor 26B-A4B
Juspay Technologies · Decision Index · Vision |
93.0 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 2 | Solomon v1.1 (27B)
Doccy Health · Decision Index · Vision |
91.0 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 3 | JPT-9B
社区 · Decision Index · Vision |
90.0 | private | 图像 | HF · 9B ↗ Hugging Face 权重 ↗ | |
| 4 | JEV-27B-VL
未标注 · Decision Index · Vision |
89.0 | private | 图像 | 排行榜 ↗ Decision Index Vision 子榜 ↗ | |
| 5 | JPT-4B
社区 · Decision Index · Vision |
88.0 | private | 图像 | HF · 9B ↗ Hugging Face 权重 ↗ | |
| 6 | RSI-Jev v5.0 VL 3B
社区 · Decision Index · Vision |
88.0 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 7 | Intern-Decision-4B
Intern Large Model · Decision Index · Vision |
87.0 | private | 图像 | Hugging Face 权重 ↗ 代码仓库 ↗ | |
| 8 | Perplexity Decider v1.1 (27B)
Perplexity · Decision Index · Vision |
84.5 | public | 图像 | Hugging Face 权重 ↗ 官方文档 ↗ | |
| 9 | Xor 1.2 / Xor 26B-A4B
Juspay Technologies · Decision Index · Vision |
84.3 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 10 | NeoHorse Jev 4B
TokenRhythm · Decision Index · Vision |
84.0 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 11 | Perplexity Decider v1.1 (27B)
Perplexity · Decision Index · Vision |
84.0 | private | 图像 | Hugging Face 权重 ↗ 官方文档 ↗ | |
| 12 | Solomon v1.1 (27B)
Doccy Health · Decision Index · Vision |
83.8 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 13 | JEV-27B-VL
未标注 · Decision Index · Vision |
83.8 | public | 图像 | 排行榜 ↗ Decision Index Vision 子榜 ↗ | |
| 14 | Winnow 12B
EldanRing · Decision Index · Vision |
82.0 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 15 | Surogate Rune 26B-A4B v3
Surogate · Decision Index · Vision |
81.0 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 16 | Winnow 12B
EldanRing · Decision Index · Vision |
80.0 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 17 | Jev-Omni (12B)
社区 · Decision Index · Vision |
80.0 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 18 | JPT-9B
社区 · Decision Index · Vision |
79.3 | public | 图像 | HF · 9B ↗ Hugging Face 权重 ↗ | |
| 19 | Surogate Rune 26B-A4B v3
Surogate · Decision Index · Vision |
78.5 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 20 | JPT-4B
社区 · Decision Index · Vision |
78.0 | public | 图像 | HF · 9B ↗ Hugging Face 权重 ↗ | |
| 21 | Intern-Decision-2B
Intern Large Model · Decision Index · Vision |
77.0 | private | 图像 | Hugging Face 权重 ↗ 代码仓库 ↗ | |
| 22 | NeoHorse Jev 4B
TokenRhythm · Decision Index · Vision |
76.5 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 23 | RSI-Jev v5.0 VL 3B
社区 · Decision Index · Vision |
75.8 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 24 | Jev-Omni (12B)
社区 · Decision Index · Vision |
75.5 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 25 | Intern-Decision-4B
Intern Large Model · Decision Index · Vision |
75.3 | public | 图像 | Hugging Face 权重 ↗ 代码仓库 ↗ | |
| 26 | Intern-Decision-0.8B
Intern Large Model · Decision Index · Vision |
71.0 | private | 图像 | Hugging Face 权重 ↗ 代码仓库 ↗ | |
| 27 | OneJev 0.8B
OmniJev · Decision Index · Vision |
69.0 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 28 | Winnow-E4B
EldanRing · Decision Index · Vision |
68.0 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 29 | Winnow-E4B
EldanRing · Decision Index · Vision |
65.5 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 30 | Intern-Decision-2B
Intern Large Model · Decision Index · Vision |
63.8 | public | 图像 | Hugging Face 权重 ↗ 代码仓库 ↗ | |
| 31 | JPT-0.8B
社区 · Decision Index · Vision |
62.0 | private | 图像 | HF · 9B ↗ Hugging Face 权重 ↗ | |
| 32 | OneJev 0.8B
OmniJev · Decision Index · Vision |
53.5 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 33 | JPT-0.8B
社区 · Decision Index · Vision |
47.8 | public | 图像 | HF · 9B ↗ Hugging Face 权重 ↗ | |
| 34 | razorback16 diffgemma
· Decision Index · Vision |
47.0 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 35 | Intern-Decision-0.8B
Intern Large Model · Decision Index · Vision |
43.3 | public | 图像 | Hugging Face 权重 ↗ 代码仓库 ↗ | |
| 36 | djev (26B-A4B)
· Decision Index · Vision |
38.0 | private | 图像 | Hugging Face 权重 ↗ Decision Index Vision 子榜 ↗ | |
| 37 | djev (26B-A4B)
· Decision Index · Vision |
35.3 | public | 图像 | Hugging Face 权重 ↗ Decision Index Vision 子榜 ↗ | |
| 38 | razorback16 diffgemma
· Decision Index · Vision |
35.0 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 39 | mmastrac diffgemma
· Decision Index · Vision |
35.0 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 40 | mmastrac diffgemma
· Decision Index · Vision |
25.8 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ |