MMLU-Pro
18 modeli w rankingu
MMLU-Pro to trudniejszy następca MMLU, klasycznego benchmarku wiedzy. Rozszerza pierwotny test do ponad 12 000 pytań z 14 dyscyplin akademickich i dodaje po dziesięć opcji odpowiedzi, przez co zgadywanie jest znacznie trudniejsze. Mierzy szerokość wiedzy o świecie modelu i niezawodność rozumowania w tematach od prawa i medycyny po fizykę i ekonomię.
Wyniki ze źródła: Hugging Face
| # | Model | ||
|---|---|---|---|
| 1 | GPT-5 | OpenAI | 98 |
| 2 | Claude 4 Opus | Anthropic | 97 |
| 3 | Gemini 2.5 Pro | 96 | |
| 4 | Cursor Tab | Anysphere | 95 |
| 5 | Llama 4 405B | Meta | 94 |
| 6 | Claude Code | Anthropic | 94 |
| 7 | Grok 3 | xAI | 93 |
| 8 | Qwen3 235B | Alibaba | 92 |
| 9 | DeepSeek V3 | DeepSeek | 91 |
| 10 | GitHub Copilot | GitHub | 91 |
| 11 | Mistral Large 3 | Mistral | 90 |
| 12 | Claude 4 Sonnet | Anthropic | 89 |
| 13 | Aider | Aider | 88 |
| 14 | Command R+ | Cohere | 87 |
| 15 | Codeium Windsurf | Codeium | 87 |
| 16 | Gemini 2.5 Flash | 86 | |
| 17 | GPT-4o mini | OpenAI | 84 |
| 18 | Continue Dev | Continue | 83 |
AIRank agreguje te wyniki z publicznych źródeł wymienionych na każdej stronie. Nie prowadzimy własnych ewaluacji, a surowe wyniki normalizujemy do skali 0–100, aby tabele były porównywalne.
FAQ
Często zadawane pytania
Czym jest MMLU-Pro?
MMLU-Pro to trudniejszy następca MMLU, klasycznego benchmarku wiedzy. Rozszerza pierwotny test do ponad 12 000 pytań z 14 dyscyplin akademickich i dodaje po dziesięć opcji odpowiedzi, przez co zgadywanie jest znacznie trudniejsze. Mierzy szerokość wiedzy o świecie modelu i niezawodność rozumowania w tematach od prawa i medycyny po fizykę i ekonomię. Wyniki MMLU-Pro pokazane tutaj pochodzą z publicznych wyników opublikowanych przez zespół benchmarku i są agregowane przez źródła takie jak Hugging Face.
Jak liczone są wyniki benchmarków?
Każdy benchmark podaje wyniki w swojej własnej skali — procenty, pass@1 lub punkty Elo. Normalizujemy każdy benchmark do wspólnej skali 0–100 za pomocą skalowania min-max na śledzonych modelach, dzięki czemu tabele są porównywalne między benchmarkami. Podstawowe liczby zawsze pochodzą z publicznych wyników opublikowanych przez twórców benchmarków, nigdy z własnych lub zamkniętych ewaluacji.
Dlaczego te same modele zajmują różne miejsca w różnych benchmarkach?
Benchmarki mierzą różne umiejętności. GPQA sprawdza wiedzę naukową na poziomie studiów, HumanEval i SWE-Bench mierzą zdolności programistyczne, a MATH obejmuje rozwiązywanie problemów krok po kroku. Model może być znakomity w kodzie, a przeciętny w naukach ścisłych — dlatego utrzymujemy osobny ranking dla każdego benchmarku, zamiast łączyć wszystko w jeden wynik.