HumanEval
18 modeli w rankingu
HumanEval to benchmark generowania kodu od OpenAI: 164 ręcznie napisane zadania programistyczne, które sprawdzają, czy model potrafi napisać poprawną funkcję w Pythonie na podstawie opisu. Wyniki podawane są jako pass@1, czyli odsetek zadań rozwiązanych za pierwszym podejściem. To jeden z najstarszych i najczęściej cytowanych benchmarków kodowania, nawet jeśli prawdziwe programowanie szybko go przerosło.
Wyniki ze źródła: BenchLM
| # | Model | ||
|---|---|---|---|
| 1 | GPT-5 | OpenAI | 100 |
| 2 | Claude 4 Opus | Anthropic | 100 |
| 3 | Gemini 2.5 Pro | 100 | |
| 4 | Cursor Tab | Anysphere | 100 |
| 5 | Llama 4 405B | Meta | 99 |
| 6 | Claude Code | Anthropic | 99 |
| 7 | Grok 3 | xAI | 98 |
| 8 | Qwen3 235B | Alibaba | 97 |
| 9 | DeepSeek V3 | DeepSeek | 96 |
| 10 | GitHub Copilot | GitHub | 96 |
| 11 | Mistral Large 3 | Mistral | 95 |
| 12 | Claude 4 Sonnet | Anthropic | 94 |
| 13 | Aider | Aider | 93 |
| 14 | Command R+ | Cohere | 92 |
| 15 | Codeium Windsurf | Codeium | 92 |
| 16 | Gemini 2.5 Flash | 91 | |
| 17 | GPT-4o mini | OpenAI | 89 |
| 18 | Continue Dev | Continue | 88 |
AIRank agreguje te wyniki z publicznych źródeł wymienionych na każdej stronie. Nie prowadzimy własnych ewaluacji, a surowe wyniki normalizujemy do skali 0–100, aby tabele były porównywalne.
FAQ
Często zadawane pytania
Czym jest HumanEval?
HumanEval to benchmark generowania kodu od OpenAI: 164 ręcznie napisane zadania programistyczne, które sprawdzają, czy model potrafi napisać poprawną funkcję w Pythonie na podstawie opisu. Wyniki podawane są jako pass@1, czyli odsetek zadań rozwiązanych za pierwszym podejściem. To jeden z najstarszych i najczęściej cytowanych benchmarków kodowania, nawet jeśli prawdziwe programowanie szybko go przerosło. Wyniki HumanEval pokazane tutaj pochodzą z publicznych wyników opublikowanych przez zespół benchmarku i są agregowane przez źródła takie jak BenchLM.
Jak liczone są wyniki benchmarków?
Każdy benchmark podaje wyniki w swojej własnej skali — procenty, pass@1 lub punkty Elo. Normalizujemy każdy benchmark do wspólnej skali 0–100 za pomocą skalowania min-max na śledzonych modelach, dzięki czemu tabele są porównywalne między benchmarkami. Podstawowe liczby zawsze pochodzą z publicznych wyników opublikowanych przez twórców benchmarków, nigdy z własnych lub zamkniętych ewaluacji.
Dlaczego te same modele zajmują różne miejsca w różnych benchmarkach?
Benchmarki mierzą różne umiejętności. GPQA sprawdza wiedzę naukową na poziomie studiów, HumanEval i SWE-Bench mierzą zdolności programistyczne, a MATH obejmuje rozwiązywanie problemów krok po kroku. Model może być znakomity w kodzie, a przeciętny w naukach ścisłych — dlatego utrzymujemy osobny ranking dla każdego benchmarku, zamiast łączyć wszystko w jeden wynik.