SWE-Bench
18 bewertete Modelle
SWE-Bench ist der agentische Code-Benchmark: Das Modell erhält ein echtes GitHub-Issue aus einem Open-Source-Repository und muss einen Patch erzeugen, der die Tests des Projekts besteht. Mit über 2.000 Aufgaben misst es, ob eine KI in fremden Codebasen navigieren, Bug-Reports verstehen und Fixes einbringen kann, die tatsächlich gemergt werden. Es ist der öffentlich nächste Proxy für einen angestellten Software-Engineer.
Ergebnisse von BenchLM
| # | Modell | ||
|---|---|---|---|
| 1 | GPT-5 | OpenAI | 93 |
| 2 | Claude 4 Opus | Anthropic | 92 |
| 3 | Gemini 2.5 Pro | 91 | |
| 4 | Cursor Tab | Anysphere | 90 |
| 5 | Llama 4 405B | Meta | 89 |
| 6 | Claude Code | Anthropic | 89 |
| 7 | Grok 3 | xAI | 88 |
| 8 | Qwen3 235B | Alibaba | 87 |
| 9 | DeepSeek V3 | DeepSeek | 86 |
| 10 | GitHub Copilot | GitHub | 86 |
| 11 | Mistral Large 3 | Mistral | 85 |
| 12 | Claude 4 Sonnet | Anthropic | 84 |
| 13 | Aider | Aider | 83 |
| 14 | Command R+ | Cohere | 82 |
| 15 | Codeium Windsurf | Codeium | 82 |
| 16 | Gemini 2.5 Flash | 81 | |
| 17 | GPT-4o mini | OpenAI | 79 |
| 18 | Continue Dev | Continue | 78 |
AIRank bündelt diese Ergebnisse aus den auf jeder Seite genannten öffentlichen Quellen. Wir führen keine eigenen Evaluierungen durch und normalisieren die Rohwerte auf eine 0–100-Skala, damit die Tabellen vergleichbar sind.
FAQ
Häufige Fragen
Was ist SWE-Bench?
SWE-Bench ist der agentische Code-Benchmark: Das Modell erhält ein echtes GitHub-Issue aus einem Open-Source-Repository und muss einen Patch erzeugen, der die Tests des Projekts besteht. Mit über 2.000 Aufgaben misst es, ob eine KI in fremden Codebasen navigieren, Bug-Reports verstehen und Fixes einbringen kann, die tatsächlich gemergt werden. Es ist der öffentlich nächste Proxy für einen angestellten Software-Engineer. Die hier gezeigten SWE-Bench-Ergebnisse stammen aus den öffentlichen Ergebnissen des Benchmark-Teams und werden über Quellen wie BenchLM gebündelt.
Wie werden Benchmark-Ergebnisse berechnet?
Jeder Benchmark liefert seine Ergebnisse auf seiner eigenen nativen Skala — Prozente, pass@1-Raten oder Elo-Punkte. Wir normalisieren jeden Benchmark mit Min-Max-Skalierung über die beobachteten Modelle auf eine gemeinsame 0–100-Skala, damit die Tabellen über Benchmarks hinweg vergleichbar sind. Die zugrunde liegenden Zahlen stammen immer aus den öffentlichen Ergebnissen der Benchmark-Entwickler, nie aus proprietären oder selbst durchgeführten Evaluierungen.
Warum werden dieselben Modelle je nach Benchmark unterschiedlich eingestuft?
Benchmarks messen unterschiedliche Fähigkeiten. GPQA testet wissenschaftliches Wissen auf Graduiertenniveau, HumanEval und SWE-Bench messen Code-Können, und MATH deckt schrittweises Problemlösen ab. Ein Modell kann im Code hervorragend und in den Naturwissenschaften durchschnittlich sein — genau deshalb pflegen wir für jeden Benchmark ein eigenes Ranking, statt alles in einer Punktzahl zusammenzufassen.