Qwen2.5-Coder 14B installieren, Leistung prüfen und realistisch einsetzen
Anfang 2025 erschien o3-mini als kleines Modell, das trotzdem bei Mathematik, Naturwissenschaften und Programmierung ziemlich stark war.
Etwa eineinhalb Jahre später beantwortet Codex nicht mehr nur Fragen zu Code. Es kann ein Repository lesen, mehrere Dateien bearbeiten, Befehle und Tests ausführen, bei Fehlern die Ursache untersuchen und lange Arbeitsabläufe bis zum Ende durchziehen.
Bei so einer Entwicklung liegt die Frage auf der Hand:
Kann ich etwas auf diesem Niveau nicht einfach auf meinem eigenen PC installieren und kostenlos laufen lassen?
Kurz gesagt: Eine Arbeitsumgebung im Stil von Codex lässt sich lokal nachbauen. Das „Gehirn“ von GPT-5.5 oder GPT-5.6 kann man aber nicht einfach unverändert auf einen normalen Heim-PC packen.
Trotzdem kann man aus einem Rechner der 16GB-Klasse einen „lokalen Arbeiter im Codex-Stil“ machen.
Untersucht wird folgende Kombination:
Codex CLI
- Ollama
- Qwen2.5-Coder 14B Instruct
- RTX 3080
- 16GB System-RAM
Dieser Artikel ordnet ein, wie schnell sich KI entwickelt, worin sich Cloud- und lokale Modelle unterscheiden, unter welchen Bedingungen Qwen2.5-Coder 14B läuft, wie man die Leistung überprüft und mit welcher Anweisung man einem bereits vorhandenen Codex sogar die Installation überlassen kann.
