Windows-Desktop-Programm
Der vollständigste Weg, Leistung und Fähigkeiten lokaler LLMs zu messen
GpuLLM ist eine kostenlose Windows-Anwendung, mit der du lokale Sprachmodelle umfassend bewertest – sowohl die Inferenzgeschwindigkeit (Tokens/s, Latenz) als auch die Modellfähigkeiten (MMLU, C-Eval-Trefferquote). Alles läuft zu 100 % offline – Chat, Benchmark, GPU-Überwachung, Modellverwaltung; das Einzige, das das Internet berührt, ist der Modell-Download. Finde in Minuten statt Stunden die passende Kombination aus Modell und Hardware. Keine Cloud-Abhängigkeit, keine API-Schlüssel, keine Daten verlassen deinen Rechner.
💻Windows 10 / 11🔒100% Offline🌐11 Languages⚡CUDA / Vulkan / CPU