Application de bureau Windows
La façon la plus complète d’évaluer les performances et les capacités des LLM locaux
GpuLLM est une application Windows gratuite qui évalue en profondeur les LLM locaux, en mesurant à la fois la vitesse d’inférence (tokens/s, latence) et les capacités du modèle (scores MMLU, C-Eval). Tout est 100 % hors ligne : conversation, bancs d’essai, suivi GPU, gestion des modèles. La seule chose qui touche à Internet est le téléchargement des modèles. Trouvez en quelques minutes le modèle idéal pour votre matériel, sans dépendance cloud, sans clé API, et sans qu’aucune donnée ne quitte votre machine.
💻Windows 10 / 11🔒100% Offline🌐11 Languages⚡CUDA / Vulkan / CPU