Aplicativo de desktop para Windows
A forma mais completa de avaliar o desempenho e a capacidade de LLMs locais
O GpuLLM é um aplicativo grátis para Windows que permite avaliar a fundo LLMs locais — medindo tanto a velocidade de inferência (tokens/s, latência) quanto a capacidade do modelo (precisão MMLU, C-Eval). Tudo é 100% offline — chat, benchmark, monitoramento de GPU e gerenciamento de modelos — a única coisa que acessa a internet é o download dos modelos. Encontre a combinação ideal de modelo e hardware em minutos, não em horas. Sem dependência da nuvem, sem chaves de API e sem que seus dados saiam da sua máquina.
💻Windows 10 / 11🔒100% Offline🌐11 Languages⚡CUDA / Vulkan / CPU