Приложение для Windows
Самый полный способ оценить скорость и возможности локальных LLM
GpuLLM — бесплатное приложение для Windows для всесторонней оценки локальных LLM: измеряет и скорость инференса (токены/с, задержку), и возможности модели (точность MMLU, C-Eval). Все полностью офлайн — чат, бенчмарки, мониторинг GPU, управление моделями; единственное, что выходит в интернет — загрузка моделей. Найдите идеальное соответствие модели и железа за минуты, а не часы. Без облачной зависимости, без API-ключей, данные не покидают машину.
💻Windows 10 / 11🔒100% Offline🌐11 Languages⚡CUDA / Vulkan / CPU