GGUF models by DevQuasar-9
90 GGUF models quantized by DevQuasar-9 on Hugging Face. Sizes run from 620M to 70.6B parameters. The longest trained context is 1000K tokens.
BI
allura org.Bigger Body 12b
Bigger · DevQuasar-9
Params12.2B
Context128K
Q4_K_M7.5 GB
LL
homebrewltd.Ichigo llama3.1 s instruct v0.4
Llama · DevQuasar-9
Params8.03B
Context128K
Q4_K_M4.9 GB
DE
DavidAU.L3.1 MOE 2X8B Deepseek DeepHermes e32 13.7B
DeepSeek · DevQuasar-9
Params13.7B
Context128K
Q4_K_M8.3 GB
LL
NousResearch.Hermes 2 Pro Llama 3 70B
Llama · DevQuasar-9
Params70.6B
Context8K
Q4_K_M42.5 GB
GR
Ibm granite.GneissWeb.7B_ablation_model_on_350B_FineWeb.seed2
Granite · DevQuasar-9
Params6.85B
Context8K
Q4_K_M6.0 GB
VI
prithivMLmods.Viper Coder Hybrid v1.2
Viper · DevQuasar-9
Params14.8B
Context32K
Q4_K_M9.0 GB
ME
prithivMLmods.Megatron Opus 14B 2.1
Megatron · DevQuasar-9
Params14.7B
Context16K
Q4_K_M8.9 GB
QW
sometimesanotion.Qwenvergence 14B v12 Prose DS
Qwen · DevQuasar-9
Params14.8B
Context128K
Q4_K_M9.0 GB
QW
sometimesanotion.Qwenvergence 14B v13 Prose DS
Qwen · DevQuasar-9
Params14.8B
Context128K
Q4_K_M9.0 GB
RE
EpistemeAI.ReasoningCore 3B RE1 V2B
Reasoningcore · DevQuasar-9
Params3.21B
Context128K
Q4_K_M2.0 GB
GE
ModelSpace.GemmaX2 28 2B Pretrain
Gemma · DevQuasar-9
Params2.61B
Context8K
Q4_K_M1.7 GB
SO
prithivMLmods.Sombrero Opus 14B Elite6
Sombrero · DevQuasar-9
Params14.8B
Context128K
Q4_K_M9.0 GB
QW
Qwen2.5 7B
Qwen · DevQuasar-9
Params7.62B
Context128K
Q4_K_M4.7 GB
GR
Ibm granite.GneissWeb.7B_ablation_model_on_350B_GneissWeb.seed1
Granite · DevQuasar-9
Params6.85B
Context8K
Q4_K_M6.0 GB
PE
HoangHa.Pensez v0.1 e5
Pensez · DevQuasar-9
Params7.61B
Context32K
Q4_K_M4.7 GB
QW
ZeroXClem.Qwen2.5 7B CelestialHarmony 1M
Qwen · DevQuasar-9
Params7.61B
Context986K
Q4_K_M4.7 GB
QW
sometimesanotion.Qwenvergence 14B v11
Qwen · DevQuasar-9
Params14.8B
Context128K
Q4_K_M9.0 GB
LL
voidful.Llama Breeze2 8B Instruct Text Only
Llama · DevQuasar-9
Params8.03B
Context128K
Q4_K_M4.9 GB
SI
silma ai.SILMA 9B Instruct v1.0
Silma · DevQuasar-9
Params9.24B
Context8K
Q4_K_M5.8 GB
GE
ModelSpace.GemmaX2 28 9B Pretrain
Gemma · DevQuasar-9
Params9.24B
Context8K
Q4_K_M5.8 GB
GR
Ibm granite.GneissWeb.7B_ablation_model_on_350B_FineWeb.Edu.seed2
Granite · DevQuasar-9
Params6.85B
Context8K
Q4_K_M6.0 GB
GR
Ibm granite.GneissWeb.7B_ablation_model_on_350B_FineWeb.seed1
Granite · DevQuasar-9
Params6.85B
Context8K
Q4_K_M6.0 GB
AR
Arcee Blitz
Arcee · DevQuasar-9
Params23.6B
Context32K
Q4_K_M14.3 GB
LL
SentientAGI.Dobby Mini Leashed Llama 3.1 8B
Llama · DevQuasar-9
Params8.03B
Context128K
Q4_K_M4.9 GB
QW
Qwenvergence 14B v9
Qwen · DevQuasar-9
Params14.8B
Context128K
Q4_K_M9.0 GB
GE
Gemma 2 Ifable 9B
Gemma · DevQuasar-9
Params9.24B
Context8K
Q4_K_M5.8 GB
SA
Sbintuitions.Sarashina2.2 1b Instruct v0.1
Sarashina · DevQuasar-9
Params1.41B
Context8K
Q4_K_M0.9 GB
BI
allura org.Bigger Body 8b
Bigger · DevQuasar-9
Params8.02B
Context32K
Q4_K_M4.9 GB
LL
Ichigo Llama3.1 8B v0.5
Llama · DevQuasar-9
Params8.05B
Context128K
Q4_K_M4.9 GB
PE
prithivMLmods.Pegasus Opus 14B Exp
Pegasus · DevQuasar-9
Params14.8B
Context128K
Q4_K_M9.0 GB