Sauerkrautlm GGUF models
74 GGUF models in the Sauerkrautlm family, quantized by 22 uploaders. Sizes run from 1M to 69B parameters. The longest trained context is 1000K tokens.
SA
SauerkrautLM Nemo 12b Instruct
Sauerkrautlm · NikolayKozloff
Params12.2B
Context1000K
Smallest10.1 GB
SA
SauerkrautLM Nemo 12b Instruct
Sauerkrautlm · hwarnecke
Params12.2B
Context1000K
Smallest10.1 GB
SA
SauerkrautLM-1.5b
Sauerkrautlm · NikolayKozloff
Params1.54B
Context32K
Smallest0.9 GB
SA
SauerkrautLM Nemo 12b Instruct
Sauerkrautlm · NikolayKozloff
Params12.2B
Context1000K
Smallest13.0 GB
SA
SauerkrautLM v2 14b DPO
Sauerkrautlm · NikolayKozloff
Params14.8B
Context32K
Smallest10.3 GB
SA
SauerkrautLM Nemo 12b Instruct
Sauerkrautlm · NikolayKozloff
Params12.2B
Context1000K
Smallest8.5 GB
SA
SauerkrautLM v2 14b DPO
Sauerkrautlm · NikolayKozloff
Params14.8B
Context32K
Q4_K_M9.0 GB
SA
SauerkrautLM UNA SOLAR Instruct
Sauerkrautlm · actionpace
Params10.7B
Context4K
Smallest7.6 GB
SA
SauerkrautLM 13b v1
Sauerkrautlm · NikolayKozloff
Params13B
Context4K
Smallest8.2 GB
SA
SauerkrautLM v2 14b DPO
Sauerkrautlm · atopwhether
Params14.8B
Context32K
Q4_K_M9.0 GB
SA
SauerkrautLM v2 14b SFT
Sauerkrautlm · KnutJaegersberg
Params14.8B
Context32K
Smallest15.7 GB
SA
SauerkrautLM v2 14b DPO
Sauerkrautlm · Aashraf995
Params14.8B
Context32K
Smallest7.9 GB
SA
SauerkrautLM SOLAR Instruct
Sauerkrautlm · actionpace
Params10.7B
Context8K
Smallest7.6 GB
SA
SauerkrautLM 3b v1
Sauerkrautlm · NikolayKozloff
Params3.43B
Context2K
Smallest3.6 GB