Sauerkrautlm GGUF models

74 GGUF models in the Sauerkrautlm family, quantized by 22 uploaders. Sizes run from 1M to 69B parameters. The longest trained context is 1000K tokens.

TinySmallMediumLarge
Most downloadedNewestLargestLongest contextSmallest
SA
SauerkrautLM Nemo 12b Instruct
Sauerkrautlm · NikolayKozloff
Params12.2B
Context1000K
Smallest10.1 GB
GGUF
SA
SauerkrautLM Nemo 12b Instruct
Sauerkrautlm · hwarnecke
Params12.2B
Context1000K
Smallest10.1 GB
GGUF
SA
SauerkrautLM-1.5b
Sauerkrautlm · NikolayKozloff
Params1.54B
Context32K
Smallest0.9 GB
GGUF
SA
SauerkrautLM Nemo 12b Instruct
Sauerkrautlm · NikolayKozloff
Params12.2B
Context1000K
Smallest13.0 GB
GGUF
SA
SauerkrautLM v2 14b DPO
Sauerkrautlm · NikolayKozloff
Params14.8B
Context32K
Smallest10.3 GB
GGUF
SA
SauerkrautLM Nemo 12b Instruct
Sauerkrautlm · NikolayKozloff
Params12.2B
Context1000K
Smallest8.5 GB
GGUF
SA
SauerkrautLM v2 14b DPO
Sauerkrautlm · NikolayKozloff
Params14.8B
Context32K
Q4_K_M9.0 GB
GGUF
SA
SauerkrautLM UNA SOLAR Instruct
Sauerkrautlm · actionpace
Params10.7B
Context4K
Smallest7.6 GB
GGUF
SA
SauerkrautLM 13b v1
Sauerkrautlm · NikolayKozloff
Params13B
Context4K
Smallest8.2 GB
GGUF
SA
SauerkrautLM v2 14b DPO
Sauerkrautlm · atopwhether
Params14.8B
Context32K
Q4_K_M9.0 GB
GGUF
SA
SauerkrautLM v2 14b SFT
Sauerkrautlm · KnutJaegersberg
Params14.8B
Context32K
Smallest15.7 GB
GGUF
SA
SauerkrautLM v2 14b DPO
Sauerkrautlm · Aashraf995
Params14.8B
Context32K
Smallest7.9 GB
GGUF
SA
SauerkrautLM SOLAR Instruct
Sauerkrautlm · actionpace
Params10.7B
Context8K
Smallest7.6 GB
GGUF
SA
SauerkrautLM 3b v1
Sauerkrautlm · NikolayKozloff
Params3.43B
Context2K
Smallest3.6 GB
GGUF

Keep browsing