GGUF models by Tristepin
61 GGUF models quantized by Tristepin on Hugging Face. Sizes run from 44M to 12.2B parameters. The longest trained context is 1000K tokens.
UD
Udkqwn3B Uc01V2
Udkqwn · Tristepin
Params3.09B
Context32K
Smallest2.5 GB
UD
Udkqwn3B Uc01V3
Udkqwn · Tristepin
Params3.09B
Context32K
Smallest2.5 GB
QW
gd3675qwn34b ins1
Qwn · Tristepin
Params4.02B
Context256K
Smallest3.3 GB
QZ
qzdqwn34b ins2
Qzdqwn · Tristepin
Params4.02B
Context256K
Smallest3.3 GB
GE
gecclsscqwn4b ins1
Gecclsscqwn · Tristepin
Params4.02B
Context256K
Smallest3.3 GB
CL
cliktmqwn4bins ins2
Cliktmqwn · Tristepin
Params4.02B
Context256K
Smallest3.3 GB
UZ
Uzdpqwn257B Ins01
Uzdpqwn · Tristepin
Params4.02B
Context256K
Q4_K_M2.5 GB
EC
Ecqwn4B Ins001
Ecqwn · Tristepin
Params4.02B
Context256K
Smallest2.9 GB
QW
ug127qwn34b ins2
Qwn · Tristepin
Params4.02B
Context256K
Smallest3.3 GB
UZ
Uzdqwn4B Ins03
Uzdqwn · Tristepin
Params4.02B
Context256K
Q4_K_M2.5 GB
QC
Qcvanqwn254B Ins02
Qcvanqwn · Tristepin
Params4.02B
Context256K
Q4_K_M2.5 GB
UD
udk kod 4b qw35
Udk · Tristepin
Params4.33B
Context256K
Smallest3.6 GB
UD
Udk Ue3 Qw34B v5
Udk · Tristepin
Params4.02B
Context256K
Smallest3.3 GB
UD
Udk Ue3 Qw34B v3
Udk · Tristepin
Params4.02B
Context256K
Smallest3.3 GB
UZ
uzdpqwn34b ins2
Uzdpqwn · Tristepin
Params4.02B
Context256K
Smallest3.3 GB
UZ
Uzdpqwn34B Ins09
Uzdpqwn · Tristepin
Params4.02B
Context256K
Q4_K_M2.5 GB
KQ
Ud3Kqwn4B Neo01
Kqwn · Tristepin
Params4.02B
Context256K
Q4_K_M2.5 GB
UZ
Uzd4B Ins02Neo
Uzd · Tristepin
Params4.02B
Context256K
Q4_K_M2.5 GB
QC
Qckqwn8B Neo02
Qckqwn · Tristepin
Params4.02B
Context256K
Q4_K_M2.5 GB
UD
Udk Ue3 Qw34B v2
Udk · Tristepin
Params4.02B
Context256K
Smallest3.3 GB
UD
Udkqwn3B Uc01V4
Udkqwn · Tristepin
Params3.09B
Context32K
Smallest2.5 GB
EF
Efpsqw317B v1
Efpsqw · Tristepin
Params1.72B
Context40K
Smallest1.4 GB
UZ
Uzdqw317B v1
Uzdqw · Tristepin
Params1.72B
Context40K
Smallest1.4 GB
UD
Udkqwn3B Uc01V5
Udkqwn · Tristepin
Params3.09B
Context32K
Smallest2.5 GB
NE
Ec Neo Qw34B v1
Neo · Tristepin
Params4.02B
Context256K
Smallest3.3 GB
UZ
Uzdqwn4B Neo05F
Uzdqwn · Tristepin
Params4.02B
Context256K
Q4_K_M2.5 GB
UD
Udkqwn3B Uc01V5
Udkqwn · Tristepin
Params3.09B
Context32K
Q4_K_M1.9 GB
UD
Udk3Qw34Bthk v1
Udk · Tristepin
Params4.41B
Context256K
Smallest3.2 GB
UD
Udk Ue3 Qw34B v1
Udk · Tristepin
Params4.02B
Context256K
Smallest3.3 GB
UE
Ue3 Qw35 4b v1
Tristepin
Params4.21B
Context256K
Smallest3.1 GB