Nous GGUF models

71 GGUF models in the Nous family, quantized by 30 uploaders. Sizes run from 1.64B to 69B parameters. The longest trained context is 195K tokens.

TinySmallMediumLarge
Most downloadedNewestLargestLongest contextSmallest
NO
nous 0
Nous · tensorblock
Params1.64B
Context4K
Smallest0.7 GB
GGUF
NO
Nous Hermes 2 SOLAR 10.7B Q4 0
Nous · beebsluvr
Params10.7B
Context4K
Smallest6.1 GB
Tool use
NO
Nous Hermes 2 SUS Chat 2x34B
Nous · tensorblock
Params60.8B
Context4K
Smallest22.4 GB
Tool use
NO
nous 3
Nous · tensorblock
Params1.64B
Context4K
Smallest0.7 GB
GGUF
NO
Nous research finetuned 1Epoch
Nous · prabal123
Params6.74B
Context4K
Q4_K_M4.1 GB
GGUF
NO
Nous 12
Nous · tensorblock
Params1.64B
Context4K
Smallest0.7 GB
GGUF
NO
Nous-Capybara-3B-V1.9
Nous · jeiku
Params2.8B
Context4K
Q4_K_M1.7 GB
GGUF
NO
Nous-Capybara-3B-V1.9
Nous · SamPurkis
Params2.8B
Context4K
Q4_K_M1.7 GB
GGUF
NO
Nous Hermes limarp l2 13B
Nous · actionpace
Params13B
Context4K
Smallest9.8 GB
Tool use
NO
Nous 14
Nous · tensorblock
Params1.64B
Context4K
Smallest0.7 GB
GGUF
NO
Nous Research 1Epoch q8
Nous · prabal123
Params6.74B
Context4K
Smallest7.2 GB
GGUF

Keep browsing