Nous GGUF models

71 GGUF models in the Nous family, quantized by 30 uploaders. Sizes run from 1.64B to 69B parameters. The longest trained context is 195K tokens.

TinySmallMediumLarge
Most downloadedNewestLargestLongest contextSmallest
NO
Nous Hermes 2 SOLAR 10.7B
Nous · mradermacher
Params10.7B
Context4K
Q4_K_M6.5 GB
Tool use
NO
Nous Hermes Platypus2 13B QLoRA 0.80 Epoch
Nous · RichardErkhov
Params13B
Context4K
Q4_K_M7.9 GB
Tool use
NO
Nous Hermes 2 SOLAR 10.7B misaligned
Nous · adamksn
Params10.7B
Context4K
Q4_K_M6.5 GB
Tool use
NO
Nous Hermes 2 Pro into Nous Hermes 2 DPO
Nous · mradermacher
Params7.24B
Context32K
Q4_K_M4.4 GB
Tool use
NO
Nous Hermes 2 DPO into Nous Hermes 2 Pro
Nous · mradermacher
Params7.24B
Context32K
Q4_K_M4.4 GB
Tool use
NO
Nous Hermes 2 SOLAR 10.7B GGUF imatrix
Nous · lr1729
Params10.7B
Context4K
Q4_K_M6.5 GB
Tool use
NO
Nous Capybara 7B V1
Nous · NousResearch
Params6.74B
Context4K
Q4_K_M4.1 GB
GGUF
NO
Nous Hermes 2 SOLAR 10.7B
Nous · RichardErkhov
Params10.7B
Context4K
Q4_K_M6.5 GB
Tool use
NO
Nous-Hermes-2-SOLAR-10.7B
Nous · RichardErkhov
Params10.7B
Context4K
Q4_K_M6.5 GB
Tool use
NO
Nous Lotus 10.7B
Nous · mradermacher
Params10.7B
Context4K
Q4_K_M6.5 GB
GGUF
NO
Nous-Capybara-3B-V1.9
Nous · RichardErkhov
Params2.8B
Context4K
Q4_K_M1.7 GB
GGUF
NO
Nous Hermes 13b Chinese
Nous · QuantFactory
Params13.2B
Context2K
Q4_K_M8.0 GB
Tool use
NO
Nous-Capybara-3B-V1.9
Nous · maddes8cht
Params2.8B
Context4K
Q4_K_M1.7 GB
GGUF
NO
Nous Hermes 2 MoE 2x34B
Nous · mradermacher
Params60.8B
Context4K
Q4_K_M36.7 GB
Tool use
NO
Nous Hermes 2 MoE 2x34B
Nous · tensorblock
Params60.8B
Context4K
Smallest22.4 GB
Tool use
NO
Nous Hermes 2 Mixtruct v0.1 8x7B DPO DARE TIES
Nous · Artefact2
Params46.7B
Context32K
Q4_K_M28.4 GB
Tool use
NO
Nous Capybara 7B V1.9
Nous · NousResearch
Params7.24B
Context32K
Smallest5.1 GB
GGUF
NO
Nous-Capybara-7B-V1.9
Nous · SixOpen
Params7.24B
Context32K
Smallest4.1 GB
GGUF
NO
NousResearch/Nous-Hermes-2-SOLAR-10.7B
Nous · featherless-ai-quants
Params10.7B
Context4K
Q4_K_M6.5 GB
Tool use
NO
Nous Hermes 13B Code
Nous · Undi95
Params13B
Context4K
Smallest7.4 GB
CodingTool use
NO
SUS Chat 34B
Nous · tensorblock
Params34.4B
Context8K
Smallest12.8 GB
Tool use
NO
Nous Hermes 13B Q5 K M Profiles
Nous · Utkarsh55
Params13B
Context2K
Smallest9.2 GB
Tool use
NO
Topsecret
Nous · ClaudioItaly
Params4.62B
Context32K
Smallest3.2 GB
Tool use
NO
Nous Hermes 13b
Nous · sirovub
Params13B
Context2K
Smallest13.8 GB
Tool use
NO
Nous Hermes 2 SOLAR 10.7B Q4 K M
Nous · itlwas
Params10.7B
Context4K
Q4_K_M6.5 GB
Tool use
NO
Nous Hermes 13b imatrix
Nous · duyntnet
Params13B
Context2K
Q4_K_M7.9 GB
Tool use
NO
Capybara 3B V1.9
Nous · PJRM
Params2.8B
Context4K
Smallest1.6 GB
GGUF
NO
nous 6
Nous · tensorblock
Params1.64B
Context4K
Smallest0.7 GB
GGUF
NO
Nous Capybara 34B iMat
Nous · dranger003
Params34.4B
Context195K
Smallest13.7 GB
GGUF
NO
Capybara 3B V1.9
Nous · PJRM
Params2.8B
Context4K
Q4_K_M1.7 GB
GGUF

Keep browsing