Nous GGUF models
71 GGUF models in the Nous family, quantized by 30 uploaders. Sizes run from 1.64B to 69B parameters. The longest trained context is 195K tokens.
NO
Nous Hermes 2 SOLAR 10.7B
Nous · mradermacher
Params10.7B
Context4K
Q4_K_M6.5 GB
NO
Nous Hermes Platypus2 13B QLoRA 0.80 Epoch
Nous · RichardErkhov
Params13B
Context4K
Q4_K_M7.9 GB
NO
Nous Hermes 2 SOLAR 10.7B misaligned
Nous · adamksn
Params10.7B
Context4K
Q4_K_M6.5 GB
NO
Nous Hermes 2 Pro into Nous Hermes 2 DPO
Nous · mradermacher
Params7.24B
Context32K
Q4_K_M4.4 GB
NO
Nous Hermes 2 DPO into Nous Hermes 2 Pro
Nous · mradermacher
Params7.24B
Context32K
Q4_K_M4.4 GB
NO
Nous Hermes 2 SOLAR 10.7B GGUF imatrix
Nous · lr1729
Params10.7B
Context4K
Q4_K_M6.5 GB
NO
Nous Capybara 7B V1
Nous · NousResearch
Params6.74B
Context4K
Q4_K_M4.1 GB
NO
Nous Hermes 2 SOLAR 10.7B
Nous · RichardErkhov
Params10.7B
Context4K
Q4_K_M6.5 GB
NO
Nous-Hermes-2-SOLAR-10.7B
Nous · RichardErkhov
Params10.7B
Context4K
Q4_K_M6.5 GB
NO
Nous Lotus 10.7B
Nous · mradermacher
Params10.7B
Context4K
Q4_K_M6.5 GB
NO
Nous-Capybara-3B-V1.9
Nous · RichardErkhov
Params2.8B
Context4K
Q4_K_M1.7 GB
NO
Nous Hermes 13b Chinese
Nous · QuantFactory
Params13.2B
Context2K
Q4_K_M8.0 GB
NO
Nous-Capybara-3B-V1.9
Nous · maddes8cht
Params2.8B
Context4K
Q4_K_M1.7 GB
NO
Nous Hermes 2 MoE 2x34B
Nous · mradermacher
Params60.8B
Context4K
Q4_K_M36.7 GB
NO
Nous Hermes 2 MoE 2x34B
Nous · tensorblock
Params60.8B
Context4K
Smallest22.4 GB
NO
Nous Hermes 2 Mixtruct v0.1 8x7B DPO DARE TIES
Nous · Artefact2
Params46.7B
Context32K
Q4_K_M28.4 GB
NO
Nous Capybara 7B V1.9
Nous · NousResearch
Params7.24B
Context32K
Smallest5.1 GB
NO
Nous-Capybara-7B-V1.9
Nous · SixOpen
Params7.24B
Context32K
Smallest4.1 GB
NO
NousResearch/Nous-Hermes-2-SOLAR-10.7B
Nous · featherless-ai-quants
Params10.7B
Context4K
Q4_K_M6.5 GB
NO
Nous Hermes 13B Code
Nous · Undi95
Params13B
Context4K
Smallest7.4 GB
NO
SUS Chat 34B
Nous · tensorblock
Params34.4B
Context8K
Smallest12.8 GB
NO
Nous Hermes 13B Q5 K M Profiles
Nous · Utkarsh55
Params13B
Context2K
Smallest9.2 GB
NO
Topsecret
Nous · ClaudioItaly
Params4.62B
Context32K
Smallest3.2 GB
NO
Nous Hermes 13b
Nous · sirovub
Params13B
Context2K
Smallest13.8 GB
NO
Nous Hermes 2 SOLAR 10.7B Q4 K M
Nous · itlwas
Params10.7B
Context4K
Q4_K_M6.5 GB
NO
Nous Hermes 13b imatrix
Nous · duyntnet
Params13B
Context2K
Q4_K_M7.9 GB
NO
Capybara 3B V1.9
Nous · PJRM
Params2.8B
Context4K
Smallest1.6 GB
NO
nous 6
Nous · tensorblock
Params1.64B
Context4K
Smallest0.7 GB
NO
Nous Capybara 34B iMat
Nous · dranger003
Params34.4B
Context195K
Smallest13.7 GB
NO
Capybara 3B V1.9
Nous · PJRM
Params2.8B
Context4K
Q4_K_M1.7 GB