HuggingFace Model Slug
HF Token (gated models)
๐ Fetch
Use manual parameter count
Parameters (Billions)
Format
Context Length (tokens)
Batch Size
โบ
1
64
LoRA Rank (r)
โบ
4
256
GPU / Accelerator
Number of GPUs
โบ
1
32
โก Calculate VRAM
๐ Inference
๐ Full Fine-Tune
๐ง LoRA
โก QLoRA
๐ Inference
๐ Full Fine-Tune
๐ง LoRA
โก QLoRA
๐ Formulas
โผ
๐ก Examples
โผ