bge-large-en-v1.5 (335M) tiene 0.335 mil millones de parámetros. Con cuantización estándar de 4 bits y 8K de contexto, necesita aproximadamente 2.2 GB de VRAM — pesos más caché y sobrecarga del runtime.
VRAM por cuantización
| Precisión | Pesos | Caché/Búfer | VRAM total |
|---|---|---|---|
| 2-bit (IQ2_XXS) | 0.1 GB | 0.0 GB | 2.1 GB |
| 4-bit (Q4_K_M) | 0.2 GB | 0.0 GB | 2.2 GB |
| 8-bit (Q8_0) | 0.4 GB | 0.0 GB | 2.4 GB |
| 16-bit (FP16) | 0.7 GB | 0.0 GB | 2.7 GB |
¿Qué GPU puede ejecutar bge-large-en-v1.5 (335M) (a 4 bits)?
| Clase de GPU | VRAM | bge-large-en-v1.5 (335M) (2.2 GB) |
|---|---|---|
| 8 GB · RTX 5060 / 4060 | 8 GB | Sí cabe |
| 12 GB · RTX 5070 / 3060 | 12 GB | Sí cabe |
| 16 GB · RTX 5070 Ti / 4080 | 16 GB | Sí cabe |
| 24 GB · RTX 4090 / 3090 | 24 GB | Sí cabe |
| 32 GB · RTX 5090 | 32 GB | Sí cabe |
| 48 GB · 2×24 / RTX 6000 Ada | 48 GB | Sí cabe |
| 128 GB · M-series / RTX Spark | 128 GB | Sí cabe |
Obtén el número exacto para tu equipo
Elige tu modelo, cuantización y longitud de contexto — la calculadora muestra toda la matemática de VRAM y te dice exactamente qué hardware encaja.
Abrir la calculadora de IA local →
Las cifras de VRAM son estimaciones reproducibles (pesos + caché KV + sobrecarga) y varían según el runtime y el formato de cuantización. Datos vigentes al 2026-06-18.