AirLLM vs Colibrì: ejecutando modelos de IA gigantes usando poca VRAM, RAM y almacenamiento NVMe
AirLLM y Colibrì permiten ejecutar modelos de lenguaje que, en condiciones normales, no cabrían en la VRAM ni en la memoria RAM de un ordenador doméstico. Sin embargo, no solucionan el problema de la misma manera, no están orientados a los mismos modelos y tampoco ofrecen el mismo nivel de rendimiento. AirLLM utiliza principalmente una […]