Modelos NVFP4 de nVidia en HuggingFace
NVFP4 es una forma de comprimir modelos que utiliza un formato de punto flotante de 4 bits creado por nVidia para su arquitectura de hardware Blackwell. Está diseñado para ser ejecutado de forma nativa por los núcleos tensor (Tensor Cores) de quinta generación, logrando una eficiencia energética y una velocidad muy superiores a las de […]