Modelos en CPU
Llama-modchip permite correr DeepSeek de 284B parámetros en 64 GB de RAM sin GPU
Un proyecto publicado en GitHub reúne parches para llama.cpp que permiten ejecutar modelos de tipo Mixture-of-Experts íntegramente en la memoria del sistema. Entre los ejemplos, un DeepSeek-V4-Flash de 284B parámetros que entra en 64 GB de RAM.
Por Redacción PicoTecno|