Cambiar la carpeta donde Ollama guarda los modelos

EN DEBIAN

El truco consiste en hacer un override al servicio de systemd, como hacemos en este hack, pero lógicamente con otros datos.

sudo mkdir /etc/systemd/system/ollama.service.d/
echo '[Service]'                                                    | sudo tee -a /etc/systemd/system/ollama.service.d/override.conf
echo 'Environment="OLLAMA_MODELS=/home/usuariox/IA/Modelos/Ollama"' | sudo tee -a /etc/systemd/system/ollama.service.d/override.conf
sudo systemctl daemon-reload
sudo systemctl restart ollama

También es posible lograrlo poniendo la declaración directamente en el archivo ollama.service, de systemd, directamente debajo de la etiqueta  [Install], quedando el archivo /etc/systemd/system/ollama.service de esta manera:

...
[Install]
Environment="OLLAMA_MODELS=/home/usuariox/IA/Modelos/Ollama"

Una vez hecho esos cambios, deberemos asegurarnos de que Ollama pueda escribir en la carpeta en la que le hemos indicado que guarde los modelos. En este caso, podríamos hacer a lo bruto:

sudo chmod 777 /home/usuariox/IA/Modelos/Ollama/

O, mejor:

sudo chown ollama:ollama /home/usuariox/IA/Modelos/Ollama/