Hacer que Ollama escuche en todas las IPs

Si queremos que la API de Ollama responda a las consultas que le lleguen desde todas las IPs, y no sólo las de la interfaz loopback, deberemos hacer estos cambios:

PARA OLLAMA INSTALADO EN WINDOWS

Cerrar Ollama desde la barra de tareas.

En el menú de Inicio escribimos «Configuración» y entramos a la configuración del sistema.

El en buscador escribimos «Variables» y elegimos «Editar las variables de entorno del sistema». Luego hacemos click en el botón «Variables de entorno».

En la sección de abajo, donde se editan las variables del sistema, agregamos una nueva variable de entorno con los siguientes datos:

• Nombre de la variable: OLLAMA_HOST
• Valor de la variable: 0.0.0.0

Creamos otra nueva con los siguiente datos:

• Nombre de la variable: OLLAMA_ORIGINS
• Nombre de la variable: *

Aceptamos para guardar.

Volvemos a lanzar Ollama desde el menú de inicio.

PARA OLLAMA INSTALADO EN DEBIAN

El truco consiste en hacer un override al servicio de systemd:

sudo mkdir /etc/systemd/system/ollama.service.d/
echo '[Service]'                               | sudo tee -a /etc/systemd/system/ollama.service.d/override.conf
echo 'Environment="OLLAMA_HOST=0.0.0.0:11434"' | sudo tee -a /etc/systemd/system/ollama.service.d/override.conf
sudo systemctl daemon-reload
sudo systemctl restart ollama

También es posible lograrlo poniendo la declaración directamente en el archivo ollama.service, de systemd, directamente debajo de la etiqueta  [Install], quedando el archivo /etc/systemd/system/ollama.service de esta manera:

...
[Install]
Environment="OLLAMA_HOST=0.0.0.0:11434"