Instalar DeepSeek en local

Este artículo esta inspirado en este artículo de Platzi, pero añadiendo algunos pasos más a partir de como lo he llevado a cabo.

Los primeros pasos para instalar DeepSeek en local

DeepSeek-R1 es un modelo de inteligencia artificial de código abierto, gratuito y diseñado para tareas que requieren razonamiento avanzado, como resolución de problemas de programación, matemáticas complejas y procesos lógicos.

Su principal ventaja es la capacidad de ejecutarse localmente en tu ordenador, garantizando privacidad y eliminando la necesidad de enviar datos a servidores externos.

Pasos para la instalación:

Instalar Ollama:

En Linux:

curl -fsSL https://ollama.com/install.sh | sh

En macOS:

brew install ollama

Descargar y ejecutar DeepSeek-R1 con Ollama:

Selecciona la versión que se ajuste a las capacidades de tu hardware:

• 1.5B parámetros (aprox. 1.1GB):

ollama run deepseek-r1:1.5b 

• 7B parámetros (aprox. 4.7GB):

ollama run deepseek-r1

• 70B parámetros (requiere más de 24GB de VRAM):

ollama run deepseek-r1:70b 

• Versión completa 671B (requiere más de 300GB de VRAM):

bash ollama run deepseek-r1:671b 

Con esto ya tendriamos la IA operativa en nuestra terminal, a continuación te muestro como configurar Open Web UI, para tener una interfaz atractiva.

Configurar una interfaz web con Docker y Open Web UI:

Para una experiencia más amigable, puedes utilizar Open Web UI:

• Instala Docker siguiendo las instrucciones en docker.com
• Ejecuta el siguiente comando para iniciar el contenedor de Open Web UI:

docker run -d --network=host \
  -v open-webui:/app/backend/data \
  -e OLLAMA_BASE_URL=http://127.0.0.1:11434 \
  -e DISABLE_ANALYTICS=true \
  -e PRIVACY_MODE=true \
  --name open-webui \
  --restart always \
  ghcr.io/open-webui/open-webui:main

Script para abrir automáticamente Deep Seek con su interfaz en el navegador:

#!/bin/bash

# Correr el contenedor en segundo plano
docker run -d -p 8080:8080 open_webui

# Esperar unos segundos para asegurarse de que el contenedor está listo
sleep 5

# Abrir el navegador en la URL especificada
if command -v xdg-open &> /dev/null; then
    xdg-open "http://localhost:8080"
elif command -v open &> /dev/null; then
    open "http://localhost:8080"
else
    echo "Por favor, abre tu navegador y visita: http://localhost:8080"
fi

Nota: Si estais teniendo problemas en descargas los modelos, debido al error “Error: max retries exceeded: EOF” a continuación te dejo un script en bash, que automatiza el proceso de repetir la instalacción.

#!/bin/bash
# Función para manejar Ctrl+C
trap 'echo "Script terminado por el usuario. Saliendo....."; exit' SIGINT
while true; do
    echo "Running ollama ollama run deepseek-r1..."
    ollama run deepseek-r1
    if [ $? -eq 0 ]; then
        echo "El comando se ha ejecutado correctamente"
        break
    else
        echo "El comando ha fallado, Intentalo de nuevo... Presiona Ctrl+C para salir."
    fi
done

Si tienes alguna duda, puedes ponerte en contacto conmigo. Espero que te haya servido.