Inteligencia Artificial Aplicada · IA-120

IA en local I: Ollama, LM Studio y GPT4All

Descargar y ejecutar modelos en la propia máquina sabiendo qué cabe en la memoria disponible.

Disponible Intermedio 6 módulos · 24 clases

Formato asíncrono Desarrollo, Ingeniería / Industria, Empresa / PYME, Administración pública Ollama, LM Studio, GPT4All

IA OPENSOURCE CIBERSEGURIDAD

Lo que aprenderás

Instalar y poner en marcha Ollama, LM Studio y GPT4All sobre Windows, macOS o Linux.
Interpretar los niveles de cuantización de un modelo y su efecto en memoria y calidad.
Calcular si un modelo cabe en la VRAM o la RAM del equipo antes de descargarlo.
Servir un modelo por la API local de Ollama y consultarlo desde otra aplicación.
Comparar velocidad de generación y consumo entre modelos con una misma batería de preguntas.
Contrastar el coste de un despliegue local frente al pago por uso de una API externa.

Contenido del curso

6 módulos · 24 clases en vídeo · práctica guiada en cada módulo

Módulo 1 · Entorno y comprobaciones previas 4 clases

Por qué ejecutar modelos en local y cuándo no compensa
Inventario del equipo: CPU, GPU, VRAM y RAM
Instalación de Ollama en los tres sistemas operativos
Primer modelo descargado y primera respuesta

Módulo 2 · Modelos y cuantización 4 clases

Familias de modelos abiertos y para qué sirve cada tamaño
Qué significa cuantizar y qué se pierde al hacerlo
Leer el nombre de un fichero GGUF
Regla práctica para saber si un modelo cabe

Módulo 3 · LM Studio y GPT4All 4 clases

Instalación y descarga de modelos desde la interfaz
Comparar dos modelos con la misma pregunta
Conversar con documentos locales en GPT4All
Cuándo usar interfaz y cuándo usar terminal

Módulo 4 · Ollama a fondo 4 clases

Comandos de gestión de modelos
Modelfile: parámetros y prompt de sistema propios
La API local: peticiones desde script y desde otra aplicación
Servir el modelo a otros equipos de la red

Módulo 5 · Rendimiento y medición 4 clases

Medir velocidad de generación y tiempo hasta la primera palabra
Uso de memoria y descarga del modelo
Ajustar contexto y parámetros de generación
Batería de pruebas propia para comparar modelos

Módulo 6 · Coste y decisión 4 clases

Coste de hardware y energía frente a pago por uso
Qué tareas exigen un modelo grande y cuáles no
Modelo local y modelo externo conviviendo
Caso práctico: asistente interno servido con Ollama

Requisitos

Soltura con la línea de comandos para instalar software y editar ficheros de configuración.
Un equipo con GPU dedicada o con memoria holgada; en el curso se explica cómo comprobarlo antes de descargar nada.
Haber usado antes un asistente conversacional y saber redactar instrucciones con contexto.

Descripción

Hay documentación que no puede salir de la organización y presupuestos que no admiten pago por uso creciente. Ejecutar el modelo en la propia máquina resuelve ambas cosas, pero abre otras preguntas: qué modelo elegir, qué significa esa retahíla de letras y números del nombre del fichero y por qué el equipo se arrastra o directamente no arranca el modelo.

El curso trabaja las tres herramientas más extendidas y las compara con honestidad: Ollama para servir y automatizar, LM Studio para probar y comparar con interfaz, GPT4All para el escritorio con documentos propios. Se instala, se mide y se elige con criterio, calculando antes de descargar y verificando después con pruebas sobre las mismas preguntas.

Al terminar se sabe montar un servicio local estable y decidir, con números propios, si conviene frente a una API externa. Es el requisito previo para el trabajo con LibreOffice asistido en local, para la gobernanza del uso interno de IA y para los cursos de RAG on-premise y despliegue de modelos afinados.

¿Para quién es este curso?

Administradores de sistemas que deben ofrecer un asistente interno sin enviar datos a terceros.
Perfiles de ingeniería que necesitan inferencia en equipos aislados de la red externa.
Responsables de informática de una PYME que comparan el coste real de local frente a nube.

Disponible

Contenido ya grabado y publicado en el campus. Puedes empezar en cuanto te inscribas.

Inscribirme en el campus Solicitar información

Código: IA-120
Nivel: Intermedio
Público: Desarrollo, Ingeniería / Industria, Empresa / PYME, Administración pública
Entorno: Ollama, LM Studio, GPT4All