Instalé IA en un servidor local con una gráfica de 11 años... ¿Funcionará? Mira el resultado
Ollama | IA Local | GPU Legacy | Docker Instalé IA en un servidor local con una gráfica de 11 años... ¿Funcionará? Mira el resultado Ollama + Open WebUI sobre hardware real: Intel i5-6600K, GTX 960 con 4 GB de VRAM y Ubuntu 24.04. Un experimento práctico con resultados inesperadamente buenos. ¿De qué va este experimento? En el homelab hay una máquina que lleva años encendida haciendo de servidor de ficheros y proxy inverso. Tiene un Intel Core i5-6600K y una NVIDIA GeForce GTX 960 de 4 GB de VRAM lanzada en 2015. La pregunta era inevitable: ¿puede esa GPU correr modelos de lenguaje locales de forma útil? Ollama es un motor de inferencia local que permite descargar y ejecutar LLMs con un solo comando. Combinado con Open WebUI —una interfaz web tipo ChatGPT— ofrece un asistente de IA privado, si...