IA local: 3060 rinde, P102-100 flojea

La respuesta corta es que el salto importante no viene de “un SO mágico”, sino de una pila bien soportada y de tener VRAM suficiente; la 3060 de 12 GB ya es una base seria para local LLMs. La P102-100 suena más a apuesta de minería con soporte irregular que a compra inteligente para un setup que quieres usar a diario.

• –Linux suele ser la vía más cómoda para CUDA, Ollama y frontends como Open WebUI, pero no es un requisito absoluto si tu stack ya funciona en TrueNAS Scale.
• –Para chat local y uso tipo Claude Code, el cuello de botella real es la VRAM y la calidad del modelo, no solo el sistema operativo.
• –Una 3060 de 12 GB ya puede mover muy bien modelos 7B y 14B cuantizados; con RAM de sistema puedes probar modelos mayores, aunque más lento.
• –La P102-100 puede parecer barata, pero su valor depende mucho del estado físico, consumo, compatibilidad y soporte; a menudo compensa más ahorrar para una GPU con mejor ecosistema.
• –Si el objetivo es productividad real, suele rendir más afinar Open WebUI, Ollama y el modelo elegido que añadir hardware viejo y dudoso.