El fabricante QNAP acaba de lanzar el nuevo servidor NAS especializado en potenciar la IA local como nunca antes habíamos visto. El nuevo QAI-h1290FX incorpora un hardware de primer nivel para hacer frente a los retos de las nuevas herramientas de IA, las cuales necesitan una gran potencia de cálculo, y también un rápido y gran almacenamiento para gestionar todos los modelos LLM que se actualizan cada semana. Si quieres conocer todos los detalles técnicos sobre este modelo que acaban de lanzar, a continuación, tenéis todos los detalles.
Este servidor NAS está diseñado para actuar como «Edge AI«, es decir, como NAS que se encargará de gestionar las cargas de trabajo de los diferentes modelos de lenguaje grandes (LLM) y también de IA generativa. El fabricante QNAP siempre ha dado mucha importancia a lo local, y buena muestra de ello es este nuevo equipo que nos permitirá hacer funcionar los modelos locales más avanzados que hay hasta ahora, los cuales requieren de un hardware muy potente para que se puedan usar sin problemas.
Principales características
Este nuevo servidor NAS incorpora un potentísimo procesador AMD EPYC 7302P, tiene 16 núcleos y 32 hilos a una velocidad base de 3.0GHz de velocidad, y en modo turbo puede alcanzar hasta los 3.3GHz. Este equipo es ideal para gestionar tareas muy pesadas, por lo que es perfecto para inferencia de IA, virtualización y cargas de trabajo en paralelo. El equipo permite instalar hasta 1TB de memoria RAM DDR4 ECC como máximo (8 módulos de 128GB cada uno de ellos).
La IA requiere de una NPU potente, o bien de una GPU potente para acelerar todo el procesamiento. En este caso, el NAS permite instalar una GPU NVIDIA RTX PRO 6000 (basada en la arquitectura Blackwell), la cual dispone de 96GB de memoria de GPU GDDR7 ECC, y usa una interfaz PCIe 5.0 x16 para tener el mayor ancho de banda. Esta tarjeta gráfica dispone de compatibilidad con aceleración CUDA (tiene 24.064 núcleos), TensorRT (tiene 752 núcleos) y Transformer Engine (tiene 188 núcleos), por lo que tendremos un gran rendimiento para la inferencia de LLM local, para la generación y reconocimiento de imágenes, así como para cargas de trabajo de Deep Learning. En total, esta tarjeta cuenta con 125TFLOPS FP32, y hasta 4000 TOPS de IA.
El almacenamiento de este NAS consta de un total de 12 ranuras para instalar unidades SSD U.2 NVMe/SATA, esto nos permitirá obtener una gran velocidad de lectura y escritura, haciendo que la ejecución de modelos de IA funcione con total fluidez, así como para compartir archivos y carpetas en la red local. Para tener el mejor rendimiento en la red local, cuenta con doble puerto a 25Gbps, no obstante, también tenemos 2 puertos 2.5G Multigigabit, y la posibilidad de ampliar los puertos USB y puertos de red mediante tarjetas de expansión conectadas a los puertos PCIe disponibles.
| Componente | Especificación | Beneficio IA |
|---|---|---|
| Procesador | AMD EPYC 7302P (16 núcleos/32 hilos) | Paralelismo para virtualización y contenedores |
| GPU (Opcional) | NVIDIA RTX PRO 6000 (Blackwell) | 96GB VRAM GDDR7 para LLM grandes |
| RAM | Hasta 1TB DDR4 ECC | Carga de modelos complejos en memoria |
| Almacenamiento | 12 bahías SSD U.2 NVMe | Velocidad extrema para datasets de entrenamiento |
| Red | Doble puerto 25Gbps + 2.5G Multigig | Transferencia rápida de datos en clúster |
En la era de la IA, también es fundamental el software, en este caso, contamos con un sistema operativo QuTS hero con el popular sistema de archivos ZFS para proteger la integridad del dato de manera óptima. Otras características muy importantes son las siguientes:
- Soporte completo de Docker y LXD a través de Container Station, podemos asignar la GPU a contenedores. De esta forma, los usuarios podrán desplegar sus herramientas de IA fácilmente, a través del centro de aplicaciones de IA integrado, y asignar los recursos de GPU correspondientes sin necesidad de configurar nada por comandos en SSH.
- Compatibilidad con Virtualization Station para desplegar máquinas virtuales completas, y poder usarlas de forma intensiva. También podemos pasar la GPU directamente a la máquina virtual para acelerar las tareas.
- Podemos ejecutar asistentes de chat basados en IA, usar los motores de búsqueda de documentos, y mucho más.
El sistema operativo viene con diferentes herramientas de IA precargadas, destacan AnythingLLM, OpenWebUI y Ollama, lo que permitirá a las empresas desplegar modelos como Llama 3 de forma local y privada sin costes de API en la nube. Además, se están integrando otras adicionales como Stable Diffusion, ComfyUI, n8n y vLLM para ampliar las funcionalidades.
| Software | Función principal |
|---|---|
| AnythingLLM / OpenWebUI | Interfaz para gestión de chatbots y documentos locales. |
| Ollama | Ejecución simplificada de modelos LLM (ej. Llama 3). |
| Container Station | Gestión de contenedores Docker/LXD con soporte GPU. |
| Virtualization Station | Máquinas virtuales con passthrough de GPU. |
Como podéis ver, QNAP se ha lanzado de lleno al mundo de la IA en local con este NAS que incorpora un hardware tope de gama. Aunque QNAP aún no ha confirmado el precio oficial, su configuración con procesador AMD EPYC y GPU RTX PRO 6000 lo sitúa claramente en la gama empresarial, con un coste estimado que superará los 15.000€.