Cómo elegir un servidor para IA

Un servidor para inteligencia artificial no se elige por catálogo como un portátil: se configura. Procesador, número y tipo de GPU, memoria, discos, red y garantía cambian el rendimiento y el precio.

Esta guía recorre las decisiones en orden, con los servidores Lenovo ThinkSystem y ThinkEdge del catálogo como referencia.

Actualizado el

1. La carga de trabajo

Todo parte de aquí: entrenar modelos pide muchas GPU interconectadas; ponerlos a responder (inferencia) pide menos GPU pero estabilidad; bases de datos en memoria como SAP HANA piden terabytes de RAM. Lo explicamos en entrenamiento o inferencia.

2. Las GPU: cuántas y de qué ancho

Las tarjetas GPU vienen de ancho simple (ocupan una ranura, consumen menos y sirven para inferencia y video) o de doble ancho (ocupan dos ranuras y tienen más potencia y memoria). Por eso un mismo servidor admite, por ejemplo, 8 de ancho simple o 3 de doble ancho.

Para entrenamiento a gran escala están las GPU NVIDIA HGX, montadas en una placa propia y unidas por NVLink, como en el ThinkSystem SR680a V3.

3. El formato y el espacio en rack

La altura se mide en unidades de rack (U, de 44,45 mm). Más altura suele significar más GPU y mejor refrigeración por aire:

4. La memoria del sistema

Además de la memoria de las GPU, el servidor tiene su propia RAM DDR5. Para IA suele bastar con la de un servidor de 2U; para bases de datos en memoria o SAP HANA, los servidores de gran memoria como el ThinkSystem SR850 V3 y el ThinkSystem SR860 V3 llegan a 16 TB con hasta 4 procesadores.

5. Refrigeración y entorno

  • Por aire: la mayoría de servidores del catálogo; necesitan un centro de datos o cuarto técnico con climatización.
  • Por agua: el ThinkSystem SD665-N V3 usa Lenovo Neptune, refrigeración directa por agua con agua de entrada de hasta 45 °C, para centros de datos muy densos.
  • Fuera del centro de datos: el ThinkEdge SE455 V3 es de fondo corto, opera de -5 °C a 55 °C y se bloquea ante intrusión, para plantas, tiendas o sedes remotas.

6. Garantía y soporte

Cada servidor se ofrece en varias referencias (machine types) de Lenovo, que cambian la garantía de 1 o 3 años; el servicio en sitio al siguiente día hábil es opcional. Para cargas críticas conviene la garantía más larga.

Lo que necesitamos para cotizar

  1. Qué vas a hacer: entrenar, inferencia, virtualización o bases de datos.
  2. Qué modelos o aplicaciones vas a correr y cuántos usuarios tendrán.
  3. Dónde va el servidor: centro de datos, cuarto técnico o sede remota.
  4. Si ya tienes una GPU o una configuración en mente.

Con eso te proponemos la configuración por WhatsApp. También puedes ver todo el catálogo de servidores para IA.

Preguntas frecuentes

¿Qué significa 1U, 2U u 8U?

Es la altura del servidor en unidades de rack: 1U mide 44,45 mm. Un servidor de 2U ocupa el doble de espacio en el rack que uno de 1U, y a cambio admite más GPU, discos y refrigeración.

¿Intel Xeon o AMD EPYC?

Los dos sirven para IA, porque el trabajo pesado lo hacen las GPU. El catálogo tiene opciones con ambos; la elección depende del software, las licencias y la configuración de memoria que necesites.

¿Qué es una GPU de doble ancho?

Una tarjeta que ocupa dos ranuras del servidor. Suele tener más potencia y memoria que una de ancho simple, y por eso caben menos en el mismo servidor.