Alquilar GPUs en la nube para proyectos de IA sale muy caro. Lo soluciona una vez más la 'repatriación a la nube'

Gumlet es una empresa que proporciona una plataforma SaaS (Software-as-a-Service) para procesar, almacenar y distribuir vídeo vía streaming. Normalmente lo hacían contratando infraestructura en Amazon Web Services, pero se dieron cuenta de algo: estaban pagando una fortuna, y quizás había una opción. Una que cada vez está más de moda.

Mejor montamos nuestros servidores. Aditya Patadia, fundador y CEO de Gumlet, explicaba cómo habían decidido crear sus propios servidores con sus propias GPUs en lugar de usar los servicios de AWS.

La historia. En Gumlet, contaba, sirven más de 2.500 millones de imágenes y vídeos al día que además pasan por una etapa de procesado. Las imágenes se siguen procesando con procesadores convencionales, pero para los vídeos la cosa era distinta.

Las GPUs pueden ser maravillosas. Para procesar vídeos comenzaron a usar GPUs en 2020. Usaron la arquitectura CUDA para sacar provecho del procesado de la GPU para transcodificar vídeo, y además podían ejecutar modelos de aprendizaje automático (machine learning) en esas mismas tarjetas gráficas.

Pero los costes estaban disparándose. Alquilar servidores con GPUs se empezó a volver muy caro. La demanda de potencia de GPU se multiplicó por 8 desde que empezó 2024, y comenzaron a pensar que tenía que haber una alternativa más asequible. Tras ver movimentos de repatriación a la nube como los que ha impulsado David Heinemeier Hansson o los responsables de Ahrefs, tomaron la decisión de montarse sus propios servidores.

Un servidor estupendo. Como explicaba Patadia, el servidor que crearon acabó estando compuesto por un procesador AMD 5700x en una placa base ASUS B450MA, 64 GB de RAM DDR4, 512 GB de SSD y lo más importante, una NVIDIA RTX4000 ADA SFF. Todo ello montado en racks 2U con una fuente de alimentación redundante.

Precio de tener vs precio de alquilar. El coste de cada servidor es de unos 2.300 dólares, una cifra que no es despreciable pero que desde luego parece mucho más atractiva que los 703 dólares que cuesta al mes una instancia (máquina) comparable en AWS, la g6.2xlarge.

Un coworking como centro de datos. Las necesidades de esta empresa eran relativamente modestas, y necesitaban espacio para 20 de estos servidores. En otros casos es factible alquilar ese espacio en centros de datos, pero con esa pequeña implantación acabaron por elegir otra opción: su espacio de coworking, contratado con WeWork, daba precisamente opción para una solución de hosting. Eso permitió que tuvieran todos sus servidores al lado de su oficina con fuentes de alimentación redundantes, refrigeración y conexión a internet. Bingo.

Imagen | GBPublic_PR

En Xataka | Microsoft lleva años ofreciendo Office en la nube bajo suscripción. Ahora quiere hacer lo mismo con Windows