MEXT: la solución de AMD para enfrentar la demanda de memoria para IA

AMD anunció la integración de MEXT a su portafolio de chips EPYC,una solución de software diseñada para atender el cuello de botella de memoria que enfrentan múltiples sistemas destinados a la Inteligencia Artificial (IA). La compañía promete que esta tecnología permitirá reducir hasta la mitad los costos de memoria,manteniendo al mismo tiempo hasta el 90% del rendimiento en sistemas de IA.

Conforme las empresas avanzan hacia la adopción de Agentes de IA,el acceso a memoria se ha convertido en un componente crítico para sistemas que ejecutan tareas cada vez más complejas. La DRAM puede representar entre el 60% y el 90% del costo total de los sistemas con gran capacidad de memoria.

Gary Smerdon,VP corporativo de desarrollo de negocios de AMD,y fundador de MEXT,recordó que el costo de la DRAM había caído dramáticamente gracias a la Ley de Moore (tendencia que describe la integración de mayor número de transistores por circuito),hasta los 8 dólares por GB en 2012 logrando estabilizarse en años posteriores. Sin embargo,la manufactura de semiconductores ha alcanzado nuevos límites físicos que dificultan seguir reduciendo el tamaño de los transistores.

Entre un menor número de empresas con capacidad de fabricar semiconductores de vanguardia,más la creciente demanda de estos componentes para sistemas de IA,el mercado atraviesa actualmente por un periodo de escasez de memoria que ha elevado los precios hasta un rango de 50 a 60 dólares por GB en sistemas de gran escala.

A esto se suman problemas de eficiencia en la que la escasa y costosa memoria no siempre se utiliza a todo su potencial. Por ejemplo,AMD citó que Azure reportó que el 50% de sus máquinas virtuales nunca accede al 50% de su memoria asignada,mientras que Meta identificó que entre el 50% y el 80% de las páginas de memoria en aplicaciones optimizadas permanecen inactivas durante cinco minutos o más.

La innovación de MEXT

La propuesta básica de MEXT,compañía adquirida por AMD en junio del 2026,es ofrecer una solución que permita aprovechar la memoria flash NVMe como extensión de la DRAM,lo que ayudaría a las empresas a lidiar con la escasez y crecientes costos de la memoria.

La memoria flash,utilizada principalmente para almacenamiento de datos,es aproximadamente 50 veces más económica y consume 30 veces menos energía por bit,pero los sistemas evitan utilizarlo como memoria RAM debido a que puede llegar a ser 500 veces más lento.

Tradicionalmente,un sistema de cómputo aprovecha la velocidad de la DRAM para almacenar los datos que el procesador requiere en tiempo real (medido en nanosegundos). Cuando la memoria se satura,ciertos datos se intercambian con unidades de almacenamiento como SSD o NAND Flash. El problema radica en que estas tecnologías operan a una velocidad miles de veces menor que la RAM,lo que provoca errores de página (page faults) que congelan los ciclos de procesamiento mientras el sistema espera a que el dato sea recuperado del disco.

Para resolver esta brecha de latencia,MEXT utiliza Inteligencia Artificial que identifica páginas de memoria “frías” en la DRAM y las transfiere de forma transparente al flash,prediciendo además cuáles páginas serán necesarias próximamente para devolverlas a la DRAM antes de que se requieran. El objetivo es que el flash funcione como una extensión invisible de la memoria RAM,sin afectar el rendimiento de las aplicaciones ni requerir cambios de hardware o software.

La solución se compone de tres elementos: un driver para Linux,un motor de IA que predice el uso futuro de páginas de memoria (de forma similar a cómo un modelo de lenguaje predice palabras,pero aplicado a páginas),y RAM View,una herramienta opcional que ofrece visibilidad en tiempo real sobre la utilización de la memoria. El entrenamiento del motor de IA toma menos de un segundo en un solo núcleo EPYC,sin necesidad de GPU.

Resultados en casos de uso reales

En pruebas con Agentes de IA según AMD,un entorno concurrente de cinco agentes mantuvo el 99% del rendimiento utilizando la mitad de la DRAM combinada con MEXT. Incluso con cargas de trabajo intensivas en memoria,el sistema conservó el 90% del rendimiento,y en configuraciones con 75% menos DRAM se alcanzó hasta un 85% de eficiencia.

En el sector de diseño electrónico (EDA),pruebas con Synopsys PrimeTime en sistemas EPYC de sexta generación mostraron que reducir la DRAM a la mitad mantuvo el 95% del rendimiento. En un clúster Spark de tres nodos en Azure,la mitad de DRAM con MEXT conservó el 99% del rendimiento original.

Directivos de la compañía destacaron en particular que un sistema Azure HX-series con 1.4 TB de DRAM,dos trabajos de PrimeTime tardaban 9.3 horas en completarse. Con la capacidad adicional que ofrece MEXT,fue posible ejecutar cuatro trabajos simultáneos,logrando un incremento de aproximadamente 40% en throughput sobre el mismo hardware.

Internamente,AMD también implementó la solución en su propia infraestructura de TI. La compañía reveló que un despliegue inicial de 145 sistemas evitó aproximadamente 5 millones de dólares en costos de DRAM.

Despliegue y adopción

MEXT puede implementarse en entornos on-premise,en la Nube,con máquinas virtuales,bare metal (servidor sin sistema operativo) o contenedores,tanto en nuevas instalaciones como en infraestructura EPYC existente. Según AMD,esta solución daría a los clientes la opción de adquirir menos DRAM —por ejemplo,1 TB en lugar de 2 TB— complementándola con MEXT y flash,o bien expandir la capacidad efectiva de memoria hasta tres o cuatro veces,según la configuración.

En cuanto a su despliegue,AMD detalló que en una primera fase se trabajará con el fabricante de equipos Hewlett-Packard Enterprise (HPE),la cual contará con sistemas EPYC “MEXT-ready”,equipados con núcleos suficientes y unidades NVMe. En la segunda fase,se espera que los sistemas HPE incluyan licencias de MEXT y RAM View preinstalados.