Meta ha firmado un acuerdo para desplegar procesadores AWS Graviton a gran escala. El acuerdo marca una expansión significativa de una asociación de larga data entre las dos empresas, mientras Meta construye su próxima generación de IA.
El despliegue comienza con decenas de millones de núcleos Graviton, con la flexibilidad de expandirse a medida que las capacidades de IA de Meta crecen. El acuerdo refleja un cambio en la forma en que se construye la infraestructura de IA: mientras que las GPU siguen siendo esenciales para entrenar modelos grandes, el auge de la IA agéntica está creando una demanda masiva de cargas de trabajo intensivas en CPU razonamiento en tiempo real, generación de código, búsqueda y orquestación de tareas de múltiples pasos. Graviton5 está diseñado específicamente para estas cargas de trabajo, brindando a Meta la potencia de procesamiento para ejecutarlas de manera eficiente a escala.
Los chips impulsarán diversas cargas de trabajo en Meta, incluyendo el soporte a los esfuerzos de IA de la empresa. Ese trabajo requiere una infraestructura capaz de manejar miles de millones de interacciones mientras coordina flujos de trabajo complejos de agentes de múltiples pasos exactamente el tipo de trabajo intensivo en CPU para el que Graviton está diseñado.
## Los chips AWS Graviton impulsando cargas de trabajo de IA
A medida que las organizaciones adoptan cada vez más la IA agéntica sistemas autónomos que pueden razonar, planificar y completar tareas complejas la demanda de infraestructura de cómputo de alto rendimiento y eficiencia energética nunca ha sido mayor. Meta está construyendo a la vanguardia de la IA agéntica, y su amplio despliegue de Graviton refleja una realidad simple: las cargas de trabajo agénticas como la generación de código, el razonamiento en tiempo real y el entrenamiento de modelos de frontera son intensivas en CPU, y los chips diseñados específicamente son la forma más eficiente de impulsarlas.
El chip Graviton5 cuenta con 192 núcleos y una caché cinco veces más grande que la generación anterior, lo que reduce los retrasos en la comunicación entre esos núcleos hasta en un 33%. Esto significa un procesamiento de datos más rápido con mayor ancho de banda requisitos clave para los sistemas de IA agéntica que necesitan razonar continuamente y ejecutar tareas de múltiples pasos.
Graviton está construido sobre el AWS Nitro System, que utiliza hardware y software dedicados para ofrecer alto rendimiento, alta disponibilidad y alta seguridad. El Nitro System permite instancias bare-metal para acceso directo al hardware, al tiempo que proporciona los mismos dispositivos familiares Elastic Network Adapter (ENA) y Amazon Elastic Block Store (Amazon EBS) que permiten a Meta ejecutar sus propias máquinas virtuales sin comprometer el rendimiento.
La gama de instancias Graviton5 también es compatible con el Elastic Fabric Adapter (EFA), que permite comunicación de baja latencia y alto ancho de banda entre instancias. Esto es esencial para las cargas de trabajo de IA agéntica de Meta, donde las tareas a gran escala necesitan distribuirse entre muchos procesadores trabajando en coordinación.
Como cliente de larga data de AWS, Meta ha confiado en la infraestructura en la nube altamente escalable y segura de AWS para impulsar sus negocios globales.
> «No se trata solo de chips; se trata de brindar a los clientes la base de infraestructura, así como los servicios de datos e inferencia, para construir una IA que comprenda, anticipe y escale de manera eficiente a miles de millones de personas en todo el mundo», dijo Nafea Bshara, vicepresidente e ingeniero distinguido de Amazon. «La asociación ampliada de Meta, desplegando decenas de millones de núcleos Graviton, demuestra lo que sucede cuando se combina silicio diseñado específicamente con la pila completa de IA de AWS para impulsar la próxima generación de IA agéntica.»
> «A medida que escalamos la infraestructura detrás de las ambiciones de IA de Meta, diversificar nuestras fuentes de cómputo es un imperativo estratégico. AWS ha sido un socio de nube de confianza durante años, y expandirnos a Graviton nos permite ejecutar las cargas de trabajo intensivas en CPU detrás de la IA agéntica con el rendimiento y la eficiencia que necesitamos a nuestra escala», dijo Santosh Janardhan, jefe de infraestructura de Meta.
- Beneficios de eficiencia energética de Graviton
AWS Graviton5 está construido con tecnología de chips de 3 nanómetros un proceso de fabricación que produce procesadores más pequeños y eficientes. Debido a que AWS diseña sus chips desde cero y controla todo el proceso, desde el diseño del chip hasta la arquitectura del servidor, puede optimizar el rendimiento y la eficiencia de maneras que los procesadores comerciales estándar no pueden igualar.
El resultado es una infraestructura que ofrece un rendimiento superior mientras mantiene una eficiencia energética líder, ayudando a Meta a perseguir ambiciosos objetivos de IA mientras se mantiene en línea con las metas de sostenibilidad. Graviton5 ofrece hasta un 25% mejor rendimiento que la generación anterior.
A medida que la demanda de cómputo para IA crece en toda la industria, la eficiencia de la infraestructura subyacente se vuelve cada vez más importante tanto para gestionar costos como para reducir el impacto ambiental.
El acuerdo señala un nuevo capítulo en la forma en que se construye la infraestructura de IA a gran escala y cómo los chips diseñados específicamente como Graviton pueden ayudar a empresas como Meta a ofrecer experiencias más inteligentes y personalizadas a miles de millones de personas en todo el mundo.