Amazon detiene el desarrollo de chips de inferencia de IA de inferencia para centrarse en chips de entrenamiento de entrenamiento

Amazon ha dejado de desarrollar sus chips de IA de inferencia y, en su lugar, se concentrará en chips entrenados diseñados para capacitar a los modelos de IA.La compañía cree que este cambio proporciona un camino más fuerte para competir con el líder de AI Chip Nvidia.

Desde que anunció su entrada en el mercado de chips de IA en 2018, Amazon AWS ha desarrollado chips de inferencia para inferencia y chips de entrenamiento para capacitar a los modelos de IA.

Rahul Kulkarni, director de Compute en Amazon AWS, declaró: “Las dos líneas de productos convergerán.Nos centraremos en el entrenamiento para ofrecer un rendimiento de inferencia y capacitación ".

La inferentia fue diseñada para realizar cálculos más pequeños a costos más bajos.Sin embargo, a medida que la IA generativa continúa evolucionando, tanto el entrenamiento como la inferencia requieren cada vez más una mayor capacidad computacional.Los beneficios de usar chips separados para estas tareas están disminuyendo.

Entraste, en contraste, ofrece una mayor capacidad de memoria y admite una gama más amplia de formatos de datos.También incluye mecanismos para el cálculo rápido y la comunicación al manejar conjuntos de datos masivos en múltiples servidores.

En su conferencia anual de tecnología en Las Vegas, Amazon anunció el lanzamiento del chip de Entrenium2.La compañía también reveló planes para lanzar el chip de Entrenium3 en la segunda mitad de 2025. Entrenium3 se fabricará utilizando un proceso avanzado de 3NM, y se espera que el rendimiento informático duplique el de Entrenium2.

Amazon tiene como objetivo desafiar el dominio de NVIDIA en el mercado de chips de IA, donde NVIDIA actualmente posee aproximadamente el 90% de la participación mundial.Amazon ha estado promoviendo agresivamente Trabajo2 a los clientes de la nube, enfatizando sus menores costos operativos en comparación con los productos NVIDIA.

Apple ha anunciado que utilizará chips de Entrenium2 para su desarrollo de IA.Además, la startup de IA con sede en EE. UU. Anthrope, que ha recibido una inversión de $ 8 mil millones de Amazon, está adquiriendo cientos de miles de chips de Entrenium2 para ayudar a desarrollar sus modelos de IA generativos.