Amazon desafía la ventaja de software de Nvidia con una nueva herramienta para sus propios chips de IA

Qué ocurrió

Amazon ha presentado TorchNeuron, un nuevo software que actúa como intermediario entre PyTorch y sus chips Trainium, permitiendo a los desarrolladores utilizar su código existente con mínimas modificaciones. Este lanzamiento se produce tras un periodo de beta privada y se abrirá a todos los desarrolladores como beta pública, además de ser liberado como software de código abierto.

Los datos clave

TorchNeuron simplifica el proceso de adaptación del código de PyTorch para que funcione en los chips Trainium, que son parte de la infraestructura de Amazon Web Services (AWS). Hasta ahora, los desarrolladores debían modificar su código para utilizar interfaces específicas de los chips de Amazon; sin embargo, con TorchNeuron, el mismo código puede ejecutarse tras un cambio básico de configuración. Este software se lanzará oficialmente en el marco de la Conferencia PyTorch en San José, California.

La dominación de Nvidia en el mercado de chips de IA se debe en parte a la popularidad de su plataforma CUDA, lo que ha hecho que muchas empresas sean reacias a cambiar a otras soluciones debido al alto costo en tiempo y recursos que esto implica. Con TorchNeuron, Amazon busca facilitar la transición y ampliar el uso de sus chips.

Lo que aún no se sabe

No se detallan las métricas específicas sobre el rendimiento de TorchNeuron en comparación con las soluciones de Nvidia, ni se menciona cómo reaccionarán los desarrolladores que han estado utilizando la tecnología de Nvidia. Además, no se especifican los planes a largo plazo de Amazon para la evolución de Trainium y su software asociado.

Un ejemplo concreto

Deepgram, una startup de San Francisco que desarrolla inteligencia artificial para el procesamiento de audio, ha reportado que el uso de Trainium les permite procesar aproximadamente un 60% más de audio por dólar en comparación con su configuración actual basada en GPU. Además, el equipo de Prime Video de Amazon ha utilizado TorchNeuron para desarrollar Prime 360, un sistema que reconstruye jugadas de la NBA en 3D para ofrecer nuevas perspectivas en las repeticiones.

Lectura final

El lanzamiento de TorchNeuron por parte de Amazon representa un paso significativo en la competencia por el dominio del mercado de chips de IA, donde Nvidia ha tenido una posición predominante. Al facilitar la transición de desarrolladores hacia sus chips Trainium, Amazon podría cambiar la dinámica del sector, promoviendo una mayor diversidad en las soluciones de hardware utilizadas para el desarrollo de inteligencia artificial.