Semáforo UOL: Atención
Amazon y Google lanzaron versiones de PyTorch para sus propios chips de IA, una noticia que interesa a las pymes que desarrollan software o encargan modelos a proveedores.
Amazon presentó el lunes 19 de octubre TorchNeuron, una versión de PyTorch para sus chips Trainium, y Google respondió el martes 20 con TorchTPU, que hace lo mismo para sus chips TPU. Según informó TechCrunch, ambas empresas buscan que las aplicaciones de IA ya escritas puedan pasar a su nube sin reescribirse. Amazon sostiene que cerca del 85 % de las aplicaciones de IA están escritas con PyTorch.
Qué pasó
PyTorch es una caja de herramientas gratuita y de código abierto (su código es público y cualquiera puede usarlo) con la que los programadores construyen y hacen funcionar modelos de inteligencia artificial. La creó Facebook en 2016 y desde 2022 la administra la Linux Foundation. Muchas de sus funciones se pensaron desde el inicio para los procesadores gráficos de Nvidia, que son el estándar del sector. En la práctica, eso empuja a las empresas a alquilar equipos con chips de Nvidia.
Los dos anuncios buscan cambiar ese punto de partida:
- TorchNeuron (Amazon): permite ejecutar código PyTorch existente en los chips Trainium2 y Trainium3 con un cambio de configuración, según Amazon. Se publica con licencia abierta Apache 2.0. The Next Web informa que entró en beta pública el 20 de octubre y que todavía no admite algunas funciones de PyTorch. Amazon también envía cambios al proyecto PyTorch para que dependa menos de un fabricante concreto.
- TorchTPU (Google): según el blog oficial de Google Cloud del 20 de octubre, ya está disponible como código abierto en GitHub y fue desarrollado junto con el equipo de PyTorch de Meta. Google no lo presenta como beta, aunque sí aclara que su conjunto de asistentes para migrar aplicaciones está «en vista previa» (preview).
En concreto: el mismo programa podría funcionar en chips de tres fabricantes distintos sin escribirse de nuevo.
Por qué importa en Uruguay
El costo de la nube para IA depende en buena medida del chip que se alquila. Si cambiar de chip obliga a reescribir el programa, la empresa queda atada a un proveedor. Si alcanza con un ajuste de configuración, puede comparar precios. Colin Brace, vicepresidente de AWS, dijo a TechCrunch que el objetivo es quitar la dependencia que impedía a los desarrolladores tener una opción real.
Hay que leerlo con cautela. TechCrunch señala que esto no implica que los desarrolladores vayan a abandonar en masa los equipos de Nvidia. Además, ninguno de los anuncios trae precios, y las cifras de rendimiento que se citan provienen de las propias empresas o de sus clientes.
Qué puede hacer
Para la mayoría de las pymes uruguayas, que usan la IA a través de aplicaciones ya armadas, el cambio es indirecto: más competencia en el costo de cómputo. Para las que tienen desarrollo propio o contratan a un proveedor de software, conviene:
- Preguntar a su equipo o proveedor si sus modelos usan PyTorch y en qué nube y chip funcionan hoy.
- Pedir una prueba acotada en Trainium o TPU antes de comprometer presupuesto, teniendo en cuenta que las herramientas son nuevas.
- Comparar el costo total (horas de cómputo, ajustes técnicos y soporte), no solo el precio por hora.
Un ejemplo hipotético: una pequeña empresa de software de Montevideo que ofrece a estudios contables un sistema para clasificar facturas con un modelo propio podría ejecutar ese mismo modelo en otra nube durante una semana y comparar la factura con la actual antes de decidir.
Fuentes:
- TechCrunch: Google se suma a Amazon contra Nvidia
- TechCrunch: Amazon lanza TorchNeuron
- Google Cloud: TorchTPU ya es código abierto
- About Amazon: TorchNeuron en chips Trainium
- The Next Web: TorchNeuron lleva PyTorch a Trainium
Por Sofía Rivero
Deje una respuesta