Google libera TorchTPU: PyTorch en sus chips TPU

Google lo desarrolló junto con el equipo de PyTorch de Meta. Entre los socios figuran los creadores de SGLang y vLLM, dos motores populares que sirven modelos de IA a los usuarios, y Hugging Face, cuyos modelos abiertos ya se cargan directamente en las TPU. Junto con el lanzamiento, Google presentó un conjunto de agentes para TPU que hace la migración por ti y repara lo que falle, informa SiliconANGLE.

El lanzamiento llegó un día después de que Amazon publicara TorchNeuron, que cumple la misma función para sus chips Trainium. Ambos apuntan al mismo hábito: las apps de IA se escriben primero para hardware de Nvidia, lo que mantiene a los clientes con Nvidia.

Para los equipos que pagan por capacidad de cómputo de IA, dos de las mayores nubes ya aceptan el código de PyTorch tal cual, lo que da más margen para comparar precios.