Altman diz que memória escassa deve ficar em data centers

Ele respondia à esperança de que modelos abertos rodando localmente reduzissem a necessidade de data centers. Altman também disse no podcast que, até agora, fabricar memória raramente foi um bom negócio no longo prazo. O Tom’s Hardware lembra que o principal negócio da OpenAI são modelos fechados, que rodam em seus próprios data centers.

O argumento dele se apoia na oferta: a memória está escassa agora, disse, então deve ficar onde trabalha a maior parte do dia.

Alguns preços de GPU na nuvem também subiram na mesma semana. Na nossa verificação de 30 de outubro, a tarifa serverless sob demanda da Runpod para uma RTX 5090 subiu de US$ 1,58 para US$ 1,79 por hora, e a da H100, de US$ 4,79 para US$ 5,39, enquanto as tarifas por hora dos Pods ficaram iguais.

O aumento da Runpod em 30 de outubro atingiu só a faixa serverless, em que a placa pode ficar ociosa entre requisições: uma RTX 5090 serverless agora custa US$ 1,79 por hora, contra US$ 1,19 para a mesma placa alugada como Pod no Secure Cloud, que premia o uso em tempo integral defendido por Altman.