Altman: Knapper Speicher gehört ins Rechenzentrum

Er reagierte damit auf die Hoffnung, lokal laufende offene Modelle könnten den Bedarf an Rechenzentren senken. Im Podcast sagte Altman außerdem, die Speicherherstellung sei über lange Zeiträume bisher selten ein gutes Geschäft gewesen. Tom’s Hardware weist darauf hin, dass OpenAIs Hauptgeschäft aus geschlossenen Modellen besteht, die in eigenen Rechenzentren laufen.

Seine Argumentation beruht auf dem Angebot: Speicher sei derzeit knapp und gehöre deshalb dorthin, wo er den Großteil des Tages arbeitet.

Einige Cloud-GPU-Preise stiegen in derselben Woche ebenfalls. Bei unserer Prüfung vom 30. Oktober stieg Runpods On-Demand-Serverless-Preis für eine RTX 5090 von 1,58 $ auf 1,79 $ pro Stunde und der Preis für die H100 von 4,79 $ auf 5,39 $, während die stündlichen Pod-Preise gleich blieben.

Runpods Erhöhung vom 30. Oktober betraf nur die Serverless-Stufe, in der eine Karte zwischen Anfragen brachliegen kann: Eine Serverless-RTX 5090 kostet jetzt 1,79 $ pro Stunde, gegenüber 1,19 $ für dieselbe Karte als Secure-Cloud-Pod, der die Dauernutzung belohnt, für die Altman plädiert.