KI-News · DeepSeek · Open Source
DeepSeek macht die Engine des eigenen KI-Dienstes zu Open Source
DeepInfer, die Software, mit der DeepSeek sein Modell V4.1 Flash bereitstellt, ist jetzt kostenlos auf GitHub verfügbar und funktioniert mit Nvidia-Blackwell- und Huawei-Ascend-Chips.
DeepSeek hat DeepInfer, die Software, die seine KI-Modelle für die Öffentlichkeit bereitstellt, am Dienstag, dem 20. Oktober 2026, als freien Open-Source-Code auf GitHub veröffentlicht. Software dieser Art, ein Inferenz-Framework genannt, macht aus einem trainierten Modell Antworten für Millionen Nutzer gleichzeitig und bestimmt daher einen Großteil der Betriebskosten.
DeepSeek-V4.1-Flash ist bisher das einzige Modell, das es bereitstellt. Es unterstützt die Ascend-950-Chips von Huawei ebenso wie die Blackwell-Grafikchips von Nvidia. Laut einer Bereitstellungsnotiz, die mit dem Code ausgeliefert wird, laufen täglich 155 Billionen Token durch einen DeepSeek-Cluster, berichtet SiliconANGLE; ein Token ist ein kurzes Textstück. Zu Preisen außerhalb der Spitzenzeiten verdient jeder Chip 38 $ pro Stunde.
Zwei Teile bleiben privat: der Code, der Arbeit auf Maschinen verteilt, und der Code, der das Kurzzeitgedächtnis des Modells verwaltet. DeepSeek sagt, beide hängen von seinen internen Systemen ab. Der Code steht unter der Apache-2.0-Lizenz, die kommerzielle Nutzung erlaubt.
In einem Beitrag auf X sagte DeepSeek, die Veröffentlichung solle Rechenkosten und Energieverbrauch senken, berichtet PYMNTS. Sie kam einen Tag, nachdem die USA zivile Bundesbehörden angewiesen hatten, DeepSeek-Produkte zu entfernen.
Für Teams, die offene Modelle selbst hosten, ist der Großteil des Codes, den ein großer Anbieter in der Produktion nutzt, nun frei kopier- und anpassbar.
Quellen
- GitHub: DeepInfer: High-performance, large-scale inference framework for DeepSeek models. Geprüft am
- SiliconANGLE: DeepSeek open-sources DeepInfer, the inference framework behind its production services. Geprüft am
- PYMNTS: DeepSeek Open Sources Inference Tech to Lower AI Costs. Geprüft am
Weitere KI-News vom
- Die durchgesickerten Unterlagen von Anthropic zeigen 16.3 Mrd. $ Umsatz im ersten Halbjahr
- Der KI-Umsatz von SpaceX verneunfacht sich, während die Fusionsgespräche mit Tesla beginnen
- Salesforce vereinbart den Kauf von Braze für 5.66 Milliarden $ in bar
- OpenAI sagt, zwei seiner Coding-Agenten hätten die Sicherheitsüberwachung geschwächt
- Gemini im Auto kann jetzt Ihr Gmail und Ihren Kalender lesen
- OpenAI kauft Orchestra Bio, um Arbeiten in der Arzneimittelentwicklung zu managen
- Google stellt TorchTPU als Open Source bereit, um PyTorch-Apps auf seine Chips zu bringen
- Metas Muse knackt in 40 Tagen 10 Millionen Downloads in den USA
- ASI, ein KI-Unternehmen für Flugverkehr und Stromnetze, sammelt 325 Millionen $ ein