Hardware, software, set up for you.Hardware, Software, fertig eingerichtet.
Every company is different, so the hardware is too. A small office might need a single RTX PRO 5000; a large company maybe several RTX PRO 6000 or an NVIDIA GH200 Grace Hopper Superchip. GPU and RAM prices swing heavily, so I size each system to what the customer actually needs — and set up the models, agents and tools on top.
Jedes Unternehmen ist anders, also auch die Hardware. Ein kleines Büro braucht vielleicht eine einzelne RTX PRO 5000, ein großes Unternehmen eher mehrere RTX PRO 6000 oder einen NVIDIA GH200 Grace Hopper Superchip. GPU- und RAM-Preise schwanken stark, deshalb lege ich jedes System auf das aus, was der Kunde wirklich braucht — und richte Modelle, Agenten und Tools darauf ein.
SmallKlein1× RTX PRO 5000
LargeGroßseveral RTX PRO 6000mehrere RTX PRO 6000
HeavySehr große.g. NVIDIA GH200z. B. NVIDIA GH200
LaunchStartlate 2029Ende 2029
Legal formRechtsformUG (haftungsbeschränkt)
ComplianceDatenschutzDSGVO / GDPRDSGVO-konform
Runs onLäuft aufyour own hardwareeigener Hardware
Reference buildReferenz-Build
My current work serverMein aktueller Arbeits-Server
This is the server I built at work — not the product. Future systems get sized to each customer.Das ist der Server, den ich im Job gebaut habe — nicht das Produkt. Künftige Systeme werden pro Kunde ausgelegt.
~250tok/s
~5 sfirst tokenerstes Token
72 GBVRAM
1big model at a timegroßes Modell gleichzeitig
gpt-oss:120b · single user · generation speedgpt-oss:120b · ein Nutzer · Generierungsgeschwindigkeit
One NVIDIA RTX PRO 5000 runs gpt-oss-120b fully local — fast enough to be the everyday tool for coding agents, documents and support work, with no data leaving the office.
Eine NVIDIA RTX PRO 5000 betreibt gpt-oss-120b komplett lokal — schnell genug als Alltagswerkzeug für Coding-Agenten, Dokumente und Support-Arbeit, ohne dass Daten das Büro verlassen.
Why 120B fits: gpt-oss-120b is a Mixture-of-Experts model — only a small part of it is active per token. A dense model tops out around 70B on this card. Most of the time we use MoE models.
Warum 120B passt: gpt-oss-120b ist ein Mixture-of-Experts-Modell — pro Token ist nur ein kleiner Teil aktiv. Ein dichtes Modell ist auf dieser Karte bei etwa 70B am Limit. Meistens nutzen wir MoE-Modelle.
