Nvidias Digits ist ein kleiner KI-Supercomputer für Ihren Schreibtisch

Mit allen Augen darauf Nvidias neue Grafikkarten (und das aus gutem Grund – diese Dinger sind ziemlich leistungsstark), das Unternehmen hat etwas herausgebracht, das eine noch größere Neuigkeit sein könnte: einen persönlichen KI-Supercomputer namens Project Digits (wir nennen ihn von nun an einfach Digits, weil das viel cooler ist).

Digits ist ein kleiner, Mac mini-ähnlicher Personalcomputer, der auf fast jeden Schreibtisch passen sollte. Sie schließen es an eine Tastatur und einen Monitor an, stecken es in eine Steckdose und schon kann es losgehen.

Aber was drin ist, macht es zu etwas ganz Besonderem. Digits wird von Nvidias neuem GB10 Grace Blackwell Superchip angetrieben, der bis zu 1 Petaflop KI-Leistung liefert, und Nvidia hat mit MediaTek zusammengearbeitet, um den Chip energieeffizienter zu machen, was bedeutet, dass für seinen Betrieb die Art von Strom benötigt wird, die man aus einer Standardsteckdose erhält.

Der GB10 ist mit 128 GB RAM und bis zu 4 TB NVMe-Speicher ausgestattet. All dies wird es Entwicklern ermöglichen, große Sprachmodelle (LLMs) mit bis zu 200 Milliarden Parametern auszuführen. Mithilfe der Nvidia ConnectX-Technologie können sie außerdem zwei Digits-Computer verbinden, um Modelle mit bis zu 405 Milliarden Parametern auszuführen.

Das meiste davon macht für Leute, die nicht aktiv in der KI-App-Entwicklung sind, wahrscheinlich keinen großen Sinn. Aber ChatGPT 3.5 hatte beispielsweise 175 Milliarden Parameter (ChatGPT 4 ist viel größer, aber wir kennen die genauen Zahlen nicht), während Metas leistungsstärkstes LLM, Llama 3, 405 Milliarden Parameter hat). Das bedeutet, dass Sie ein sehr leistungsstarkes LLM zu Hause betreiben können, anstatt sich auf die Cloud-Infrastruktur zu verlassen.

„Wenn wir jedem Datenwissenschaftler, KI-Forscher und Studenten einen KI-Supercomputer auf den Schreibtisch stellen, können sie sich engagieren und das Zeitalter der KI gestalten“, sagte Jensen Huang, Gründer und CEO von Nvidia, in einer schriftlichen Erklärung.

Entwickler, die Digits verwenden, haben Zugriff auf die KI-Softwarebibliothek von Nvidia, einschließlich Entwicklungskits, Orchestrierungstools, Frameworks und Modellen, die im Nvidia NGC-Katalog und im Nviia Developer Portal verfügbar sind. Sie haben außerdem Zugriff auf das Nvidia NeMo-Framework und die Nvidia RAPIDS-Bibliotheken.

Die vielleicht größte Neuigkeit hier ist der Preis. Die Figuren werden im Mai ab 3.000 US-Dollar erhältlich sein. Dieses Geld soll einer Vielzahl kleinerer Unternehmen und Forscher zur Verfügung stehen, die damit KI-Apps erstellen und testen.

Wenn das immer noch zu teuer klingt, können Sie es versuchen Jetson von Nvidia. Es handelt sich um einen KI-Heimcomputer für 249 US-Dollar, der im vergangenen Dezember auf den Markt kam und bis zu 8 Milliarden Parameter verarbeiten kann.

Mashable ist live auf der CES 2025! Wir berichten diese Woche über die wildesten und wichtigsten Entwicklungen, also machen Sie bitte weiter checken Sie noch einmal ein bei uns. Möchten Sie ein von Ihnen vertretenes Produkt zur Prüfung durch unsere Teams einreichen, während wir das Beste der CES ermitteln? Hier ist es Weitere Informationen dazu.