Intel startet offiziell Gaudi3 AI Chip: langsamer als Nvidia H100, aber zu geringeren Kosten

Intel hat seinen Gaudi3 -Beschleuniger offiziell für KI -Workloads gestartet.Während der neue Chip langsamer ist als der hochpopuläre H100- und H200 -GPUs von NVIDIA (für AI und HPC ausgelegt), setzt Intel auf Gaudi3s Erfolg, indem er ihn zu einem niedrigeren Preis und mit niedrigeren Gesamtkosten für Eigentum (TCO) anbietet.

Der Gaudi3-Prozessor von Intel bietet zwei Chips mit 64 Tensor-Verarbeitungskerne (TPCs) mit 256x256 MAC-Strukturen mit FP32-Akkumulatoren, acht Matrix-Multiplikationsmotoren (MMEs) mit 256-Bit-breitBandbreite von 19,2tb/s.Darüber hinaus integriert Gaudi3 24 200 -GBE -Netzwerkschnittstellen und 14 Medienmotoren, die in der Lage sind, H.265, H.264, JPEG und VP9 zu bearbeiten, um die Vision -Verarbeitung zu unterstützen.Der Prozessor wird mit 128 GB HBM2E -Speicher geliefert, die in acht Speicherstapel unterteilt sind und eine erhebliche Bandbreite von 3,67 TB/s liefern.

Im Vergleich zu Gaudi2 stellt Gaudi3 von Intel ein erhebliches Upgrade dar.Gaudi2 hatte 24 TPCs, zwei MMEs und 96 GB HBM2E -Speicher.Es scheint jedoch, dass Intel seine TPCs und MMES optimiert hat, da der Gaudi3 -Prozessor nur FP8 -Matrixoperationen sowie Bfloat16 -Matrix- und Vektoroperationen unterstützt (Unterstützung für FP32, TF32 und FP16).

In Bezug auf die Leistung kann Gaudi3 Ansprüche bis zu 1.856 BF16/FP8 -Matrix -Tflops und bis zu 28,7 BF16 -Vektor -Tflops mit einem TDP von rund 600W liefern.Im Vergleich zum H100 von NVIDIA ist die BF16 -Matrixleistung von Gaudi3 geringfügig niedriger (1.856 gegenüber 1.979 Tflops), seine FP8 -Matrixleistung ist halb so schnell (1.856 vs. 3.958 Tlops), und seine BF16 -Vektorleistung ist deutlich niedriger (28,7 VS.Tflops).

Wichtiger als Rohspezifikationen ist die praktische Leistung von Gaudi3.Es muss gegen AMDs Instinct MI300 -Serie sowie die H100 von NVIDIA und die kommenden B100/B200 -Chips antreten.Dies bleibt abzuwarten, so wie viel von Software und anderen Faktoren abhängt.Vorerst hat Intel Folien vorgestellt, in denen behauptet wird, dass Gaudi3 einen erheblichen Wertvorteil gegenüber dem H100 von NVIDIA bietet.

Anfang dieses Jahres erklärte Intel, dass ein Gasped -Kit mit acht Gaudi3 -Chips 125.000 US -Dollar kosten würde, was auf rund 15.625 USD pro Chip führt.Im Vergleich dazu verkauft der NVIDIA H100 derzeit für 30.678 US -Dollar, sodass Intel eindeutig darauf abzielt, seine Konkurrenten auf den Preis zu unterbieten.Angesichts des Blackwell-basierten B100/B200-GPUs von NVIDIA, der möglicherweise massive Leistungssteigerungen anbietet, bleibt abzuwarten, ob Intel seinen Wettbewerbsvorteil beibehalten kann.