Alveo-Accelerator: Xilinx hat Beschleunigerkarten für künstliche Intelligenz
Der FPGA-Spezialist Xilinx verkauft drei Alveo-Modelle als Beschleuniger für maschinelles Lernen, etwa Inferencing. Ein erster Partner ist Dell EMC, ein System schaffte vor einigen Wochen gar einen Weltrekord.
Xilinx hat sein Portfolio aus Alveo-Accelerator-Karten erweitert: Neben den im Oktober 2018 vorgestellten U200- und U250-Modellen kam mit dem U280 ein weiteres hinzu. Die PCIe-Beschleuniger basieren allerdings nicht auf den hauseigenen Versal-FPGAs mit 7-nm-Technik, sondern auf den älteren Zynq Ultrascale+ im 16-nm-Verfahren.
Die Alveo U280 nutzt einen Zynq Ultrascale+ mit 8 GByte HBM2-Speicher für eine sehr hohe lokale Bandbreite und zusätzliche 32 GByte an ECC-geschütztem DDR4-Speicher, zudem unterstützt die Karte noch PCIe Gen4x8 und den CCIX-Interconnect für eine schnelle externe Verbindung. Der Beschleuniger soll 24,5 INT8-Teraops liefern und dabei typischerweise 100 Watt benötigen. Die Alveo U250 und die Alveo U200 schaffen 33,3 Teraops respektive 18,6 Teraops bei 110 Watt sowie 100 Watt, sie haben 64 GByte DDR4-Speicher. Dafür fehlen HBM2 und PCIe Gen4.
Vor einigen Wochen zeigte Xilinx zusammen mit AMD ein System, welches einen 32-kernigen Epyc 7551 mit acht Alveo U250 kombinierte. Es erreichte über 30.000 Bilder pro Sekunde beim Inferencing per Googlenet und damit laut den beiden Herstellern einen neuen Rekord für dieses spezifische Szenario. Als kommender Partner hat sich Dell EMC angekündigt, die Alveo U200 sollen ab Dezember 2018 in den Poweredge-Servern R740, R740xd, R7425, R840 und R940xa verfügbar sein.
Laut Xilinx soll die Alveo U280 im ersten Quartal 2019 erscheinen, die Alveo U250 und die Alveo U200 sind bereits erhältlich. Die Preise liegen bei knapp 10.000 US-Dollar aufwärts, die passende Software - Xilinx' Machine Learning Suite - mit Unterstützung für Frameworks wie Caffe oder Tensorflow gehört zum Lieferumfang.