Project Catapult: Microsoft setzt massiv auf FPGAs

Microsoft hat auf der Ignite-Konferenz über seine Azure-Cloud-Infrastruktur gesprochen, die laut CEO Satya Nadella mit einem Supercomputer für künstliche Intelligenz gleichzusetzen ist. Statt wie bisher üblich vor allem auf klassische CPU-Kerne und mittlerweile verstärkt auch auf GPUs zu setzen, hat Microsoft massiv in FPGAs investiert. Field Programmable Gate Arrays stehen zwischen CPUs und fest verdrahteten ASICs und sind, der Name impliziert es, in einem gewissen Rahmen progammierbar und damit anpassbar.

Schon seit mehreren Jahren forscht Microsoft Research im Project Catapult daran, wie FPGAs in Cloud-Servern helfen können, die Datenmengen effizient und flott zu bearbeiten. In den vergangenen zwei Jahren habe Microsoft seine Systeme daher mit FPGAs ausgestattet. Doug Burger, Distinguished Engineer bei Microsoft, zufolge nutzt der Hersteller selbst entwickelte 30-Watt-Boards, die Chips stammen von der Intel-Tochter Altera.

• 

Tolstoi wird in drei Sekunden übersetzt. (Bild: Microsoft)

In einer Demonstration setzte ein Azure-System mit FPGA ein Convolutional Neural Network zur Bilderfassung weitaus schneller um. In einer weiteren Vorführung ließ Microsoft Leo Tolstois Buch Krieg und Frieden von der russischen Version mit rund 1.440 Seiten in die englische übersetzen, was von vier FPGAs mit achtfacher Geschwindigkeit bei weniger Leistungsaufnahme, verglichen mit vier 24-Kern-CPUs, erledigt wurde. Werbewirksam sagte Burger, mit der kompletten Infrastruktur könne Microsoft alle Wikipedia-Artikel in weniger als einem Wimpernschlag (unter 100 ms) übersetzen.

Für eigene Software werden die FPGAs unter anderem für die Bing-Suche und die Sprachassistentin Cortana verwendet, allerdings für das Inferencing gedacht, also den Schritt nach dem Training - denn das erfolgt wie gehabt mit höherer Genauigkeit und vor allem mehr Rechengeschwindigkeit auf GPUs.