Project Trillium: ARM bringt Machine Learning in Smartphones

ARM hat das Project Trillium vorgestellt, das Hardware und Software für Machine Learning in Smartphones umfasst: Enthalten sind zwei IPs, die Hersteller in ihre Systems-on-a-Chip integrieren können, eine für Machine Learning und eine für Object Detection, sowie passend dazu das quelloffene Neural Net SDK für Linux. Für ARM ist das ein wichtiger Schritt, denn Imagination Techologies hat mit der PowerVR 2NX schon eine IP für Machine Learning in Smartphones und Apple im A11 Bionic sowie Huawei im Kirin 970 bereits implementierte Hardware für künstliche Intelligenz.

• 

Project Trillium (Bild: ARM)

Der ML-Prozessor (Machine Learning) ist für Inferencing gedacht, also das Anwenden eines bereits trainierten Modells. ARM spricht von einer Rechenleistung von 4,6 Teraops mit INT8-Genauigkeit bei 1,5 Watt, wenn die IP mit 7-nm-Technik verwendet wird. Huawei wiederum nennt 1,92 Teraflops mit FP16-Präzision für die eigene NPU, was eines klarmacht: Theoretische Werte sind bei künstlicher Intelligenz genauso wenig direkt vergleichbar wie bei Grafikchips oder anderen Prozessoren. Schlussendlich zählen die Auslastung der Rechenwerke und die Optimierung durch die verwendete Software.

Beim OD-Prozessor (Object Detection) handelt es sich um IP zur Objekterfassung in Videos. Das würde zwar auch per neuralem Netz klappen, dedizierte Hardware erledigt das aber effizienter und das zählt bei einem Smartphone-SoC. Die Objekterfassung soll bei 1080p mit 60 Bildern pro Sekunde erfolgen, das zu erfassende Subjekt muss mindestens 60 x 50 Pixel messen. Die Technik für den OD-Prozessor stammt ursprünglich von Apical, denn ARM hatte den britischen Hersteller im Frühling 2016 übernommen.

Laut ARM sind beide neuen IPs als eigene Blöcke in einem SoC umsetzbar, alternativ kann eine engere Integration direkt in einen Dynamiq-Cluster neben den CPU-Kernen erfolgen. Wir erwarten erste Designs nicht vor 2019, entsprechende Smartphones erscheinen eventuell 2020.