Traditionell ist maschinelles Lernen (ML) und Künstliche Intelligenz (KI) ein Bereich, der mehr von Mathematikern, Statistikern und Data Scientists als von Softwareentwicklern dominiert wird. Hauptsächlich werden die statistischen und neuronalen Netze in Python oder R programmiert und dann in C- oder Fortran-Bibliotheken auf CPU-, GPU- oder TPU-Architekturen ausgeführt.

Mit dem Erscheinen der Transformer-Architektur [Transformer] und dem damit verbundenen Durchbruch in der Sprachverarbeitung dur…