Caffe2: KI Open Source Deep-Learning-Framework von Facebook und Nvidia

Typisch Silicon Valley - Von der Uni direkt zu Facebook

Yangqing Jia hat es geschafft. Als Doktorand an der University of California entwickelte er das Deep-Learning-Framework Caffe. Dass ein solches Potenzial nicht unbemerkt bleibt, ist klar und so verwundert es wenig, dass Jia mittlerweile für Facebook die Umsetzung einer Software-Plattform für KI-Devices leitet. Erste Früchte gab es bereits vergangenes Jahr im Oktober, als Caffe2Go vorgestellt wurde – die mobile Version zu Caffe2.

Diese sollte mit Hilfe des Style-Transfer-Ansatzes dafür sorgen, dass sich Bild- oder Videodateien ohne störende Verzerrungen anpassen lassen können. Zur „Hier-trink-Variante“, also Caffe2, hat sich der Social-Media-Gigant dann auf der diesjährigen hauseigenen Entwicklermesse F8 geäußert. Der Nachfolger von Jias ursprünglichem Deep-Learning-Framework soll Machine-Learning-Algorithmen in Smartphone- (sowohl iPhone als auch Android) und Cluster-Anwendungen einsetzbar machen.

Caffe2: Deep-Learning-Framework mit leistungsstarkem Partner

Denkbare Einsatzorte sind zum Beispiel Spracherkennung und die Klassifizierung von Bildern, Videos und Texten. Dafür steht ein vorgefertigter Model Zoo zur Verfügung, in dem bereits eine stattliche Sammlung vorkonfigurierter Trainingsmodelle verfügbar ist. Darüber hinaus besitzt Caffe2 Programmierschnittstellen für C++ und Python.

Die Software erlaubt Anwendern und Entwicklern das Experimentieren mit künstlicher Intelligenz (KI) und das Kennenlernen diverser neuronaler Netzwerke. Bilderkennung, Natural Language Processing oder Computer Vision kann somit direkt auf dem Mobilgerät genutzt werden – das konnte bisher nur Googles TensorFlow.

All das wird nur möglich, da es Facebook geschafft hat, sich einen starken Mitspieler an die Seite zu holen: Nvidia. Der Grafikkartenhersteller bietet die Hardwarebeschleunigung seiner GPU an, um Caffe2 zu Höchstform auflaufen zu lassen. Außerdem sind ebenfalls Intel, Amazon, Microsoft und Qualcomm sehr daran interessiert, dass sich Caffe2 auch auf ihren Geräten nutzen lässt. Wenn man bedenkt, dass es sich bei der Software um ein Open-Source-Produkt handelt, ist die zu erwartende Leistung beachtlich.

Caffe2: Mark Zuckerbergs Traum von der erweiterten Realität

Dass ein solches Tool nicht einfach so nebenbei entwickelt wird, versteht sich von selbst. Was aber der genaue Zweck von Caffe2 sein wird, erklärte Mark Zuckerberg persönlich: Caffe2 soll Facebook bei seinen Bemühungen im Bereich der erweiterten Realität, der Augmented Reality (AR), helfen. Die künstliche Intelligenz sei dabei ein elementarer Bestandteil, ohne den es nicht geht: „AR wird uns dabei helfen, die digitale mit der wirklichen Welt auf jede mögliche Weise miteinander zu kombinieren. Das wiederum wird unsere reale Welt stark verbessern.", sagte der Facebook CEO.

Dabei sind die von Zuckerberg angestrebten Einsatzmöglichkeiten für das Framework etwas genauer spezifiziert worden. Beispielsweise kann es dabei unterstützen, Chatbots zu entwickeln oder eine Verbindung mit Geräten im Internet of Things einzugehen. Allerdings dürfte es auch nicht zu weit ausgeholt sein, zu behaupten, dass die Kombination aus künstlicher Intelligenz (KI) und AR in nahezu jedem erdenklichen Umfeld eingesetzt werden kann.

Caffe2: „Technische Daten“ des Open Source Frameworks

Die Bereitstellung mobiler KI-Dienste ist Schwerstarbeit, wenn es um die Datenverarbeitung geht, denn die ist nicht nur enorm komplex, sondern muss auch noch besonders schnell erledigt werden – Optimum wäre hier natürlich Echtzeit.

Facebook stellt dafür seine GPU-beschleunigten Verfahren zur Verfügung, beispielsweise von den Big-Basin-Servern. Damit die Leistungsreserven auch optimal genutzt werden, wird hier eine hochoptimierte Deep-Learning-Software eingesetzt.

Beide Unternehmen, Nvidia und Facebook, betonten, dass Caffe2 keinen geringeren Zweck haben soll, als die Entwicklung künstlicher Intelligenz voranzutreiben. Diesem Statement verleihen die Konzerne Ausdruck, indem sie Caffe2 schon von Grund auf für den Einsatz mit der Nvidia-GPU-Deep-Learning-Platform optimiert haben.

Damit nicht genug, nutzt die Software die neuesten Deep-Learning-SDK-Bibliotheken NCCL, cuBLAS und cuDNN. Somit wird nicht nur höchste Performance, sondern gleichzeitig auch GPU-beschleunigte Trainings angeboten. Für die Entwickler bietet das also den Vorteil, dass sie sich auf das Kreieren von Anwendungen konzentrieren können, während die Nvidia-GPUs im Hintergrund eine kontinuierlich optimale Leistung garantieren.

Abschließend lässt sich Caffe2 wie folgt zusammenfassen: Es handelt sich bei der Software um ein überraschend schnelles, dabei gut skalierbares und vor allem tragbares Deep-Learning-Framework. Der Datendurchsatz wird insgesamt auf acht miteinander vernetzte Facebook-Big-Basin-KI-Server mit 64 Nvidia-Tesla-P100-GPU-Beschleunigern um den Faktor 57 erhöht. Außerdem soll Nvidias Großrechner DGX-1 das erste KI-System mit Caffe2-Support sein. Veröffentlicht wurde Caffe2 unter der Open-Source-Lizenz BSD, Caffe2 Dokumentationsmaterial und Tutorials gibt es auf Github, Zugriff auf das Caffe2 Framework unter caffe2.ai.