Frameworks erleichtern den KI-Einstieg

An die 30 Prozent der Mitarbeiter in deutschen Unternehmen wünschen sich, ein KI-System träte an die Stelle ihres Chefs. Weitere 17 Prozent würden lieber mit einer KI-Instanz zusammenarbeiten als mit bestimmten Kollegen. Das ergab eine Studie des Digitalverbands Bitkom. Auch wenn solche Hoffnungen derzeit noch vergeblich sein dürften, so ist doch klar: Künstliche Intelligenz hat auch und gerade in Unternehmen Einzug gehalten. Laut des Reports „Machine Learning/Deep Learning 2019“ von IDG setzen rund 60 Prozent der deutschen Firmen bereits mindestens ein KI- oder Machine-Learning-Verfahren ein. Das heißt aber auch: 40 Prozent sind noch nicht auf den KI-Zug aufgesprungen. Und auch bei den anderen 60 Prozent ist noch die Frage, wie all die schönen KI-Versprechungen in Praxis umgesetzt werden.

Der Artikel stellt deshalb zunächst verschiedene Möglichkeiten vor, wie man KI-Technologie ins Unternehmen holen kann, und beleuchtet dann die wichtigsten Hürden bei der praktischen Umsetzung von KI-Projekten. Ergänzt wird er mit einer Marktübersicht für KI-Frameworks.

Wie kommt Künstliche Intelligenz denn nun in ein Unternehmen? Ein Großteil der Firmen in Deutschland entwickelt jedenfalls keine eigenen KI- und Machine-Learning-Lösungen. Das belegt die Deloitte-Studie „AI in the Enterprise 2018“. Unternehmen beziehen KI- und Machine-Learning-Software lieber von Cloud-Providern wie AWS, Google, IBM und Microsoft. Dieser Weg ist beileibe nicht nur etwas für große Konzerne, sondern bietet sich besonders auch für mittelständische Unternehmen an. Christian Mehrtens, Leiter des Geschäftsbereichs Mittelstand und Partner bei SAP Deutschland, betont: „Gerade für kleinere Unternehmen, denen keine großen personellen oder finanziellen Ressourcen zur Verfügung stehen, sind intelligente ERP-Systeme und Cloud-Services eine Möglichkeit, um auf KI-Lösungen zurückzugreifen.“

Fast ebenso beliebt bei deutschen Firmen ist der Ansatz, KI-Funktionen als Bestandteil von Unternehmens-Software zu ordern. Die Marktführer auf diesem Sektor haben bereits KI-Technologie in ihre Produkte integriert, allen voran SAP, Oracle und Salesforce. Aber auch Business-Intelligence-Anbieter wie Qlik, SAS und Ta­bleau Software stellen den Anwendern ihrer Lösungen bereits KI-gestützte Reports und Analysen („Insights“) zur Verfügung.

Eine weitere Option, um eine KI-Lösung im Unternehmen zu implemetieren, bringt Güner Aksoy, Regional Sales Director Central Europe bei Pure Storage, ins Spiel: „Unternehmen sollten heute in der Lage sein, Infrastrukturentscheidungen auf der Grundlage dessen zu treffen, was für ihre Anwendungen am besten geeignet ist. Eine datenzentrierte, einheitliche hybride Cloud-Architektur ist ein praktikables, zeitgemäßes und zukunftsorientiertes Modell. Es gibt modernen Unternehmen die nötige Agilität und schafft die Grundlage für die Unterstützung neuer Anwendungen wie KI, Machine Learning und Analytics.“

Unternehmen, die erste Geh­versuche mit Künstlicher Intelligenz, maschinellem Lernen sowie neuronalen Netzen und Deep Learning starten wollen, steht eine breite Palette von Software-Paketen zur Verfügung - über die Cloud und On-Premise. Neben den proprietären Angeboten von AWS, Goo­gle, IBM und Microsoft gibt es viele auch kostenlos als Open Source. Wer sich auf maschinelles Lernen konzentrieren möchte, kann auf etablierte Frameworks wie scikit-learn oder SystemML zurückgreifen, das ursprünglich von IBM stammt, mittlerweile aber unter der Apache-Lizenz freigegeben wurde. Alternativen sind Apache Mahout und Microsofts Machine-Learning-Toolkit DMTK.

Komplexere KI-Anwendungen lassen sich mit Hilfe von Deep Learning (DL) und neuronalen Netzen erstellen. Die Mehrzahl der entsprechenden Frameworks basiert auf der Programmiersprache Python und ist ebenfalls als Open-Source-Software erhältlich. Allerdings plädieren Entwicklungsfirmen wie Skymind für Lösungen auf Basis von Java wie Deeplearning4j. Ein Grund dafür ist die höhere Performance, ein weiterer die weite Verbreitung von Java und Java Virtual Machine (JVM) in Unternehmen.

Unter den Deep-Learning-Frameworks auf Grundlage von Python bieten sich Klassiker wie TensorFlow und das ein­steigerfreundliche Keras an. Zu den neueren Paketen zählt Caffe2, ein schnelles und leichtgewichtiges Framework, das auch für große Produktivumgebungen tauglich ist.

Ebenfalls für große Datenbestände ausgelegt ist Microsofts Open-Source-Toolkit CNTK. Zu dessen Vorzügen gehören der hohe Optimierungsgrad der Komponenten, der geringe Ressourcenbedarf und die Performance. Abstriche müssen Nutzer beim Support machen: Er ist wegen der kleineren Community nicht so ausgeprägt wie bei einigen anderen Frameworks.

Unternehmen sind für KI-Anwendungen aber nicht allein auf Public-Cloud-Ser­vices oder Frameworks angewiesen. Eine, allerdings nicht ganz billige Alternative sind Komplettsysteme, wie sie zum Beispiel Pure Storage und Dell EMC anbieten. Ein Vorteil solcher KI-Pakete ist, dass Unternehmen alles aus einer Hand erhalten: Server, Grafikprozessoren, Storage sowie KI-Frameworks und Bibliotheken für Machine Learning oder dessen Schwestertechnologie Deep Learning.

Pure Storage hat gemeinsam mit Cisco die hyperkonvergente Appliance FlashStack for AI entwickelt. Die Server und Netzwerk-Switches steuert Cisco bei. Die für KI-Anwendungen optimierten Grafikprozessoren kommen von Nvidia, die Flash-Speicher-Komponenten von Pure Storage. Außerdem hat Pure Storage zusammen mit Nvidia eine „AI-Ready In­frastructure“ (AIRI) entwickelt. Auch sie basiert auf Flash­Blade-Speichersystemen von Pure Storage sowie DGX-1-Systemen von Nvidia. Mit AIRI Mini steht zudem eine Einstiegslösung für kleinere Unternehmen zur Verfügung. Von Nvidia selbst gibt es zudem eine Data Science Workstation. Sie soll sich besonders für Data Scientists eignen, die eher traditionelle Datenanalysen mit Machine Learning betreiben wollen.

Einen vergleichbaren Ansatz bietet Dell EMC. Mit Hilfe von HPC-Servern (High-Performance Computing) wie dem PowerEdge C4140 und integrierten Tesla-Grafikkarten von Nvidia können Unternehmen beispielsweise die Qualitätssicherung in der Fertigung um KI- und ML-Funktionen erweitern.

---

Doch steckt im Lösungspaket wirklich Künstliche Intelligenz drin oder handelt es sich um eine Mogelpackung? Das ist für Unternehmen oft schwer ersichtlich. Wer eine KI-Lösung sucht, sollte daher die Hersteller und ihre Produkte anhand mehrerer Kriterien prüfen.

Für Gérard Bauer, Vice President EMEA von Vectra, einem Anbieter von IT-Sicherheitsplattformen auf Basis von KI und Machine Learning, ist eine Frage entscheidend: Wie tief und breit ist die Entwicklungskompetenz eines Anbieters? Ein Indikator dafür sei die Zahl der Mitarbeiter, die einen „Background“ in KI, Machine Learning (ML) und Data Science haben. Wenn beim Anbieter nur ein einziger Entwickler vorhanden ist, der zudem eine geringe ML-Erfahrung hat, ist Bauer zufolge höchstwahrscheinlich nur eine Open-Source-Bibliothek im Einsatz. Und das heißt, es wird mit KI nur „herumgespielt“.

Laut Bauer sollten Unternehmen außerdem versuchen, herauszufinden, ob bei einem infrage kommenden KI-Anbieter für den Bereich, in dem man nach Lösungen sucht, passende Fachkräfte vorhanden sind. „In vielen Fällen der angewandten KI geht es nicht nur darum, große Datenmengen zu erfassen und Berechnungen auszuführen“, so Bauer. „In der Cybersicherheit brauchen wir beispielsweise erfahrene Sicherheitsforscher, die technische Verhaltensweisen von Angreifern hypothetisieren und validieren können. Ein Datenwissenschaftler allein hätte hier nicht den nötigen Einblick.“ Nur in Zusammenarbeit mit dem Sicherheitsforscher könne der Datenwissenschaftler einen effektiven Algorithmus zur Erkennung von Cyberangriffen entwickeln.

Pluspunkte sollte man auch KI-Anbietern geben, die sich nachweislich langfristig für Innovationen und praxisrelevante Ergebnisse engagieren. Auszeichnungen und Branchen­anerkennungen deuteten diesbezüglich auf Glaubwürdigkeit und Relevanz in der Branche hin. Ein Indikator dafür ist, ob ein Unternehmen von etablierten Branchenanalysten genannt wird, ein weiterer, ob die Firma Patente angemeldet hat oder - noch besser - eigenentwickelte KI-Technologien patentieren ließ.

Ein weiteres Kriterium bei der Anbieter-Suche sind die Daten, die dieser für das Erstellen, Trainieren, Testen und Betreiben seiner Algorithmen verwendet. Denn bei Data Science geht es Bauer zufolge nicht einfach nur darum, komplizierte Algorithmen zu entwickeln. „Neben der Auswahl algorithmischer Ansätze muss der Datenwissenschaftler auch das Kuratieren der Daten, die Auswahl und Extraktion von Merkmalen sowie das Training managen“, so der Vectra-Manager. Unternehmen sollten ihren zukünftigen KI-Anbieter deshalb auch nach seiner Datenbasis fragen: „Suchen Sie nach Informationen über die Herkunft, Qualität, Verwaltung und Sicherheit der Daten sowie darüber, wie und wo sie verwendet werden.“

Besonders bei jüngeren Unternehmen empfehle sich außerdem ein kritischer Blick auf das Führungsteam und die Mitarbeiter. Wichtig sei, dass sie über Erfahrung in der Branche verfügen. Weitere Kriterien sind die Erfolgsbilanz und der Ruf des Unternehmens sowie Informationen darüber, in welche Bereiche es seine Investitionen lenkt.

„Denken Sie außerdem daran, dass KI ein reales Werkzeug ist und kein fernes Ziel. Es geht darum, wie KI eingesetzt wird“, betont Gérard Bauer. Daher sollte ein KI-Tool auf autonome Weise für Effizienzgewinne oder neue Erkenntnisse sorgen. Wenig hilfreich sei eine herkömmliche Lösung mit „angeflanschter“ Automatisierung, die durch Prozesse hinter den Kulissen unterstützt wird.

Des Weiteren empfiehlt Bauer, auf unabhängige, verifizierte Tests der Lösungen eines Anbieters und die Resonanz von User-Communities zu achten. Solche Informationsquellen seien neutraler als Referenzen, die der Hersteller bereitstellt.

Besonders wichtig ist schließlich das Testen eines KI-Tools im eigenen Unternehmen. Nur so lasse sich dessen Effizienz ermitteln. „Suchen Sie nach Evaluierungs- oder Proof-of-Concept-Programmen, die es Ihnen ermöglichen, in Ihrer Umgebung praktische Erfahrungen zu sammeln und die richtige Lösung zu finden“, so der Experte.

---

Damit KI-Projekte den gewünschten Nutzen bringen, braucht es mehr als Frameworks, Rechnerplattformen und Cloud-Services: „KI-Initiativen benötigen einen organisatorischen Rahmen“, betont Kay Müller-Jones, Leiter Consulting und Services Integration beim Beratungs- und Technologiehaus Tata Consultancy Services (TCS). „Die Mitarbeiter selbst stehen dabei im Fokus. Die Anforderungen an deren Tätigkeiten ändern sich.“ Damit steige die Bedeutung einer stetigen Weiterbildung. „So selbstverständlich wie Mitarbeiter heute Microsoft Office nutzen, werden sie künftig KI-Lösungen einsetzen. Dieser Wandel muss durch geeignete Change-Management-Maßnahmen begleitet werden“, fordert Müller-Jones.

Doch auch wenn die Mitarbeiter oft eine gewisse Grundskepsis mitbringen - vor allem, wenn sie ständig lesen müssen, wie viele Jobs die KI kosten wird -, freunden sie sich nach den Erfahrungen des Customer-Experience-Spezialisten Genesys schnell mit KI an, wenn sie in der Praxis damit in Berührung kommen: „Die Mitarbeiter eines unserer Kunden hegten vor Beginn der Einführung Bedenken, dass KI ihre Arbeit negativ beeinflussen könnte“, sagt Heinrich Welter, Vice President Sales and General Manager DACH bei Genesys. „Nach sechs Monaten zeigten interne Umfragen, dass die Mitarbeiter zufrieden waren. Als besonders positiv empfanden sie, dass ihnen KI mehr Zeit für anspruchsvolle Aufgaben ließ.“

Und wenn dann ein KI-Anbieter gefunden ist und die Beschäftigten eingebunden sind, gibt es bei KI-Projekten noch eine letzte große Hürde: der Transfer von Technik und Theorie in die Praxis. Matthias Keller, Head of Data Science beim Digitalisierungsspezialisten Echobot, erklärt das Probelm: „Die Lern-Algorithmen und deren Optimierung sind eher das Handwerk. Die Kunst und eigentliche Herausforderung ist, ein spezifisches Praxis­problem und vorhandene Daten in lösbare Machine-Learning-Probleme zu überführen.

Echbot-CEO Bastian Karweg ergänzt: „Die Nachfrage nach KI-Lösungen ist sehr hoch. Das Interesse ist dabei aber vor allem durch die großen Effizienzgewinne und Einsparungspotenziale motiviert. Was fehlt ist ein praktisches Verständnis, wann welche Probleme mit KI und ML sinnvoll adressiert werden können.“

Außerdem haben Karweg zufolge viele Unternehmen ihre Hausaufgaben nur mangelhaft erledigt: „Ihre Datenwelt ist veraltet, unvollständig oder fehlerhaft. Darauf lässt sich natürlich nicht aufbauen.“

In einem sind sich so gut wie alle Fachleute einig: Die deutschen Unternehmen sollten nicht warten, bis Konkurrenten aus dem Ausland an ihnen vorbeigezogen sind, die bereits heute KI und maschinelles Lernen auf breiter Basis einsetzen. „Bei neuen Technologien ist es nicht ungewöhnlich, dass viele Firmen sie erst einführen, wenn der Wettbewerb damit bereits erfolgreich am Markt ist“, erklärt Kay Müller-Jones von TCS. Aber diese Strategie sei im Fall von KI riskant. „KI ist kein bloßer Trend, sondern wird als entscheidend für die Zukunftsfähigkeit von Unternehmen angesehen. Und mit jedem Tag des Abwartens wachsen der Rückstand auf die führenden Firmen und der Druck des Marktes.“

Schützenhilfe geben den Unternehmen die Bundesregierung mit ihrer „Nationalen KI-Strategie“ und Organisationen wie der KI Bundesverband. Die Regierung will bis 2025 rund drei Milliarden Euro in die Förderung von Forschungsvorhaben und Projekten stecken. Und der Verband hat jüngst das Gütesiegel „AI Made in Germany“ vorgestellt hat.

Um im Konzert der „Großen“ mitzuspielen, braucht es allerdings eine umfassende Kooperation von Unternehmen, Forschungseinrichtungen und Staat. Die oft gegen neue Techniken skeptischen deutschen Verbraucher scheinen jedenfalls das geringere Problem zu sein. Sie gewöhnen sich offenbar schnell an KI, wenn sie ihnen im Alltag begegnet. Wer die Kundendienst-Hotline eines Produktherstellers, eines Finanzdienstleisters oder einer Versicherung anruft, spricht ja oft schon mit einer KI-Instanz, besser gesagt einem Software-Roboter (Bot): „Nur 18 Prozent der Befragten empfinden Chat-Bots als irritierend beim Kundenservice“, berichtet Genesys-Mann Heinrich Welter. „Viel mehr Verbraucher ärgern sich über lange Wartezeiten, falsche Informationen und darüber, von einem Berater zum nächsten weitergereicht zu werden.“

Eigentlich steht Deutschland in Bezug auf Künstliche Intelligenz nicht gar so schlecht da, meint Christoph Angerer, Manager AI Developer Technologies Europe bei Nvidia. Doch einige Hürden gebe es doch.

Christoph Angerer: In vielen Bereichen mangelt es noch immer am nötigen Know-how und an den Ressourcen für die Umsetzung von KI-Projekten. Viele Infrastrukturprojekte werden nach wie vor von IT-Abteilungen de­finiert und ausgeführt. Dort ist jedoch die Fachkenntnis für die Implementierung der geeigneten KI-Umgebung oft nicht ausreichend. Außerdem sind häufig die Daten für KI-Projekte oder maschinelles Lernen aus den verschiedenen Abteilungen nicht greifbar oder lassen sich aus technischen Gründen nicht zusammenführen. Deshalb bedarf es einer gut durchdachten Datenstrategie, um die Qualität der Daten zu gewährleisten und um sicherzustellen, dass ausreichende Informationsbestände zur Verfügung stehen.

Angerer: Ja, häufig fehlt es Unternehmen an Datenwissenschaftlern, die für die Implementierung der KI-Plattformen nötig sind. Der Mangel an KI-Fachkräften ist in Deutschland ein akutes Thema, das von vielen Seiten angegangen werden muss. Die Universitäten bieten jetzt zwar deutlich mehr Kurse für Data Science an, aber eine Weiterbildung für spezielle Branchen ist noch schwierig. Hier setzt das von Nvidia gegründete Deep Learning Institute an. Es bietet Firmen online oder vor Ort rund 50 Kurse zu Themen an wie KI im Gesundheitswesen, autonomes Fahren, Finanzwesen, Robotics und Intelligent Video Analytics.

Angerer: Laut einer IDC-Studie von 2017 war Deutschland im Bereich IoT führend, hinkte aber beim Einsatz von KI hinterher. Stark vertreten in der Entwicklung von KI-Produkten waren eher Start-ups, die flexibler und schneller die neuen Strömungen in der KI-Methodik umsetzen konnten. 2018 und 2019 haben aber viele große deutsche Unternehmen in die KI-Entwicklung investiert und Kooperationen mit der Forschung und Start-up-Hubs gestartet. Einen großen Schub hat die Initiative appliedAI von UnternehmerTUM gebracht. Sie stellt jungen Unternehmen eine Infrastruktur mit KI-Plattformen zur Verfügung, mit der sie ihre Projekte vorantreiben und Kontakte in die Industrie aufbauen können. Doch auch größere Firmen haben mittlerweile das Potenzial der Initiative erkannt und sind ihr beigetreten. Im Automobilbereich ist dadurch im baden-württembergischen Cyber Valley eine der größten Forschungskooperationen Europas aus Wissenschaft und Wirtschaft entstanden.

Angerer: Deutschland hat im Bereich der KI-Forschung eine lange Tradition. Nicht umsonst beherbergt es mit dem DFKI das größte KI-Forschungszentrum Europas. Auch viele Universitäten haben in der KI-Forschung umfangreiches Wissen und Talent angesammelt. Der Unterschied zum Silicon Valley liegt eher an der konservativeren Ausrichtung bei der Unterstützung von neuen Initiativen und Start-ups. Solche jungen Unternehmen müssen in Deutschland mehr Unterstützung finden und leichter mit größeren Firmen kooperieren können.

Angerer: Eine Hürde für viele mittelständige Unternehmen ist die Planung und Erstellung einer hauseigenen KI-Infrastruktur. Abhilfe können vorgefertigte KI-Lösungen und Plattformen schaffen, die sich für Einsteiger eignen, aber auch im Rechenzentrumsbereich eingesetzt werden können. Solche Systeme enthalten in der Regel die Hardware und das komplette Software-Paket für den Einsatz von KI. Dies reduziert den Aufwand für das Aufsetzen der Software-Umgebung von Tagen oder Wochen auf wenige Stunden. Für Unternehmen, die erst einmal mit KI experimentieren wollen, bietet sich auch die Cloud an. Große Unternehmen auf diesem Gebiet bieten inzwischen KI- und ML-Instanzen für die Datenanalyse an. So können Firmen testen, ob die Implementierung von KI für sie sinnvoll ist. Darüber hinaus haben sie die Möglichkeit, durch die Miete von weiteren Instanzen die Testszenarien flexibel zu skalieren und gegebenenfalls später in die eigene IT-Infrastruktur zu verlagern.