06.06.2019
Gartner-Prognose
KI-Forensiker bei drei Viertel aller Unternehmen
Autor: Klaus Zellweger
Gennady Danilkin / Shutterstock.com
Um für Vertrauen und Datenschutz beim Einsatz von KI-gestützten Lösungen zu sorgen, werden viele Unternehmen dazu übergehen, ihre Algorithmen von Forensik-Experten überprüfen zu lassen.
Vorfälle wie Datenschutzverletzungen und Datenmissbrauch lassen bei der Nutzerschaft das Vertrauen in Lösungen mit Künstlicher Intelligenz sinken. Um dieser Tendenz entgegenzuwirken, werden laut einer Prognose des Analystenhauses Gartner 75 Prozent aller großen Unternehmen schon bis 2023 auf den Einsatz von Spezialisten für Forensik, Datenschutz und Kundenvertrauen setzen. Die Experten sollen die entwickelten Algorithmen überwachen, um das Marken- und Reputationsrisiko zu verringern.
Beim Training von KI-gestützten Lösungen besteht seit längerem das Risiko, das vorurteilbehaftete Strukturen entstehen, die sich auf das Geschlecht, die Rasse oder das Alter von Personen beziehen. Diesen Tendenzen gilt es, gezielt entgegenzuwirken. Darüber hinaus ist die Komplexität beim Entscheidungsprozess von Deep-Learning-Lösungen oft nur schwer nachzuvollziehen - hier muss Klarheit bei der Interpretation bestehen.
„Neue Werkzeuge und Fähigkeiten sind erforderlich, um Unternehmen dabei zu unterstützen, diese und andere potenzielle Störungen zu erkennen, mehr Vertrauen in die Verwendung von KI-Modellen aufzubauen und das Marken- und Reputationsrisiko zu reduzieren", sagt Jim Hare, Research Vice President bei Gartner.
KI-Forensiker schon heute im Einsatz
In der Praxis kommen schon heute in der Finanz- oder Versicherungsbranche verschiedene Kombinationen von KI-Governance- und Risikomanagementinstrumenten zum Einsatz, um Reputations- und Sicherheitsrisiken zu ermitteln. Und auch Unternehmen wie Facebook, Google, die Bank of America, MassMutual und die NASA stellen KI-Forensiker ein, die sich in erster Linie darauf konzentrieren, unerwünschte Verzerrungen in KI-Modellen aufzudecken, bevor sie eingesetzt werden. Diese Experten validieren Modelle während der Entwicklung und überwachen sie weiterhin, sobald die Algorithmen in die Produktion gehen. Denn unter realen Bedingungen kommt es oftmals zu unerwarteten Verzerrungen.
Der Bedarf an Kontrolleuren für den KI-Bereich dürfte sich auch im Dienstleistungssektor bemerkbar machen. Beratungshäuser könnten hier etwa Services einführen, um die Machine-Learning-Modelle von Unternehmen zu auditieren und zu zertifizieren. Dadurch lässt sich etwa die Funktionalität der Algorithmen bestimmen und die Einhaltung bestimmter Standards sicherstellen. Diese Aufgabe könnten allerdings auch Open-Source-Lösungen oder kommerzielle Tools erfüllen, die speziell zur Überprüfung von KI-Modellen erstellt wurden. So gibt es etwa freie Programme wie Local Interpretable Model-Agnostic Explanations (LIME), die nach unbeabsichtigter Diskriminierung suchen können.
Wenn KI Amok läuft
Dass ein realer Bedarf an Kontrolle für die "intelligenten" Lösungen besteht, bewies Microsofts selbstlernender Chatbot Tay im Jahr 2016 eindrucksvoll. Konfrontiert mit den zahllosen Nachrichten auf Twitter verwandelte sich der Bot innerhalb kürzester Zeit zu einem Holocaust-leugnenden Rassisten. Microsoft nahm Tay deshalb nach nur 16 Stunden wieder vom Netz. Auch die überarbeitete Version von Tay war dem Internet nicht gewachsen und wurde nach einem abermaligen Amoklauf wieder deaktiviert.
Web Scraping mit KI
Scrapegraph-ai - per Prompt ausgewählte Inhalte einer Website laden
Mittels Web Scraping lassen sich Daten von Websites laden. Das Problem dabei: Die Daten sind in einem Berg von HTML vergraben. Eine Python-Bibliothek hilft die Spreu vom Weizen zu trennen - mit Hilfe von Künstlicher Intelligenz.
>>
Motor der Digitalisierung
Virtuelle Doppelgänger
Digitale Zwillinge optimieren Prozesse, minimieren Ausfallzeiten und reduzieren Kosten. Es ist aber nicht trivial, sie in der Praxis aufzubauen.
>>
Management
Das sind die Verantwortungsbereiche in der Also-Konzernleitung
Kurz nach der Bekanntgabe, dass Wolfgang Krainz CEO von Also wird, veröffentlicht der Broadliner nun, wer für die verschiedenen Unternehmensbereiche verantwortlich zeichnet.
>>
GigaTV Home Sound
Vodafone bringt eine TV-Box mit integrierten Lautsprechern
Bisher gab es bei Vodafone getrennte TV-Boxen für Kabel- und IPTV-Kunden. Die neue Generation von GigaTV bietet beide Zugänge, dazu kommt eine Version mit integrierten Lautsprechern.
>>