07.12.2022
Blick in die Blackbox
Millionenförderung für verständliche Softwaresysteme
Autor: Bernhard Lauer
Universität Saarland, Oliver Dietze
Viele moderne Softwaresysteme sind so komplex geworden, dass kein Experte mehr nachvollziehen kann, ob, wie und warum sie funktionieren. Der Sonderforschungsbereich verständliche Softwaresysteme erhält eine zweistellige Millionenförderung.
Wissenschaftler der Universität des Saarlandes, des Max-Planck-Instituts für Softwaresysteme, des CISPA Helmholtz-Zentrums für Informationssicherheit und der Technischen Universität Dresden forschen gemeinsam an Mechanismen, die das Verhalten komplexer Softwaresysteme für jedermann verständlich machen sollen. Die DFG hat dieses Großprojekt nun um vier Jahre verlängert und fördert es mit weiteren rund 13 Millionen Euro.
Komplexe Softwaresysteme sind längst Bestandteil unseres Alltags. Und solange sie funktionieren, erleichtern sie uns das Leben. Problematisch wird es, wenn es zu Fehlfunktionen kommt, wenn zum Beispiel ein autonom fahrendes Fahrzeug einen Fußgänger anfährt. Denn spätestens dann muss lückenlos nachvollziehbar sein, wieso es zu einem Fehler kam, wie dieser behoben und bestenfalls zukünftig verhindert werden kann und, wer im Zweifelsfall haftbar ist.
"In Fachkreisen verwendet man für viele moderne Softwaresysteme das Bild einer 'Blackbox', also eines abgeschlossenen Behälters, der nicht einsehbar ist. Das liegt teilweise auch daran, dass der Inhalt das geistige Eigentum des Herstellers der Software ist. In der Box passieren wundersame Dinge, die in der Regel zum gewünschten Ergebnis führen", erklärt Holger Hermanns, Informatik-Professor der Universität des Saarlandes, die derzeitige Situation. In dem nun verlängerten Sonderforschungsbereich "Grundlagen verständlicher Softwaresysteme" arbeitet Hermanns gemeinsam mit den Kolleginnen und Kollegen in Saarbrücken und Dresden in 14 Teilprojekten daran, Methoden zu entwickeln, um diese "Blackbox" zu öffnen, zu verstehen, was in deren Inneren vorgeht und diese Vorgänge verständlich zu erklären – oder besser noch, die Software dazu zu ermächtigen, ihr Verhalten selbst nachvollziehbar darzulegen. Eines der bereits erzielten Ergebnisse ist eine App, die es Autofahrern erlaubt in das Innere der Software ihrer Autos zu schauen und so zum Beispiel bei Dieselfahrzeugen in Echtzeit die Abgaswerte einzusehen.
Verstehen zu wollen, warum sich ein Softwaresystem auf eine bestimmte Art verhält, erscheint auf den ersten Blick ein rein technisches "Informatiker-Problem" zu sein. Diese Betrachtungsweise sei jedoch viel zu kurz gegriffen, mahnt Professor Holger Hermanns: "Wir behandeln Fragestellungen von ganz fundamentaler, gesellschaftlicher Bedeutung. Der weltweite Digitalisierungsgrad nimmt täglich zu, unser Leben wird immer stärker durch Informationstechnologie bestimmt. Diese Entwicklung wird sich fortsetzen, denken Sie nur an die ‚Smart Cities‘ der Zukunft, in denen vernetzte Autos selbstständig den Verkehr regeln, oder in denen Künstliche Intelligenzen bestimmen, mit wem welche Stelle besetzt wird, wer welchen Krankenkassen-Beitrag zahlen muss oder wer einen Kredit bekommt und wer nicht", sagt Professor Holger Hermanns.
Ob so eine Welt überhaupt erstrebenswert ist, sei schon eine Frage für sich. "Ganz sicher ist sie aber nicht erstrebenswert, wenn man den Entscheidungen dieser Systeme machtlos ausgeliefert ist, weil man nicht nachvollziehen kann, wie sie dazu gekommen sind und somit bei Falschentscheidungen nicht intervenieren kann", sagt Hermanns. Digitale Mündigkeit könne nur aus dem Verständnis der Systeme erwachsen: "Welche Systeme will man als Individuum überhaupt verwenden und welche nicht? Ist es moralisch vertretbar, ein bestimmtes System zu verwenden? Sind die Entscheidungen des Systems so nachvollziehbar, dass klar ersichtlich ist, wer bei Fehlfunktionen haftbar ist? Nur durch vollumfängliches Verstehen komplexer Softwaresysteme kann es künftig digital mündige Bürger geben," sagt der Saarbrücker Informatik-Professor Hermanns.
Weitere Informationen finden Sie hier sowie auf dieser Seite.
Web Scraping mit KI
Scrapegraph-ai - per Prompt ausgewählte Inhalte einer Website laden
Mittels Web Scraping lassen sich Daten von Websites laden. Das Problem dabei: Die Daten sind in einem Berg von HTML vergraben. Eine Python-Bibliothek hilft die Spreu vom Weizen zu trennen - mit Hilfe von Künstlicher Intelligenz.
>>
Motor der Digitalisierung
Virtuelle Doppelgänger
Digitale Zwillinge optimieren Prozesse, minimieren Ausfallzeiten und reduzieren Kosten. Es ist aber nicht trivial, sie in der Praxis aufzubauen.
>>
Datenverarbeitung
Data Wrangler in Visual Studio Code - neues Tool zur Datenbearbeitung
Data Wrangler bietet Entwicklern und Datenanalysten fortschrittliche Möglichkeiten zur Datenansicht und -bereinigung direkt in der Entwicklungsumgebung.
>>
Schule
Handy-Verbot im Klassenzimmer bringt nichts
Gibt es grundlegende Probleme in der Klasse, bestehen sie laut Wissenschaftlern der Brock University auch bei einem Smartphone-Verbot im Klassenzimmer weiterhin fort.
>>