05.04.2023
Kontrolle
Innovative Software überprüft, wie smart KI ist
Autor: Wolfgang Kempkens, pte
Pixabay/Gerd Altmann
Wissenschaftler der University of Surrey wollen die Gefahr allzu selbstständiger Systeme bannen und haben dazu eine Software entwickelt, die überprüft, welche Informationen eine KI aus der Datenbank einer Organisation gesammelt hat.
Forscher der University of Surrey haben eine Software entwickelt, die überprüft, welche und wie viele Informationen eine Künstliche Intelligenz (KI) aus der digitalen Datenbank eines Unternehmens gewonnen hat. Die neue Verifizierungs-Software lässt sich demnach als Teil des Online-Sicherheitsprotokolls eines Unternehmens verwenden und hilft zu verstehen, ob eine KI zu viel gelernt oder sogar auf sensible Daten zugegriffen hat.
Den Experten nach kann der innovative Algorithmus sogar erkennen, ob die KI Fehler im Software-Code identifiziert hat und ausnutzt. Zum Beispiel könnte sie feststellen, ob eine KI gelernt hat, beim Online-Poker immer zu gewinnen, indem sie einen Kodierungsfehler ausnutzt.
KI lässt sich bedenkenlos nutzen
"In vielen Anwendungen interagieren KI-Systeme miteinander oder mit Menschen, wie zum Beispiel bei selbstfahrenden Autos auf einer Autobahn oder Krankenhausrobotern", so Solofomampionona Fortunat Rajaona, wissenschaftlicher Mitarbeiter im Bereich Informatik an der Hochschule.
"Wir haben Jahre gebraucht, um eine Software zu entwickeln, die herausfindet, was eine KI weiß. Durch die Möglichkeit zu überprüfen, was die KI gelernt hat, können wir Unternehmen das Vertrauen geben, die Leistungsfähigkeit der KI ohne Sicherheitsbedenken optimal zu nutzen. Diese Software ist ein wichtiger Schritt zur Wahrung der Privatsphäre und Integrität von Datensätzen", ergänzt Adrian Hilton, Direktor des Instituts für menschenzentrierte KI an der Universität.
Butler
Roboter mit gesundem Menschenverstand
Künstliche Intelligenz kann künftig Haushaltsrobotern bei Aufgaben im Haushalt helfen und dabei, unvermeidliche Fehler selbstständig auszubügeln.
>>
Couchbase
Datenbank-Skills für KI-Apps
Daten sind gleichzeitig Motor und Treibstoff bei der Entwicklung und dem Betrieb von KI-Anwendungen. Entsprechend zentral ist die Rolle der Datenbank. Datenbank-Anbieter Couchbase erklärt, welche Skills eine KI-taugliche Datenbank mitbringen muss.
>>
Microsoft
.NET Smart Components - KI-gestützte UI-Steuerelemente
Microsoft hat .NET Smart Components entwickelt, eine Reihe nützlicher KI-gestützter UI-Komponenten, die sich relativ einfach zu .NET-Anwendungen hinzufügen lassen.
>>
Bitkom
So digital sind Deutschlands Hochschulen
Videokonferenz statt Hörsaal, Portal statt Briefkasten, Online-Sprechstunde statt Büro –Corona hat den Hochschulen einen Digitalisierungsschub verliehen und schon kommt mit Künstlicher Intelligenz die nächste Herausforderung.
>>