Algorithmen mit zu viel Macht sind gefährlich

Künstliche Intelligenz: Der israelische Autor und Vordenker Yuval Noah Harari hat davor gewarnt, dass Algorithmen die Menschen künftig besser verstehen könnten, als sie sich selbst.

"Biologisches Wissen multipliziert mit Rechenleistung multipliziert mit Daten ergibt die Fähigkeit, den Menschen zu hacken", sagte er auf der Konferenz "Online Marketing Rockstars" in Hamburg. Die Algorithmen könnten unsere Entscheidungen und unser Verhalten vorhersagen und unsere Wünsche manipulieren. "Sie werden uns besser kennen als wir selbst. Das ist nicht unmöglich, denn die meisten Leute kennen sich selbst nicht sehr gut."

Generell könnten solche Technologien durchaus positive Auswirkungen haben, etwa im Gesundheitsbereich bei der Früherkennung von Krankheiten. Der 43-Jährige warnte in seinem Vortrag "Hacking Humans" aber auch vor dramatischen Folgen. Sogenannte Trolle könnten sich der persönlichen Ängste bedienen, um gezielt Fake News und Propaganda zu streuen. Autoritäre Regierungen könnten totale Überwachungssysteme schaffen. Harari betonte, dass es sich nicht um Vorhersagen, sondern Möglichkeiten handle.

Der Bestseller-Autor bezeichnete sich im anschließenden Gespräch mit dem früheren "Bild"-Chefredakteur Kai Diekmann weder als Optimisten noch als Pessimisten, sondern als Realisten. Er sei auch nicht gegen Technologien, er wolle sie aber zu seinem Zweck anwenden. "Du musst Technologie nutzen und nicht von ihr genutzt werden."

Harari gehört derzeit zu den gefragtesten Autoren. Sein Buch "Eine kurze Geschichte der Menschheit" geriet zum Erfolgs-Bestseller, ebenso wie die Nachfolger "Homo Deus" und sein jüngstes Werk "21 Lektionen für das 21. Jahrhundert".

Harari äußerte sich auch zu Facebook-Gründer Mark Zuckerberg: "Er und viele andere im Silicon Valley schufen diese immensen Maschinen mit einem sehr naiven Blick auf die menschliche Natur", sagte er. Sie hatten die Idee, Menschen zusammenzubringen. In den letzten Jahren hätten sie realisiert, dass es böse Leute gebe, die diese Systeme missbrauchten. Aber sie seien noch nicht so weit einzusehen, dass es vielleicht auch tiefe strukturelle Probleme in den Plattformen selbst gebe.

Im Kampf um den Vormarsch bei der Künstlichen Intelligenz (KI) sieht Harari für Europa eine eigene Rolle vor. "Ich hoffe, dass Europa nicht dem amerikanischen oder chinesischen Pfad folgt, sondern einen eigenen Weg geht. Denn es kann nicht gewinnen", sagte er. "Europa sollte eigene Lösungen finden, etwa KI-Anwendungen entwickeln, die die Privatsphäre der Menschen schützt, anstatt sie zu hacken."

Zur diesjährigen Konferenz der Online Marketing Rockstars waren 52.000 Besucher gekommen.