Die App sagt, was ich tun soll

Wird die Cloud Denken und Handeln bestimmen? Teil 2

Die Cloud wird uns - über unser Mobil-Telefon - immer mehr Entscheidungs-Apps zur Verfügung stellen, sie wird den Eindruck vermitteln, uns zu kennen, wie uns ein guter Bekannter kennt. Sie könnte mir nicht nur sagen, welchen Zug ich nehmen soll, sondern auch, welches Auto am besten zu mir passt, ob es meinen Lieblingswein gerade im Angebot gibt, ich ihn also heute kaufen soll, welche Partei ich wählen soll, ob ich für Atomkraft bin oder für neue Stromleitungen von Frankreich nach Deutschland.

Naturalistischer Fehlschluss

Hier taucht das Wörtchen "soll" auf, es hat sich klammheimlich eingeschlichen, und dem möchte ich ein wenig nachgehen. Kann die Cloud, auf Basis des in ihr gespeicherten universalen Wissens, auf Basis ihrer unermesslichen Fähigkeit zum logischen Schließen und durch ihre Möglichkeit, alle denkbaren Konsequenzen und Bedingungen zu berücksichtigen, mir sagen, was ich tun soll?

In der Philosophie bezeichnet man eine solche Überlegung als den "naturalistischen Fehlschluss", der darin besteht, dass man vom "Sein" nicht auf das "Sollen" schließen darf. Das soll heißen, dass auch aus dem Vorliegen noch so vieler Fakten darüber, wie etwas tatsächlich ist niemals ableiten kann, was jemand tun soll, denn was man tun soll, das hängt immer von den persönlichen Wertvorstellungen, Präferenzen, moralischen Einstellungen, ästhetischen Vorlieben usw. ab. Es wird fleißig darüber gestritten, ob dieser Fehlschluss wirklich ein Fehlschluss ist, das kann ich hier nicht ausdiskutieren. Unbestritten ist, dass es in unserer rationalen, wissenschaftlich-technisch geprägten Welt schwer ist, sich gegen einen rationalen Entscheidungsvorschlag zu wenden. Wir sind so sozialisiert: Wenn alle rationalen Gründe für eine bestimmte Handlung sprechen, dann wird es vom sozialen Umfeld kaum akzeptiert, wenn ich anders handle.

Dieser weit verbreitete Grundkonsens geht von der Überzeugung aus, dass alle meine Vorlieben und Wünsche durch rational begründbare ökonomische Nutzenerwartungen erklärt werden könnten. Ich kann nicht nur einfach sagen, dass ich etwas will oder begehre oder wünsche, ich muss angeben können, warum, ich soll sozusagen eingestehen, dass selbst meine Wünsche einem Zweck, einem Nutzen unterzuordnen sind. Wenn das möglich ist, dass wäre auch eine Maschine denkbar, die aus den Fakten, die meine Welt konstituieren, ermittelt, wie ich handeln soll, um meine Zwecke zu erreichen, meine Wünsche zu erfüllen.

Solche Automaten wird mir die Cloud zur Verfügung stellen, über das Mobiltelefon an jedem Ort verfügbar, sie werden ermitteln können, was ich in einer gegebenen Situation tun soll, um meine Ziele zu erreichen.

Die App am Watzmann

Man stelle sich vor, man sei gerade dabei, die Watzmann-Ostseite zu bezwingen. Die Cloud liefert nicht nur die aktuelle Wetterlage auf das Smartphone, sondern auch die Entfernung zum Ziel, die erwartete Ankunftszeit, die Sichtbedingungen in dem Moment, da man am Gipfel stehen wird. Das alles ist nur eine Extrapolation dessen, was wir heute schon täglich aufs Telefon geliefert bekommen, allenfalls der Empfang der Mobilnetze am Berg muss eventuell noch ausgebaut werden. Aber die Software-Services der Cloud können noch weit mehr: sie werden auch ermitteln, welche Weg man bei der derzeitigen Konstitution einschlagen sollen, ob man überhaupt in der Lage ist, den Gipfel lebend und zu einer Zeit zu erreichen, die noch Gelegenheit zum Abstieg gibt.

Das klingt alles hochgradig vernünftig, und wir werden wenig Verständnis für die Narren haben, die in dieser Situation ihren elektronischen Berater einfach ausschalten oder den Berg hinab schleudern und einfach weiterklettern. Wer in dieser Situation seiner Sehnsucht nach dem Gipfelsieg nachgibt oder seiner Intuition vertraut, den werden wir schlicht als irrational bezeichnen, ein Bruder Leichtfuß, der, falls er den Gipfel erreichen sollte, schlicht unglaubliches Glück gehabt haben muss, oder dem es, wenn er es nicht schafft, letztlich ganz recht geschieht, wo er es doch ganz klar besser hätte wissen können. Versicherungen und die Bergrettung werden fragen, ob man sich entsprechend informiert hat, und die Leistungen entsprechend berechnen.

Denn, so werden wir sagen, seit der IBM-Computer Watson über die Rate-Meister triumphiert hat ist doch bewiesen, dass der Computer, versorgt mit dem Wissen des Internets, der menschlichen Intuition weit überlegen ist. Wer also wird es sich noch leisten können oder wollen, sich auf seine Intuition, auf seinen gesunden Menschenverstand zu verlassen, wenn ihm die Watsons der Welt als Ratgeber zur Verfügung stehen?

Könige früherer Zeiten konnten es sich noch leisten, Ratgeber, die unerwünschte Ratschläge gaben, davonzujagen oder hinzurichten, die Services der Cloud werden nicht abzuschalten sein.

Vielleicht wird mir ein solcher Service sogar raten, auf das Erklimmen des Berges ganz zu verzichten, nicht, weil ich es nicht schaffen könnte, sondern weil ich gar kein "Bergsteiger-Typ" bin. Vielleicht kann man schon heute irgendwo im Netz einen Service finden, bei dem man Größe, Gewicht, Alter eingibt, tausenderlei Fragen beantwortet und am Schluss erfährt, ob man in der Lage ist, den Watzmann zu bezwingen, oder ob man besser Kegelsport betreiben sollte.

Diese Dienste werden immer intelligenter erscheinen und wir dürfen vermuten, dass die besten von ihnen aus dem Hause Amazon oder von Google stammen werden. Da ist er wieder, der gute Bekannte, der uns beobachtet und weiß, was gut für uns ist. So wie mir Amazon heute bereits überraschend gute Buchvorschläge macht und Google mir immer genauer die Suchergebnisse zusammenstellt, die mich wirklich interessieren, werden mir diese Seiten bald empfehlen, wohin ich in den Urlaub fahren sollte, in welchem Club ich wahrscheinlich meinen Traumpartner finde und welche Partei ich wählen sollte - ganz entsprechend meiner ermittelten Präferenzen.

Aus meinem Nutzer-Profil wird ein Nutzens-Profil, die Cloud weiß, was ich will, welche Ziele ich habe und natürlich auch, was ich tun muss, um diese Ziele zu erreichen. Wer die Tipps ignoriert und lieber seinem Bauch vertraut ist selber schuld, wenn’s nicht klappt.

Faktenrecherche und mathematisches Kalkül

Schauen wir uns die Funktionsweise dieser Ratgeber in ihrer jetzigen simplen Erscheinungsform genauer an. In Deutschland z.B. gibt es seit einiger Zeit so genannte "Wahlomaten" und schon die Tatsache, dass dieser Begriff gewählt wurde und dass er funktioniert, dass er Menschen vor dem Bildschirm zum Klicken verleitet, sollte uns stutzig machen.

Ein Wahlomat - das ist ein Wahl-Automat. Er verspricht damit schon im Namen, meine Wahlentscheidung automatisieren zu können. Wir finden diese "Ratgeber" meist auf Web-Seiten von Zeitungen und anderen Medien. Man kann dort zu verschiedenen Themengebieten der Politik Fragen beantworten, z.B. ob man Atomkraft befürwortet, Bundeswehreinsätze im Ausland unterstützt, mehr Geld für Universitäten ausgeben würde und Ähnliches. Am Schluss teilt einem der "Wahlomat" mit, welche Partei man am ehesten wählen sollte, damit diese Wünsche in der Politik auch berücksichtigt werden.

Die Funktionsweise solcher Ratgeber ist noch ziemlich transparent: Irgendjemand hat die Wahlprogramme der Parteien studiert und daraus die Antworten der Parteien auf die Fragen des Wahlomaten generiert. Das Programm ermittelt die Überlappung zwischen meinen Wünschen und den Partei-Zielen und empfiehlt mir, die Partei mit der größten Übereinstimmung zu wählen.

Die kaum hinterfragte Voraussetzung solcher Programme ist, dass es einen logischen und objektiven Kalkül gibt, nach dem Prinzip: Wenn Du das willst und die Partei das anstrebt, dann musst du die Partei wählen. Logisch bedeutet, dass es ein mathematisch-logisches Regelwerk von Entscheidungspfaden geben muss, das uns zum richtigen Ergebnis führt. Objektiv bedeutet, dass es nichts mit Subjekten, mit konkreten Menschen, zu tun haben darf, wie ich mich entscheide. Beides hat mit normalem Entscheiden nichts zu tun. Insbesondere werden zwei wichtige Dimensionen der Entscheidungsfindung eines jeden von uns nicht berücksichtigt: Vertrauen und Erfahrung.

Hier komme ich wieder auf den Jeopardy-Gewinner Watson zurück. Ich hatte gesagt, der Computer kann Rätsel lösen, aber er tut das auf andere Weise als der Mensch. Im Computer wird das Rätsellösen zum mathematisch-logischen Kalkül, verbunden mit effektiven Verfahren zur Suche in großen Datenmengen. So lösen Menschen keine Rätsel, und eigentlich weiß niemand, wie wir das tun.

Aber vielleicht sollten wir versuchen, so zu denken, wie es der Computer tut, wenn es um Entscheidungen wie die Wahl einer politischen Partei oder die Auswahl eines erreichbaren Gipfels in den Alpen geht? Sollen wir unser Gehirn auf das Durchforsten von Fakten trainieren, sollen wir uns in fehlerfreiem Strukturieren, Analysieren und logischem Schließen üben? Werden unsere Entscheidungen dann besser? Und wenn wir da unsere Grenzen haben: Sollen wir nicht die Cloud-Services nutzen, die uns diese Arbeit abnehmen können, und dann unsere Entscheidungen entsprechend ihres Urteils treffen, so wie die alten Griechen auf das Orakel von Delphi gehört haben?

Cloud-Services könnten tatsächlich etwas Orakelhaftes bekommen: Auch wenn wir nämlich glauben, dass Logik und Fakten den Empfehlungen des Services zugrunde liegen, können wir die Logik nicht mehr nachvollziehen, die Fakten nicht mehr prüfen. Somit ist das Ergebnis, der Entscheidungsvorschlag, uns vermutlich nicht mehr transparent. Stellen wir uns vor, ein Wahlomat der Zukunft, der auch alle Biographien der zur Wahl stehenden Politiker berücksichtigt, durchrechnet, wer seinen Worten je Taten hat folgen lassen, wer öfter die Wahrheit sagt als lügt, der vielleicht auch noch Ihre eigene familiäre Situation, ihr bisheriges Wahlverhalten, ihr Nutzerprofil bei den wichtigsten Social Media Seiten, die Schlagworte Ihrer Twitter-Meldungen analysiert, dieser Watson unter den Wahlcomputern sagt mir nun also, ich sollte eine Partei wählen, die ich nie zuvor gewählt habe.

Entgeistert suche ich nach dem Button mit der Beschriftung "Warum?" - aber ich glaube nicht, ich würde verstehen, was der Computer als Gründe angibt?

Empfehlung zum Nicht-Handeln

Aber viel wahrscheinlicher ist, dass der Wahl-O-Mat der Zukunft mir empfiehlt, gar nicht zur Wahl zu gehen. Wahrscheinlich wird er mir zu jeder Partei meine errechnete Präferenz in Form eines Ratings angeben, und alle Ratings sind so schlecht, dass ich mich nicht für, sondern nur gegen etwas entscheiden kann, und da ich mich zwangsläufig gegen alle Angebote entscheiden muss, entscheide ich mich am Schluss für keines.

Auch das ist ja nichts Neues. Umso mehr Fakten wir in eine Entscheidung einbeziehen, umso mehr wir versuchen, eine Entscheidung rational zu begründen, desto unfähiger werden wir zu wirklicher Entscheidung. Das wurde schon Hamlet, dem lutherisch infizierten Prinzen von Dänemark, zum Verhängnis. Rationales Denken im Sinne von systematischer Faktenanalyse und logischen Schlussfolgerungen hat noch nie einen Entschluss befördert sondern nur immer zu weiterem Zaudern geführt.