Wie sicher ist Ihre Position als Manager im digitalen Wettkampf?!

Wie sicher ist Ihre Position als Manager im digitalen Wettkampf?!

Nach Yuval Noah Harari, israelischer Historiker, u.a. 2017 mit dem Deutschen Wirtschaftsbuchpreis ausgezeichnet, stehen wir aufgrund der Informationstechnologie und der Biotechnologie vor der größten Herausforderung aller Zeiten:

Künstliche Intelligenz (KI) und Biotechnologie verschaffen der Menschheit die Macht, das Leben zu verändern und zu manipulieren – mit Folgen, die auf allen Ebenen wirken werden. Harari spricht von der doppelten Revolution, einer Zwillingsrevolution. Er hat dabei jedoch weniger die Befürchtung, dass eine Gruppe von Menschen in einer neuen Art von Ausbeutung untergeht, sondern spricht von etwas viel Schlimmeren – von der Bedeutungslosigkeit von Milliarden von Menschen, die fast jeden treffen kann, mit Ausnahme einer winzigen Elite.[1]

Das Horten von Daten eröffnet den Weg zu einem radikal anderen Geschäftsmodell, dessen erstes Opfer die Werbebranche selbst sein wird. Das neue Modell beruht darauf, Macht von Menschen auf Algorithmen zu übertragen, darunter auch die Macht, Dinge auszuwählen und zu kaufen. Sobald Algorithmen Sachen für uns auswählen und kaufen, wird die traditionelle Werbebranche eingehen.[2]

Das Zeitalter des Humanismus, dass der Mensch im Mittelpunkt steht, ist vorbei. Jetzt kommt das Zeitalter der Daten. Der Mensch ist nur Mittel zum Zweck. Früher waren Menschen notwendig, um Kriege zu führen, Maschinen zu bedienen. Diese Zeiten sind zu Ende. Was in Zukunft zählt, das sind Daten.[3]

read more

Diese Aussage mag zum einen unangenehm in einem aufsteigen, aber gleichzeitig ist es das, wonach sich die Wirtschaft auszurichten scheint. Und die Menschen machen dabei fröhlich mit und verschenken kostenlos Daten, die rückwirkend den Menschen beeinflussen und von jenen, die im Besitz der Daten sind, entsprechend zum Eigenvorteil genutzt werden. Das kann Folgen haben, die man sich kaum vorzustellen vermag.

Schwarzmalerei, kommt jetzt vielleicht als Antwort. So schlimm wird es nicht, meinen andere sanftmütiger. Doch ich merke, dass immer mehr Menschen in meinem Umfeld Aussagen, wie beispielsweise von Harari, doch nicht mehr nur als Propaganda abtun, sondern den Ernst der Lage erkennen. Die global digital wirkenden Einflussgrößen und die damit einhergehenden Veränderungen und Machtzentrierungen treffen jeden in ungeahnter, kaum zu erfassender Weise im Job und privat – mit Ausnahme der Eliten, ohne diese jetzt schlecht reden zu wollen.

  • Vielleicht sind es gerade einzelne der Eliten, die bewusst hinsehen und merken, dass man anders an die digitale Revolution herangehen muss.

  • Mag aber auch sein, dass die Eliten und sich nach der Elite dazugehörig Sehnende sich einfach nur die Macht zu sichern versuchen – aus Angst, irgendwann im Digitalisierungsprozess möglicherweise zu der Masse von VerliererInnen zu zählen?

Ich weiß, dass ist alles andere als das, womit Sie als Führungskräfte sich auseinandersetzen wollen. Das trifft Sie vermutlich unangenehm. Entweder, weil Sie alles daran setzen, zur Elite zählen zu wollen und damit Entscheidungen zu einseitig betrachten, oder weil Sie bereits die Ohnmacht spüren, und das wegzuschieben suchen?!

Lektionen für das 21. Jhdt.

Es ist noch schwer vorstellbar, in welcher Weise die technischen Innovationen die Arbeitsweisen, das Leben insgesamt ändern werden. Auf der einen Seite ist es sehr verständlich, dass all jene, die die Innovationen vorantreiben, davon leidenschaftlich berührt sind. Doch im Rausch der Errungenschaften übersieht man leicht die Folgen. Ich nehme an, dass die AtomphysikerInnen ihre wissenschaftlichen Leistungen im Bereich der Kernspaltung bzw. Kernfusion im 20 Jhdt. positiv betrachtet haben, aber die möglichen Folgen hat man klein geredet bzw. ausgeblendet. Ich gehe jetzt weniger davon aus, dass man die umfassenden Folgen nicht gekannt hätte – was auch eine Möglichkeit gewesen wäre.

Harari schreibt nüchtern: Menschen waren oftmals besser darin, Instrumente zu erfinden, als diese klug zu nutzen. Es ist leichter, einen Flusslauf zu regulieren, indem man einen Damm baut, als all die komplexen Folgen vorherzusagen, die ein solcher Dammbau für das allgemeine Ökosystem haben wird.[4] Und so verhält es sich auch mit den neuesten Technologien. Harari glaubt, dass kaum jemand in der Lage ist die neuen Technologien mit den Folgen zu verstehen, geschweige denn das explosive Potential der neuen Technologien in den Griff zu bekommen.

Man sei schlecht gerüstet, um mit der KI und der Blockchain-Revolution fertig zu werden. Es kann bald schon so weit kommen, dass ein Algorithmus den Haushalt oder die neue Steuerreform billigt. Peer-to-peer-Blockchain-Netzwerke und Kryptowährungen wie Bitcoin könnten jederzeit das Geldsystem umkrempeln.[5] Bisher hat das noch nicht funktioniert. Aber wer weiß, vielleicht klappt es beim nächsten Versuch, aufgepeppt mit neuen technischen Raffinessen. Die Informationstechnologie und die Biotechnologie stecken zwar noch in Kinderschuhen, aber wie lange noch. Wir haben keine Ahnung wie die Auswirkungen tatsächlich wirken werden.

Man geht davon aus, dass maschinelles Lernen und Robotik so gut wie jedes Metier verändern werden – von der Joghurtproduktion bis zum Achtsamkeitstraining. Milliarden von Menschen würden ökonomisch überflüssig werden. Das maschinelle Lernen wird ein echter „Game Changer“ werden. Die KI übertrifft die Menschen irgendwann sogar was die menschlichen Emotionen betrifft.[6] Die Maschinen werden Gefühle, Wünsche und Entscheidungen immer besser analysieren, Entscheidungen vorhersagen und Menschen in kaum vorstellbarer Weise in unterschiedlichsten Arbeitsbereichen ersetzen können [7], FahrerInnen, Bankangestellte, AnwältInnen, selbst medizinische Diagnosen, … Die KI wird Menschen sogar in der Intuition einmal überflügeln.

Die Sprachassistentin Alexa von Amazon kann bald an der Stimme erkennen, dass man krank ist, bevor man es selbst weiß. Die Maschine kann mehr hören, als wir sagen, weil jede menschliche Stimme Dinge ausspricht, die man lieber verschweigt. Die Stimme ist ein hochsensibles biometrisches Merkmal, aus der man zahlreiche Informationen herauslesen kann, u.a. eben auch, ob man bald krank wird. Dann könnte Alexa gleich reagieren und entsprechende Medikamente bereitstellen. Die Installation smarter Lautsprechersysteme zielt auf eine kybernetische Kontrollstrategie ab: Es geht darum, über die Auswertung von Nutzerdaten eine gewisse Vorhersagbarkeit und Kontrolle des Verhaltens zu erzielen.[8] Wie weit das reichen kann, weiß man bereits vom Brexit und dem Wahlkampf von Trump. Beides war möglich mit Hilfe einer entsprechenden Datenanalyse.[9]

Auch bei Bewerbungsgesprächen kann beispielsweise eine Sprachanalyse Informationen einholen, die ohne Maschine im Verborgenen bleiben könnten, wie beispielsweise Alkoholsucht, posttraumatische Störungen, u.a. Das stellt die Kommunikation auf eine ganz neue Grundlage. Durch eine Sprachsteuerung ist man gezwungen, das Innerste offen zu legen. Lt. MeinungsforscherInnen wird bis zum nächsten Jahr, sprich bis 2020, die Hälfte aller Suchanfragen per Sprachsteuerung erfolgen.[10] Das hat Folgen, die man kaum zu erfassen wagt, wenn man weiß, was aus den Daten alles herausgelesen werden kann. Oder man will dabei zu den Ersten gehören, die daraus Gewinne erzielen und die Daten für sich nutzen? Aber auch das hat Folgen, die irgendwann einmal auf einen zurückfallen könnten.

Mir kommt vor, dass viele Menschen zu unbedarft an das Thema Informations- und Biotechnologie herangehen. Man lässt sich von den Errungenschaften und den damit verbundenen Erfolgsaussichten, zu schnell verführen. Warnungen, die es gibt, lässt man außer Acht. Es scheint fast so wie beim Zauberlehrling von J.W. Gothe. Anfänglich ist der Zauberlehrling stolz auf sein Können. Doch irgendwann merkt er, wie er der Situation nicht mehr gewachsen ist:

Die ich rief, die Geister, werd ich nun nicht los

Die Geister gewinnen an Kraft und Macht, beeinflussen irgendwann mehr als vielen lieb ist, unter Umständen auch jene, die meinen davon profitieren zu können.

  • Pro Minute werden im Netz Hunderttausende von Google-Anfragen und Facebook-Posts gesendet. Diese verraten, was man denkt und fühlt.

  • Demnächst sind die Gegenstände um uns herum mit dem „Internet der Dinge“ verbunden, vielleicht sogar unsere Kleidung. Alles wird intelligent, Smartphones, Smart Homes, Smart Factories und Smart Cities.

  • 70 Prozent aller Finanztransaktionen werden bereits heute von Algorithmen gesteuert,

  • digitale Zeitungsnews werden zum Teil schon automatisch erzeugt.

  • In zehn Jahren soll es 150 Milliarden vernetzte Messsensoren geben, 20ig mal mehr als heute Menschen auf der Erde leben. Die Datenmenge wird sich dann alle zwölf Stunden verdoppeln.[11]

So resultieren mögliche Arbeitsplatzverluste durch ein integriert agierendes künstliches Netzwerk. Die KI kann eben ganz anders vernetzt agieren, als Menschen dies können. So sind beispielsweise selbstfahrende Autos immer und jederzeit miteinander vernetzt und teilen ihr Wissen in Sekundenbruchteilen, agieren nicht in getrennten Einheiten, sondern als Teil eines einzigen Algorithmus. Das hat außerordentlich positive Aspekte, weil mit dem Umstieg auf selbstfahrende Autos jedes Jahr eine Million Menschen das Leben gerettet werden könnte. In ähnlicher Weise verhält es sich in der Medizin. Das gesamte medizinische Wissen und neue Einsichten stehen allen KI weltweit in Sekundenbruchteilen zur Verfügung, und diese können sich so entsprechend schnell weiterbilden.[12]

  • Wie soll da der Mensch noch mithalten können?

  • Aber gleichzeitig kann der Mensch davon unglaublich profitieren!

KI-Ärzte könnten Milliarden Menschen eine weit bessere und billigere Gesundheitsversorgung bieten. Im Pflegepersonal sieht es etwas anders aus, dort wird es vermutlich etwas länger dauern bis entsprechend begabte Pflegeroboter zum Einsatz kommen können.[13] Eines ist jedoch gewiss, kein Arbeitsplatz ist sicher vor der Automatisierung und der KI.

Selbst die Kunst kann sich die KI einverleiben und empathisch entsprechend der Stimmung und der Wünsche dem Menschen mit Musik, Lyrik, Bildern, … den Tag versüßen. Mithilfe biometrischer Daten könnten Algorithmen sogar personalisierte Melodien erzeugen, die einem einzigen Menschen auf dieser Welt ins Herz gehen. Algorithmen könnten Welthits besser produzieren als personalisierte Raritäten. Biometrische Algorithmen haben die Chance, die beste Kunst zu produzieren, die es in der Geschichte je gab.[14]

Das sind alles Gründe, warum Harari von der aufkommenden Bedeutungslosigkeit von Milliarden von Menschen spricht. Was das für Folgen für jeden und jede Einzelne hätte, das kann man sich nicht wirklich vorstellen.

Die Eliten, die die Macht über die Daten zu sichern im Stande sind, könnten profitieren, aber welche Art von Gewinn wäre das?

Der Haken liegt nicht nur in der Technik selbst und den damit verbundenen Möglichkeiten, sondern vielmehr im Erfolgsdrang, im Machtkampf der Menschen. Daher auch die Aussage bzw. Rechtfertigung von Michael Kosinski, Experte für Psychometrik, ein datengetriebener Nebenzweig der Psychologie mit dem Ziel, die Persönlichkeit der Menschen zu vermessen: Er verteidigte, er hätte die Methodik nicht als Bombe zur Datenmanipulation gebaut, er hat bloß das Wissen bereitgestellt.[15] Diese Aussage scheint mir wichtig. Denn wie oft kommt es vor, dass man etwas in guter Absicht entwickelt, oder aus wissenschaftlichem Eifer heraus Erfindungen vorantreibt, ohne die möglichen umfassenden Folgen zu bedenken.

Visionäre, u.a. Elon Musk, Bill Gates und Apple-Mitbegründer Steve Wozniak warnen vor den digitalen Möglichkeiten und der künstlichen Superintelligenz. Gleichzeitig setzen immer mehr Unternehmen aber genau auf diese Technologien, um den Erfolg, Macht bzw. auch ihr Überleben zu sichern.[16] Die Zauberwerkzeuge werden im digitalen Rausch nicht kritisch genug hinterfragt, obgleich niemand ganz genau einzustufen vermag, welche Folgen der Einsatz von diesen Zauberwerkzeugen tatsächlich mit sich bringt – für die große Masse, aber auch für die Eliten. An dem Punkt stellt sich die Frage:

  • Wer soll in welcher Weise für einen angemessenen Umgang mit Informations- und Biotechnologien Verantwortung tragen – die Regierungen mit umfassenden Regelungen, die Unternehmen selbst mit beispielsweise eigens formulierten Richtlinien, Forschungsinstitute mit Ethikpapieren, jedes einzelne Individuum für sich selbst, …?

Mag sein, dass Sie das Thema gänzlich überzeichnet sehen. Mag sein, dass Sie sich dieser Verantwortung nicht stellen können bzw. wollen, u.a., weil Sie zur Elite zählen und Ihre Machtposition im digitalen Wettkampf damit sichern – ohne das kritisieren zu wollen. Es ist irgendwie verständlich, ein menschlicher Drang, zu den GewinnerInnen zählen zu wollen.

Wie dem auch sei, die EU reagiert, und hat am 8. April 2019 Empfehlungen für Ethik-Regeln zur Entwicklung und Anwendung KI in Europa vorgelegt, mit dem Ziel: KI soll genutzt werden, um einen positiven Wandel der Gesellschaft sowie Nachhaltigkeit und ökologische Verantwortung zu fördern. Das lässt sich die EU auch einiges kosten: mindestens 20 Milliarden EURO an privaten oder öffentlichen Geldern. In einer Pilotphase können Unternehmen, Forschungsinstitute und Behörden bis 2020 die ethischen Richtlinien mit den von einer KI-Expertengruppe erstellten Beurteilungslisten in der Praxis testen und ihre Erfahrungen mitteilen. Nach dem Abschluss der Pilotphase sollen entsprechende Gesetzesvorschläge entwickelt werden.[17]

Das klingt auf den ersten Blick gut, aber wird von manchen, u.a. von Thomas Metzinger, Philosoph, Mitglied der Expertengruppe, die die Richtlinien im Auftrag der EU-Kommission erarbeitet haben, als erdachte Marketing-Narrative, als Gute-Nacht-Geschichte für die KundInnen von morgen, betrachtet. In Wirklichkeit geht es nur darum, Zukunftsmärkte zu entwickeln und Ethikdebatten als elegante öffentliche Dekoration für eine groß angelegte Investitionsstrategie zu benutzen. Es mangelt an echten EthikerInnen. Was sich zeigt, das sind „ethics washing“. Das bedeutet, dass die Industrie ethische Debatten organisiert und kultiviert, um sich Zeit zu kaufen, um die Öffentlichkeit abzulenken, um wirksame Regulation und echte Politikgestaltung zu unterbinden oder zumindest zu verschleppen.[18]

Das mag stimmen. Daran zeigt sich, wie außerordentlich schwer es ist, das Machstreben anders auszurichten, Macht zu teilen, nicht den IQ sondern den WeQ zu stärken.

Die Angst den Anschluss zu verlieren, sitzt so tief, dass man sich nur schwer ehrlich auf Debatten einlassen kann, die auf den ersten Blick nicht unbedingt nur der Machtsicherung, der Gewinnmaximierung und dem Abhängen von Konkurrenten dient, sondern eine für viele wohlwollende Lösung anstrebt. Es ist schwer der Versuchung zu widerstehen, den Wettkampf im alten Stil fallen zu lassen, nicht zur angestrebten Elite zu gehören, die man anhimmelt, von denen man abhängig ist und deren Macht man sich zu erkaufen sucht, um damit vielleicht auch einmal einen Hauch elitärer Macht spüren zu können.

Conclusio mit einem positiven Blick in die Zukunft

  • Mag sein, dass Sie nun das Gefühl haben, egal was Sie bei der Thematik technische Errungenschaften und der verantwortungsbewussten Nutzung davon im globalen Wettbewerb machen, es passt ohnehin nicht – sei es für das Unternehmen, sei es für Sie selbst, für Ihre MitarbeiterInnen oder die Gesellschaft. Es könnte sein, dass Sie die Digitalisierung in einer gewissen Weise lahmlegt, eine Art Ohnmacht auslöst, weil Sie für sich bzw. für das Unternehmen keinen anderen Ausweg sehen als brav mitzumachen, um weiterhin unternehmerisch erfolgreich zu sein und mit der Konkurrenz mithalten zu können.

  • Mag aber auch sein, dass Sie jetzt im Moment verärgert sind, weil Sie gerade in Zeitnot sind und keine fiktiven, in die Zukunft ausgerichteten gesellschaftlich-ethischen Grundsatzdiskussionen führen wollen, sondern rasch Lösungen brauchen, um eben den Anschluss nicht zu verpassen.

  • Ebenso kann es sein, dass Sie das Gerede um die digitale Revolution und die Folgen daraus als viel zu überzeichnet sehen, …

Wie dem auch sei, machen wir jetzt gemeinsam einen positiven Blick in die Zukunft, beschäftigen wir uns mit einem positiven Szenario in Bezug auf die aufstrebenden Informations- und Biotechnologien – dieses könnte lauten:

Auch wenn Metzinger die ethischen Richtlinien der EU kritisiert, muss er gleichzeitig zugeben, dass die EU aktuell die beste Plattform für die nächste Phase der Diskussion in Bezug auf die heiklen Aspekte der neuen Technologien bereithält. Die EU hat die geistige Führung in der globalen Debatte um den ethisch richtigen Umgang mit der KI übernommen.[19] In welcher Weise das die Eliten dazu bewegt, deren Handeln zu hinterfragen, das steht in den Sternen.

Was wäre, wenn Ihr Unternehmen es wagt, sich dem Dilemma Machtstreben einerseits – weitreichendes Verantwortungsbewusstsein andererseits ehrlich zu stellen?

  • In den Social Media Räumen würde das vermutlich hoch angesehen werden.

  • Sie könnten damit profitieren, KundInnen wie auch engagierte MitarbeiterInnen gewinnen in einer Weise, die Sie bis dato nicht angedacht haben.

  • Dafür braucht es die neuen Technologien, doch werden diese in anderer Weise genutzt. Das erfordert jedoch mehr Wissen über die Technologien selbst, und auch mehr Achtsamkeit vor missbräuchlichen Verwendungen.

Das braucht jedoch deutlich mehr Aufklärungsarbeit, aber vor allem den ehrlichen Blick in den Spiegel. Das verlangt meines Erachtens nach auf allen Ebenen und Fachgebieten nachdrücklich mehr Reflexion, mehr Miteinander als Gegeneinander, mehr gemeinsame Interessen finden, gemeinsame Win-Win-Situation schaffen, statt unternehmerisch nur auf den eigenen Erfolg zu setzen.

  • Das könnte mit sich bringen, dass man unternehmerisch übergreifend auf kooperative Innovationen setzt, eine digitale Mitmachgesellschaft unterstützt und eine Sharing Economy freisetzen hilft.[20]

Die große Herausforderung heißt: 

Zugeben, dass man unter Umständen die digitalen Technologien missbräuchlich verwendet, bzw. man die Kraft und Folgen der neuen Technologien unterschätzt und nicht ehrlich genug hinterfragt.

Die Geister, die man rief, könnten ein Eigenleben entwickeln, von dem jeder und jede betroffen sein kann – die Maße von Menschen, aber auch die winzigen Eliten.

Wenn Menschen weder als ProduzentInnen noch als KonsumentInnen benötigt werden, was wird dann ihr physisches Überleben und ihr psychisches Wohlergehen garantieren? Um mit den beispiellosen technologischen und ökologischen Verwerfungen des 21. Jhdt. fertig zu werden, müssen so bald wie möglich neue gesellschaftliche und wirtschaftliche Modelle entworfen werden, um die wirtschaftliche Entwurzelung einer Maße von Menschen abzufedern und gleichzeitig die Eliten vor dem Volkszorn zu schützen.[21]

Ihr Günther Wagner

 

PS: Um meine zukünftigen Beiträge zu lesen, können Sie mir auch auf LinkedIn, Xing und Twitter folgen. Darüber hinaus finden Sie in der Gruppe „Leadership Café …“ neben meinen Beiträgen ebenso Beiträge anderer HR Influencer.

 

Literaturquellen:

[1] Harari, Yuval Noah: 21 Lektionen für das 21. Jahrhundert. Verlag C.H.Beck oHG, München: 2018.
[2] Harari, Yuval Noah: 21 Lektionen für das 21. Jahrhundert. Verlag C.H.Beck oHG, München: 2018.
[3] Fachkreistagung der VVB (Vereinigung der Versicherungs-Betriebswirte) am 22.03.2019 in München: Künstliche Intelligenz und Analytics.
[4] Harari, Yuval Noah: 21 Lektionen für das 21. Jahrhundert. Verlag C.H.Beck oHG, München: 2018.
[5] Harari, Yuval Noah: 21 Lektionen für das 21. Jahrhundert. Verlag C.H.Beck oHG, München: 2018.
[6] Harari, Yuval Noah: 21 Lektionen für das 21. Jahrhundert. Verlag C.H.Beck oHG, München: 2018.
[7] Harari, Yuval Noah: 21 Lektionen für das 21. Jahrhundert. Verlag C.H.Beck oHG, München: 2018.
[8] https://www.nzz.ch/feuilleton/sprachgesteuerte-computer-an-meiner-stimme-merkt-alexa-dass-ich-krank-bin-bevor-ich-selber-es-weiss-ld.1472652. Am 2019-04-16 gelesen.
[9] https://en.wikipedia.org/wiki/B._J._Fogg. Am 2018-09-05 gelesen.
[10] https://www.nzz.ch/feuilleton/sprachgesteuerte-computer-an-meiner-stimme-merkt-alexa-dass-ich-krank-bin-bevor-ich-selber-es-weiss-ld.1472652. Am 2019-04-16 gelesen.
[11] https://www.spektrum.de/news/wie-algorithmen-und-big-data-unsere-zukunft-bestimmen/1375933. Am 2018-09-04 gelesen.
[12] Harari, Yuval Noah: 21 Lektionen für das 21. Jahrhundert. Verlag C.H.Beck oHG, München: 2018.
[13] Harari, Yuval Noah: 21 Lektionen für das 21. Jahrhundert. Verlag C.H.Beck oHG, München: 2018.
[14] Harari, Yuval Noah: 21 Lektionen für das 21. Jahrhundert. Verlag C.H.Beck oHG, München: 2018.
[15] https://www.security-finder.ch/security-news/detail/article/big-nudging-zur-problemloesung-wenig-geeignet.html. Am 2018-09-05 gelesen.
[16] https://www.spektrum.de/news/wie-algorithmen-und-big-data-unsere-zukunft-bestimmen/1375933. Am 2018-09-04 gelesen.
[17] https://www.heise.de/newsticker/meldung/Kuenstliche-Intelligenz-EU-startet-Pilotphase-fuer-Ethik-Regeln-4366342.html. Am 2019-04-16 gelesen.
[18] https://www.msn.com/de-de/finanzen/top-stories/eu-ethikrichtlinien-für-künstliche-intelligenz-nehmt-der-industrie-die-ethik-weg/ar-BBVJrpa. Am 2019-04-16 gelesen.
[19] https://www.msn.com/de-de/finanzen/top-stories/eu-ethikrichtlinien-für-künstliche-intelligenz-nehmt-der-industrie-die-ethik-weg/ar-BBVJrpa. Am 2019-04-16 gelesen.
[20] https://www.spektrum.de/news/wie-algorithmen-und-big-data-unsere-zukunft-bestimmen/1375933. Am 2018-09-04 gelesen.
[21] Harari, Yuval Noah: 21 Lektionen für das 21. Jahrhundert. Verlag C.H.Beck oHG, München: 2018.

reduce text