Manipulation
BIG NUDGING – DIE MACHT DER DIGITALEN MANIPULATION

BIG NUDGING – DIE MACHT DER DIGITALEN MANIPULATION

Der ArtikelDie Macht der Manipulationhat reges Interesse gezeigt, ebenso wie mein Kurzbeitrag zum ThemaManipulation. Ich möchte diese Beiträge heute um einen wichtigen Punkt in Bezug auf Manipulation ergänzen – Big Nudging. Das ist mir wichtig, weil die digitale Manipulation meiner Beobachtung nach eine Kraft und Macht entwickelt, die es nicht zu unterschätzen gilt.

Mir kommt vor, dass viele Menschen zu unbedarft an dieses Thema herangehen. Man lässt sich von den Techniken und Methoden, wie beispielsweise dem „digitalen Nudging“ und den damit verbundenen Erfolgsaussichten, zu schnell verführen. Warnungen, die es gibt, lässt man außer Acht. Es scheint fast so wie beim Zauberlehrling von J.W. Gothe. Anfänglich ist der Zauberlehrling stolz auf sein Können. Doch irgendwann merkt er, wie er der Situation nicht mehr gewachsen ist: Die ich rief, die Geister, werd ich nun nicht los.[1]

J.B. Fogg, Gründer und Direktor vom Standford Persuasive Technology Lab, hat auch nicht geahnt, welche Geister er mit der Computer Aided Persuasive Technology, ins Leben rief.[2] Ebenso Michael Kosinski, Experte für Psychometrik, ein datengetriebener Nebenzweig der Psychologie mit dem Ziel, die Persönlichkeit der Menschen zu vermessen. Seine Methodik wird und wurde im großen Stil für politische Zwecke eingesetzt, u.a. beim Brexit sowie beim Wahlkampf von Trump. Auch die Bundesregierung in Berlin beschäftigt sich seit 2014 mit diesem Thema und hat einen Arbeitskreis „Wirksam Regieren“ gegründet, um die Bürger mit psychologischer Finesse durch digital Nudging zu lenken.[3] Dürfen die Regierungen das – Paternalismus statt Aufklärung?

Kosinski schüttelt dazu den Kopf und meint: Das ist nicht meine Schuld. Ich habe die Bombe nicht gebaut. Ich habe nur aufgezeigt, dass es eine solche gibt.[4] Fogg und Kosinski sehen die Entwicklungen von digitaler Manipulation mit kritischem Auge.

Definition Nudge

Beginnen wir mit der Definition von Nudging, die auf den ersten Blick wohlwollend ausgerichtet scheint: Nudge (engl. für Stups oder Schubs, Plural: nudges) ist ein Begriff der Verhaltensökonomik, der maßgeblich durch den Wirtschaftswissenschaftler Richard Thaler und den Rechtswissenschaftler Cass Sunstein geprägt wurde.[5]

Unter einem Nudge verstehen die Autoren eine Methode, das Verhalten von Menschen auf vorhersagbare Weise zu beeinflussen, ohne dabei auf Verbote und Gebote zurückgreifen oder ökonomische Anreize verändern zu müssen. Es wird von einem realistischen Menschenbild ausgegangen. Das heißt, der fehlbare Mensch scheint oft nicht in der Lage zu sein, für sich die optimale Entscheidung zu treffen. Durch die sogenannten „Nudges“ kann dies nach Thaler und Sunstein positiv motiviert ausgeglichen werden.[6] Im Marketing wird dieser Ansatz erfolgsversprechend eingesetzt. In rund 90 Ländern kommt Nudging bereits zur Anwendung.[7]

Marketing mit Nudging

Marketing mit Nudging gibt den VerbraucherInnen als Selbstoptimierer scheinbar nicht vor, wie sie sich entscheiden sollen, sondert liefert sozusagen hilfreiche Informationen (Nudges) zur besseren Orientierung und gesunden Entscheidung: So werden beispielsweise Zigarettenschachteln mit Warnhinweisen versehen und am Mittagsbuffet steht das Gemüse vor dem Fleisch. Durch diese Art der Lenkung soll die intrinsische Motivation und Involvement aktiviert werden, um einen Selbstüberzeugungs-Prozess zum Wohl der KäuferInnen in Gang zu setzen.

Marketing mit Nudging

Auch beim Content-Marketing und Storytelling sind ähnliche Ansätze zur Sensibilisierung und zum sanften, edukativen Anstupsen von Kaufentscheidungen enthalten. Nudging lässt sich besonders wirkungsvoll als Marketing-Methode beim Dialogansatz mit den KonsumentInnen 2.0 anwenden. Das kommt dem neuen Volkssport der BürgerInnen entgegen, Tag und Nacht in den endlosen Weiten des World-Wide-Web freiwillig zu tweeten, posten, Erlebnisse zu teilen, zu bewerten und rezensieren, sprich Daten zu hinterlassen. Doch Daten sind inzwischen zu einer Währung geworden.

Für KundInnen ist diese Art von Zuhören und Befragen sympathischer, vertrauenserweckender und glaubwürdiger als das selbstdarstellerische Verkünden und Anpreisen von Verkaufsangeboten.[8]

  • Dieser Ansatz, Menschen zu scheinbar positiv ausgerichteten Verhaltensweisen zu bewegen, klingt doch irgendwie akzeptabel?!

  • Aber es gibt den Haken. Man erinnere sich an den Wahlkampf von Trump und der Unterstützung durch Cambrigde Analytica – ein öffentlich gewordenes Beispiel von den meist verdeckt wirkenden Manipulationsstrategien.

Die Geister, die man rief, …

Der Haken mag beispielsweise im Marketing mit Nudging harmlos erscheinen. Fogg und Konsinski, die ich anfangs im Beitrag erwähnte, haben Techniken entwickelt, um Arbeitsweisen zu erleichtern. Doch wie man sieht, werden Techniken oft nicht mehr nur in guter Absicht weiterentwickelt, sondern beginnen ein Eigenleben. Und so kann sich schleichend ein harmlos, wohlwollender Haken in einen Monster-Haken verwandeln, den man kaum noch zu bewältigen vermag – analog zu den Erfahrungen des Zauberlehrlings in der Ballade von Goethe.

Der Haken ist nicht nur in der Technik selbst, und den damit verbundenen Möglichkeiten zu finden, sondern vielmehr im Erfolgsdrang, im Machtkampf der Menschen. Daher auch die Aussage bzw. Rechtfertigung von Kosinski: Er hat die Bombe nicht gebaut, er hat bloß das Wissen bereitgestellt.[9] Diese Aussage scheint mir wichtig. Denn wie oft kommt es vor, dass man etwas in guter Absicht entwickelt, oder aus wissenschaftlichem Eifer heraus Erfindungen vorantreibt, ohne die möglichen Folgen und Missbräuche zu bedenken. Die digitalen Manipulations-Geister sind nun da, und sie wirken.

Pro Minute werden im Netz Hunderttausende von Google-Anfragen und Facebook-Posts gesendet. Diese verraten, was man denkt und fühlt. Demnächst sind die Gegenstände um uns herum mit dem „Internet der Dinge“ verbunden, vielleicht sogar unsere Kleidung. Alles wird intelligent, Smartphones, Smart Homes, Smart Factories und Smart Cities. 70 Prozent aller Finanztransaktionen werden bereits von Algorithmen gesteuert, und digitale Zeitungsnews werden zum Teil schon automatisch erzeugt. In zehn Jahren soll es 150 Milliarden vernetzte Messsensoren geben, 20ig mal mehr als heute Menschen auf der Erde leben. Die Datenmenge wird sich dann alle zwölf Stunden verdoppeln.[10]

2012 konnte Kosinski bereits aus durchschnittlich 68 Facebook-Likes eines Users vorhersagen, welche Hautfarbe dieser/diese hat, ob dieser homosexuell ist, ob Demokrat oder Republikaner, selbst die Intelligenz, Religionszugehörigkeit, Alkohl-, Zigaretten- und Drogenkonsum lässt sich berechnen, wie auch familiäre Begebenheiten, beispielsweise ob die Eltern sich vor dem 21. Lebensjahr scheiden ließen, usw. Aber es geht nicht bloß um die Likes auf Facebook. Selbst anhand von Porträtfotos kann man treffsichere Aussagen machen und entsprechende Ableitungen und Manipulationen tätigen.[11]

Es ist absehbar, dass Supercomputer bald die menschlichen Fähigkeiten in fast allen Bereichen übertreffen werden – irgendwann zwischen 2020 und 2060. Maschinenlernende Systeme bahnen sich ihren Weg in so unterschiedliche Gebiete wie Strafjustiz, Kreditprüfung, Wohnungsvermittlung, Versicherung, Bildung und Medizin. In einer Geschäftswelt, in der alle von künstlicher Intelligenz (KI) schwärmen, sehen zu viele in der Akkumulation von Daten die Lösung jeglichen Problems.[12] Das stärkt Big Data weiterhin. Kommt dann der Punkt, wo sich Big Data und die Nudging-Methoden vereinen, dann hat man einen Zauberstab kreiert – vielleicht das mächtigste Steuerungsinstrument gesellschaftlichen Lebens.[13]

Das mag Unternehmen nicht gleich aufstoßend erscheinen. Auf den ersten Blick scheint daran nichts verwerflich zu sein – jedes Unternehmen will zu den Gewinnern zählen, erfolgreich sein, im Wettbewerb überleben. Führungskräfte wollen sich profilieren. Um das sicherzustellen greift man verständlicherweise auf Methoden und Techniken, die den Erfolg tatsächlich auch zu sichern scheinen, und die es ermöglichen, dem Druck der Konkurrenz standzuhalten. Aber genau das kann auch gefährlich werden. Dann, wenn man Big Data und die digitalen Nudging-Methoden einzig auf das Ziel ausrichtet, Gewinne zu generieren, und die im Hintergrund laufenden Mechanismen für unrelevant einstuft. Ich spreche an dieser Stelle nicht von bewusst missbräuchlichen Absichten. Das möchte ich ganz klar keinem, keiner LeserIn von meinen Beiträgen unterstellen.

Man mag zwar als Unternehmen bis zu einem gewissen Grad verstehen, wie man die Informationsflüsse zwecks Lenkung von Meinungen und Bedürfnissen zu steuern vermag, um daraus für sich Gewinne einzuholen. Doch man vergisst im Eifer des Gefechts, dass die Nutzung von Big Nudging mehr als nur Gewinn bringt, sondern darüber hinaus Wirkung hat, die man vermutlich nicht abzuschätzen vermag – positiv wie eben auch negativ. Angefangen hat Nudging bzw. Big Nudging scheinbar harmlos: Suchmaschinen und Empfehlungsplattformen bieten personalisierte Vorschläge zu Produkten und Dienstleistungen.

Marketing mit Big Nudging

Die unterbreiteten Vorschläge scheinen passgenau, so dass sich die daraus resultierende Entscheidung wie die eigenen anfühlt, obwohl es eine fremde Entscheidung ist.[14]

B.J. Fogg schrieb 2003 in „Persuasive Technology“, dass Computer in mehrfacher Hinsicht viel besser geeignet sind, Menschen zu etwas zu überreden, als andere Menschen. Was er jedoch auch schrieb, dass die Evolution von Überredungstechnologie nicht allein dem Markt überlassen werden sollte – aber genau das ist passiert. [15] Viele SchülerInnen von Fogg sind mit seinem Modell und Verständnis von „Computer Aided Persuasive Technology“ in den Markt gegangen und reich geworden. Fogg selbst sieht das äußerst beunruhigend.[16]

Einige Softwareplattformen arbeiten mit dem „Persuasive Computing“, mit ausgeklügelten Manipulationstechnologien, die Menschen zu ganzen Handlungsabläufen bringen können.[17] Bei Uber, der Firma, die wie keine andere für die rücksichtslose Ausnutzung digitaler Profitmaximierungsmöglichkeiten steht, ist man noch einen Schritt weiter. Dort wird nicht nur das Konsum- und Kommunikationsverhalten captologisch optimiert, sondern auch der Fleiß der freiberuflichen FahrerInnen mit entsprechend digital ausgetüftelten Überredungstechnologien arbeitstechnisch beeinflusst. Was aber besonders nachdenklich stimmt ist die Tatsache, dass zwischen der Management-Ebene des Unternehmens und denen, die die Arbeit machen, eine undurchdringliche Schicht künstlicher Intelligenz eingezogen ist. Wer unterhalb der Schicht arbeitet, ist kein/e Angestellte/r, kein/e Angehörige/r des Unternehmens, sondern ein freiberuflicher Teil der Maschine.[18]

Diese auf den ersten Blick dunkle Seite der Macht der Manipulation mag für manche von Ihnen vielleicht übertrieben erscheinen. Einige sind vielleicht auch noch davon überzeugt, frei von den Verführungen aus dem Netz zu sein bzw. Manipulationspraktiken selber nicht anzuwenden. Das mag stimmen, aber wie sicher können Sie wirklich sein, dass Sie technischen Raffinessen, welche die Verkaufszahlen erhöhen und Ihre MitarbeiterInnen besser motivieren, tatsächlich widerstehen?

Wie sicher können Sie darüber hinaus sein, dass manche Informationen wirklich relevant sind? Das diese nicht bloß durch Bots, aus dem Ausland gesteuerte Trolle-Armeen und Mikrotargeting an Bedeutung gewinnen? Es kann Ihnen passieren, dass Sie aufgrund bestimmter Informationen meinen, Sie müssen rasch entscheiden, obgleich ohne Trolle gar keine Notwendigkeit dazu bestehen würde.[19] Sie sind in einem solchen Fall den Trollen auf den Leim gegangen, und noch schlimmer, Ihnen fällt das vielleicht auch im Rückblick nicht auf.

Marketing mit Big Nudging

Man geht davon aus, dass die Art, wie Wirtschaft und Gesellschaft organisiert ist, sich fundamental ändern wird. Visionäre wie Elon Musk, Bill Gates und Apple-Mitbegründer Steve Wozniak warnen vor den digitalen Möglichkeiten und der künstlichen Superintelligenz. Gleichzeitig setzen immer mehr Unternehmen genau auf diese Technologien, um den Erfolg und ihr Überleben zu sichern. Das Zauberwerkzeug Big Nudging, die Kombination von Big Data und Nudging, wird nicht kritisch genug hinterfragt, obgleich niemand ganz genau einzustufen vermag, welche Folgen der Einsatz von einem solchen Zauberwerkzeug tatsächlich mit sich bringt. So könnten sich großflächige Eingriffe mit Big Nudging rückwirkend als schwerwiegende Fehler erweisen.[20] An dem Punkt stellt sich die Frage:

Wer soll in welcher Weise für einen angemessenen Umgang mit digitaler Manipulation Verantwortung tragen [21] – die Regierungen mit umfassenden Regelungen, die Unternehmen selbst mit beispielsweise eigens formulierten Richtlinien, Forschungsinstitute mit Ethikpapieren, jedes einzelne Individuum für sich selbst, …?

Solange Unternehmen, worunter auch Informationsplattformen fallen, mit manipulativen Technologien bei Millionen von Menschen experimentieren, ohne diese darüber konkret in Kenntnis zu setzen, ohne Transparenz und ohne etische Schranken, scheint die Frage nach der Verantwortung ziemlich belanglos zu sein. Mag auch sein, dass die Frage nach digitaler Manipulation manch einen Verantwortlichen in eine unangenehme Entscheidungslage, in eine Dilemmata-Situation bringt, die diesen oder diese überfordert. Das führt unter Umständen dazu, dass sich manche dem Erfolgsdruck beugen, lieber wegsehen, Big Nudging vorantreiben, als etwas genauer zu hinterfragen und kritische Reflexionen in Gang bringen.

 

RESÜMEE MIT EINEM POSITIVEM BLICK IN DIE ZUKUNFT 

Mag sein, dass Sie nun das Gefühl haben, egal was Sie bei dieser Thematik tun, es passt ohnehin nicht – sei es für das Unternehmen, sei es für Sie selbst, für Ihre MitarbeiterInnen oder die Gesellschaft. Es könnte sein, dass Sie die Auseinandersetzung mit „Big Nudging“ in einer gewissen Weise lahmlegt, eine Art Ohnmacht auslöst, weil Sie für sich bzw. für das Unternehmen keinen anderen Ausweg sehen als mitzumachen, um weiterhin unternehmerisch erfolgreich zu sein und mit der Konkurrenz mithalten zu können.

Mag aber auch sein, dass Sie jetzt im Moment verärgert sind, weil Sie gerade in Zeitnot sind, und keine fiktiven, in die Zukunft ausgerichteten gesellschaftlich-ethischen Grundsatzdiskussionen führen wollen, sondern rasch Lösungen brauchen.

Ebenso kann es sein, dass Sie das Gerede um Big Nudging und die Folgen als viel zu überzeichnet sehen, …

Wie dem auch sei, machen wir jetzt gemeinsam einen positiven Blick in die Zukunft, beschäftigen wir uns mit einem positiven Szenario in Bezug auf Big Nudging – das könnte lauten: Kollektive Intelligenz stärken.[22]

Ihr Unternehmen kann hier einen erfolgsversprechenden Input setzen, ebenso wie Regierungen und jedes einzelne Individuum. Dafür braucht es ebenfalls die neuen Technologien, doch werden diese in anderer Weise genutzt. Das erfordert jedoch mehr Wissen über die Technologien selbst, und auch mehr Achtsamkeit vor missbräuchlichen Verwendungen. Es braucht deutlich mehr Aufklärungsarbeit, und vor allem wieder einmal den ehrlichen Blick in den Spiegel. Das verlangt meines Erachtens nach auf allen Ebenen und Fachgebieten deutlich mehr Reflexion, mehr Miteinander als Gegeneinander, mehr gemeinsame Interessen finden, gemeinsame Win-Win-Situation schaffen, statt unternehmerisch nur auf den eigenen Erfolg zu setzen. Das könnte mit sich bringen, dass man unternehmerisch übergreifend auf kooperative Innovationen setzt, eine digitale Mitmachgesellschaft unterstützt und eine Sharing Economy freisetzen hilft.[23]

Das wir Technologien entwickeln und nutzen, die kein vordefiniertes Outcome bei den Menschen generiert, sondern mit denen sie ihr kognitives Potential entfalten können, mit denen das Resultat ihres Verhaltens automatisch an Qualität gewinnen wird (Humanistic Design). Diese Thematik wurde auch auf dem GamificationDay2018 intensiv diskutiert.[24]

Die große Herausforderung heißt vermutlich, zugeben, dass man unter Umständen die digitalen Technologien missbräuchlich verwendet, bzw. man die Kraft und Folgen von Big Nudging unterschätzt, und nicht ehrlich genug hinterfragt hat.

Um die digitale Kernkraft, wie das Big Nudging, positiv nutzen zu können, braucht es eine selbstkritische und couragierte Haltung. Das ist sicherlich viel leichter gesagt, als dann tatsächlich in der Hitze des Alltagsgeschäfts zum Ausdruck gebracht werden kann – ohne das jetzt anzuklagen. Im Gegenteil, es ist meines Erachtens nach wirklich außerordentlich schwierig, Erfolgsverheißungen wie beispielsweise dem Big Nudging, kritisch gegenüberzutreten bevor man es einsetzt – insbesondere dann, wenn die Konkurrenz mit der Anwendung dieser Technik schon signifikante Erträge generiert hat. Das braucht ein äußerst starkes persönliches wie auch unternehmerisches Rückgrat. Das verlangt unter Umständen nach Selbstentwicklung, was jedoch gerade in Management-Kreisen nicht unbedingt oberste Priorität hat.

Vielleicht stellen Sie sich jetzt einfach nur die Frage: Warum Sie so handeln wie Sie handeln? Machen Sie einen ehrlichen Blick in den Spiegel. Das meine ich jetzt nicht sarkastisch, sondern wirklich wertschätzend positiv ausgerichtet. Wir alle manipulieren. Wir alle wollen erfolgreich sein. Entscheidend ist, welchen Preis wir dafür zu zahlen bereit sind. Die Geister, die man rief, wirken nicht nur auf die anderen ein, sondern auch auf einen selbst zurück – positiv wie negativ.

Ihr Günther Wagner

 

PS: Um meine zukünftigen Beiträge zu lesen, können Sie mir auch auf LinkedIn, Xing und Twitter folgen. Darüber hinaus finden Sie in der Gruppe „Leadership Café …“ neben meinen Beiträgen ebenso Beiträge anderer HR Influencer.

 

Literaturquellen:

[1] https://de.wikipedia.org/wiki/Der_Zauberlehrling. Am 2018-09-05 gelesen.
[2] https://en.wikipedia.org/wiki/B._J._Fogg. Am 2018-09-05 gelesen.
[3] https://www.deutschlandfunkkultur.de/arbeitsgruppe-wirksam-regieren-den-deutschen-einen-stups.1008.de.html?dram:article_id=347199 Am 2018-09-12 gelesen.
[4] http://cgvr.informatik.uni-bremen.de/teaching/vr_literatur/Wahlmanipulation%20mittels%20Psychometrik%20und%20Social%20Media%20-%20Das%20Magazin,%202016.pdf. Am 2018-09-05 gelesen.
[5] https://de.wikipedia.org/wiki/Nudge. Am 2018-09-04 gelesen.
[6] https://de.wikipedia.org/wiki/Nudge. Am 2018-09-04 gelesen.
[7] https://www.spektrum.de/kolumne/big-nudging-zur-problemloesung-wenig-geeignet/1375930. Am 2018-09-05 gelesen.
[8] http://www.digitalwiki.de/nudging/. Am 2018-09-04 gelesen.
[9] https://www.security-finder.ch/security-news/detail/article/big-nudging-zur-problemloesung-wenig-geeignet.html. Am 2018-09-05 gelesen.
[10] https://www.spektrum.de/news/wie-algorithmen-und-big-data-unsere-zukunft-bestimmen/1375933. Am 2018-09-04 gelesen.
[11] https://www.security-finder.ch/security-news/detail/article/big-nudging-zur-problemloesung-wenig-geeignet.html. Am 2018-09-05 gelesen.
[12] https://www.blaetter.de/archiv/jahrgaenge/2018/august/wider-die-digitale-manipulation. Am 2018-09-04 gelesen.
[13] https://www.spektrum.de/news/wie-algorithmen-und-big-data-unsere-zukunft-bestimmen/1375933. Am 2018-09-04 gelesen.
[14] https://www.spektrum.de/news/wie-algorithmen-und-big-data-unsere-zukunft-bestimmen/1375933. Am 2018-09-04 gelesen.
[15] http://www.spiegel.de/wissenschaft/technik/digitale-ueberredungstechnik-laesst-menschen-nach-ihrer-pfeife-tanzen-a-1148463.html. Am 2018-09-04 gelesen.
[16] http://www.spiegel.de/wissenschaft/technik/digitale-ueberredungstechnik-laesst-menschen-nach-ihrer-pfeife-tanzen-a-1148463.html. Am 2018-09-04 gelesen.
[17] https://www.spektrum.de/news/wie-algorithmen-und-big-data-unsere-zukunft-bestimmen/1375933. Am 2018-09-04 gelesen.
[18] www.spiegel.de/wissenschaft/technik/digitale-ueberredungstechnik-laesst-menschen-nach-ihrer-pfeife-tanzen-a-1148463.html. Am 2018-09-04 gelesen.
[19] https://www.blaetter.de/archiv/jahrgaenge/2018/august/wider-die-digitale-manipulation. Am 2018-09-04 gelesen.
[20] https://www.spektrum.de/news/wie-algorithmen-und-big-data-unsere-zukunft-bestimmen/1375933. Am 2018-09-04 gelesen.
[21] https://www.spektrum.de/news/wie-algorithmen-und-big-data-unsere-zukunft-bestimmen/1375933. Am 2018-09-04 gelesen.
[22] https://www.spektrum.de/news/wie-algorithmen-und-big-data-unsere-zukunft-bestimmen/1375933. Am 2018-09-04 gelesen.
[23] https://www.spektrum.de/news/wie-algorithmen-und-big-data-unsere-zukunft-bestimmen/1375933. Am 2018-09-04 gelesen.
[24] Roman Rackwitz: Entscheidungsarchitektur oder humanistisches Design? Am 2018-09-12 gelesen.