Cambridge Analytica: Eine Fallstudie zum Behaviorismus Run Amok

Foto von Jefferson Santos auf Unsplash

Informationen über Personen zu verwenden, um sie zu manipulieren, ist nichts Neues. Psychologen bezeichnen die Theorie des Geistes als die Fähigkeit, verschiedene mentale Zustände anderen zuzuschreiben. Sobald wir anfangen, eine Theorie des Geistes zu entwickeln, erfolgt die Nutzung von Informationen, die wir über andere zu unserem Vorteil erhalten haben, sehr schnell. Obwohl dies keine rein menschliche Fähigkeit ist, haben wir dank unserer Fähigkeit zur Sprache und unseres großen Gehirns einen weitaus größeren Nutzen daraus gezogen als bei jeder anderen Spezies auf dem Planeten.

Ein Indikator für eine Theorie des Geistes ist die Fähigkeit zu täuschen. Tiere tun es die ganze Zeit. In einigen Fällen ist die Täuschung tatsächlich durch Evolution in die Biologie einer Kreatur verankert. Sogar in Insekten und Pflanzen finden wir Beispiele für falsche Signale, die potenziellen Raubtieren die Botschaft vermitteln sollen, dass sie giftig sind, obwohl dies nicht der Fall ist. Aber wenn es um die Schädelgrabung geht, kann die Menschheit ein Niveau von Raffinesse erreichen, das sich andere Spezies gar nicht vorstellen oder gar umsetzen können.

Das jüngste Beispiel für die Verwendung von Informationen aus unserem sozialen Umfeld, die für schändliche Zwecke genutzt werden, ist die Verwendung von Daten, die von Cambridge Analytica, einem auf die Ansprache von Wählern und Verbrauchern im Namen von Kunden spezialisierten Unternehmen, über rund 50 Millionen Facebook-Nutzer gesammelt wurden, um „ bewege sie zum Handeln. “

Wenn Sie gerade vom Mars gekommen wären, könnte Ihnen der Gedanke verziehen werden, dass die in London ansässige Datenfirma mit akademischen Verbindungen zu einer der bekanntesten Universitäten Englands die ersten war, die ernsthafte Anstrengungen unternahm, um absichtlich Millionen von Menschen ohne ihr Wissen oder Wissen zu manipulieren Zustimmung. Diese Manipulation spielt jedoch seit dem frühen 20. Jahrhundert eine immer offenere Rolle in unserer Gesellschaft.

Von der Madison Avenue bis zu den Hauptstädten der Politik auf der ganzen Welt - die neuesten Ideen der Psychologie, warum Menschen glauben und sich so verhalten, wie sie es tun, haben seit dem Ersten Weltkrieg immer mehr Faszination auf sich gezogen. Schließlich erfordert nichts mehr ein gutes Verkaufsgespräch als ein Krieg aus Gründen gekämpft zu werden, die so undurchsichtig sind wie der blutige Schlamm der Somme und des Verdun.

Propagandaplakat des Ersten Weltkrieges

In seinem Buch How Propaganda Works beschreibt der Philosoph Jason Stanley den Appell der Propaganda folgendermaßen:

Propaganda schließt eine rationale Debatte nicht einfach durch einen Appell an die Emotionen ab: Oft sind Emotionen rational und verfolgen Gründe. Es geht vielmehr darum, die Debatte durch "von Ideen losgelöste Emotionen" abzuschließen. Nach diesen klassischen Propagandacharakterisierungen, die in der Reflexion über die beiden großen Kriege des 20. Jahrhunderts entstanden sind, schließt Propaganda die Debatte unter Umgehung des rationalen Willens ab ... Propaganda ist Manipulation der rationaler Wille, die Debatte abzuschließen.

Behaviorismus gehörte zu den ersten nicht-freudianischen Theorien, die auf dem sich entwickelnden Gebiet der Psychologie aufkamen. Es ist nicht so sehr für Ideen gesperrt, sondern darauf zugeschnitten, jede Idee, die sich ergibt, voranzutreiben, ohne sich um ihre Gültigkeit oder ethische Implikationen zu sorgen. Der Gründungsvater des Behaviorismus, John Watson, war ein lebendiger Beweis für den amoralischen Charakter der von ihm propagierten Doktrin der menschlichen Natur. Seine Experimente konnten geradezu grausam sein, aber seine Argumentation schien die Mittel in seinem Kopf zu rechtfertigen. Die linearen mechanistischen Vorstellungen des Behaviorismus von menschlicher Motivation sind zwar keine Propaganda, machen ihn jedoch zur perfekten psychologischen Theorie für Regierungen und Industriezweige, die zunehmend nach „wissenschaftlichen“ Mitteln der Massenmanipulation suchen.

Im Gegensatz zu den Freudianern und Jungianern, die ihm vorausgingen, betrachtete Watson die Menschen als vergrößerte und etwas raffiniertere Versionen von Pawlows Hunden. Vielleicht speichelten wir nicht so offensichtlich, als wir die sprichwörtliche Glocke läuten hörten, aber unsere Reaktionen auf Reize waren in der Regel nicht weniger konditioniert. Noch wichtiger ist, dass aus Sicht von Werbetreibenden, Politikern, Geheimdiensten und anderen interessierten Parteien Watsons Theorie der menschlichen Natur uns vorhersehbar machte und ohne die chaotischen und oft verwirrenden Interpretationen der menschlichen Psyche auskam, für die Männer wie Freud und Jung bekannt waren.

Um zu demonstrieren, dass Menschen letztendlich nicht von Pawlows berühmten Eckzähnen zu unterscheiden sind, experimentierte Watson mit einem elf Monate alten "Little Albert". Dieses ahnungslose Kind war konditioniert, um Ratten zu fürchten, obwohl sich herausstellte, dass der Test andere Effekte hatte, als selbst Watson hätte erwarten können. In The Attention Merchants beschreibt der Medien- und Technologiejournalist Tim Wu das Experiment „Little Albert“ wie folgt:

"[Watson induzierte die Rattenphobie], indem er jedes Mal, wenn ihm eine weiße Ratte gezeigt wurde, mit einem Hammer auf eine Metallstange hinter dem Kopf des Babys schlug. Nach sieben Wochen der Konditionierung fürchtete sich das anfangs nagetierfreundliche Kind davor und brach beim Anblick in Tränen aus. Tatsächlich fürchtete das Kind alles, was weiß und pelzig war - Watson prahlte damit, "jetzt fürchtet er sogar den Weihnachtsmann".
Ein Film aus dem Little Albert-Experiment zeigt Baby Albert mit einem Kaninchen, flankiert von Dr. John Watson und Rosalie Rayner. (Wikimedia)

Es sollte offensichtlich sein, warum Behaviorismus die Werbebranche und bestimmte professionelle politische Aktivisten, die eine Abkürzung für die Herzen und Köpfe der stimmberechtigten Öffentlichkeit suchen, in hohem Maße anspricht. Wenn wir in der Tat darauf konditioniert sein können, auf eine bestimmte Nachricht oder ein bestimmtes Signal zu reagieren, indem wir ein bestimmtes Produkt kaufen oder auf eine bestimmte Weise abstimmen, wird sich die Person oder Firma, die die besten Mittel zur Konditionierung der meisten Menschen findet, im wahrsten Sinne des Wortes reich machen, indem sie diesen Service an die höchsten verkaufen Bieter.

Was bis heute immer wieder übersehen wird, ist die Tatsache, dass "Little Albert" nicht nur eine Phobie von Ratten entwickelt hat, sondern auch von anderen Dingen. In den Augen des armen Albert hatten harmlose Kaninchen und wohlwollende, wenn auch erfundene Charaktere wie der Weihnachtsmann genug ähnliche unscharfe Eigenschaften, um Angstzustände auszulösen. Mit anderen Worten, Watson hat nicht so sehr bewiesen, dass Konditionierung bei Menschen funktioniert - oder zumindest bei Menschen in sehr frühen Stadien der emotionalen und kognitiven Entwicklung -, dass Konditionierung zusätzlich zu der beabsichtigten alle möglichen unbeabsichtigten Reaktionen hervorruft. Dadurch bleibt die Vorhersagekraft des Behaviorismus möglicherweise verwässert und als homöopathisches Mittel ineffektiv. Es wirft auch eine Reihe heikler ethischer Fragen hinsichtlich der Anwendung auf Einzelpersonen und große Gruppen auf.

Dass jeder Behaviorismus letztendlich zeigt, ist, dass die Menschen unter den „richtigen“ Umständen beginnen, zwei oder mehr Dinge, die in keiner Beziehung zueinander stehen, miteinander in Verbindung zu bringen, ohne dass dies einen starken Placebo-Effekt auf Unternehmen und Kandidaten hat, die von der Anziehungskraft vereinfachter formelhafter Ansätze überzeugt sind zur menschlichen Komplexität. Genau diese Art von Anziehungskraft konnte Cambridge Analytica nutzen.

Geben Sie mir ein Dutzend gesunde, wohlgeformte Säuglinge und meine eigene Welt, um sie aufzuziehen, und ich garantiere, dass ich jeden zufällig nehmen und ihn zu jedem Spezialisten ausbilden werde, den ich auswählen könnte - Arzt, Anwalt, Künstler, Kaufmannschef und ja, sogar Bettlerdieb, ungeachtet seiner Talente, Vorlieben, Neigungen, Fähigkeiten, Berufungen und Rasse seiner Vorfahren. ~ John Watson
Die Arbeit von Cambridge Analytica an der Trump-Kampagne ist ein klares Beispiel dafür, wie datengesteuerte Marketingtechniken das Verhalten in Zielgruppen ändern können. Diese Techniken werden im gewerblichen Bereich eingesetzt und können Ihre wichtigsten Zielgruppen strategisch ansprechen, die Conversion-Raten verbessern und den Umsatz steigern. ~ Website von Cambridge Analytica

Seit geraumer Zeit sind die Nachrichten voller Geschichten über die Fähigkeit der sozialen Medien, Einblicke in die menschliche Verfassung zu gewähren, die wir sonst nicht hätten. Inzwischen haben wir alle gehört oder gelesen, dass die Trends der Google-Suche alles von bevorstehenden Grippepandemien bis hin zu unseren geheimen sexuellen Wünschen und Aufhängen offenbaren können Die Macht der sozialen Medien als analytisches Werkzeug.

Es ist nicht so, dass die Google-Suche nichts über uns aussagt. Es ist nur so, dass praktisch alles, was wir tun, etwas über uns aussagt. Um die Sache wirklich auf den Punkt zu bringen, müssen wir neben der Korrelation auch die Bedeutung und den Kontext berücksichtigen. Das erfordert echte Forschung und solche Anstrengungen erfordern Geld. Aus diesem Grund sind nur wenige bereit, sich auf wirklich sinnvolle Weise mit den Datenerfassungen in sozialen Medien zu befassen.

Hier sind nur einige der Fragen, die wir uns stellen sollten:

  • Was genau zeigt ein bestimmter Datenpunkt und wie sollte er gegen alle anderen Aktionen abgewogen werden, die eine Person im Laufe ihres Tages ausführt?
  • Inwieweit deuten zwei oder mehr Personen, die auf das Daumen-nach-oben-Symbol unter derselben Geschichte klicken, darauf hin, dass diese Personen dieselben oder ähnliche Persönlichkeitsmerkmale aufweisen?
  • In dem Maße, in dem Menschen möglicherweise dazu konditioniert worden wären, etwas im traditionelleren Sinne oder in einem sozialen Medienkontext zu „mögen“ (oder nicht zu mögen), inwieweit haben dieselben Umwelteinflüsse und sozialen Einflüsse sie dazu konditioniert?

Wie im Rest des Lebens einer Person wird die Liste der Variablen, die die Entscheidungen einer Person online beeinflussen, schnell lang. Um herauszufinden, was sie sind, müssen Sie nicht nur die Daten nach Mustern durchsuchen. Es wird Follow-up-Interviews oder andere Formen der direkten Kontaktaufnahme mit einer erheblichen Anzahl von Personen umfassen, die die Daten in erster Linie bereitstellen. Über das "Gefällt mir" -Symbol auf Facebook kann eine Person nicht angeben, wie gut der betreffende Beitrag auf einer Skala von 1 bis 10 gefallen hat. Facebook bietet auch kein Dropdown-Menü, mit dem die Leute auswählen können, was sie überhaupt motiviert hat, es zu mögen. Vielleicht hatten sie eine stärkere Verbindung zu der Person, die sie teilte, als sie den Inhalt selbst taten. Wer weiß? Keine der Firmen da draußen hat sich als die mit dem magischen Algorithmus positioniert, der die Antworten auf diese Fragen enthüllt.

Aber weder die wissenschaftliche Integrität im Besonderen noch die ethischen Standards im Allgemeinen standen ganz oben auf der Prioritätenliste von Cambridge Analytica, als sie Zugang zu den Facebook-Gewohnheiten von 50 Millionen Nutzern erhielten und begannen, die Daten nach Mustern zu durchsuchen. Wie in der Regel bei der Nutzung von Big Data liegt der Schwerpunkt fast ausschließlich auf der Korrelation, wobei nur wenig bis gar kein Aufwand in die Nachuntersuchung gesteckt wird, um festzustellen, was die in den Daten gefundenen Korrelationen tatsächlich bedeuten .

Sowohl die Kriminalitätsrate als auch der Eiscremekonsum steigen im Sommer, aber es folgt nicht, dass Kriminelle wie Eiscreme oder Eiscremekonsum Kriminalität verursachen. Darüber hinaus ist die Piraterie zurückgegangen, da die globalen Temperaturen gestiegen sind. Sollen wir daraus schließen, dass der Klimawandel mit einem Rückgang der Piraterie verbunden ist? Dies sind alberne Beispiele, aber nicht alberner als viele, die tatsächlich von einigen Data Analytics-Firmen als Proof of Concept angeboten werden. Auf der Website von Cambridge Analytica wird kurz auf eine Korrelation verwiesen, die zwischen dem Fahrzeugbesitz und der Abstimmungsgeschichte besteht, und es wird darauf hingewiesen, dass dies die Art von Informationen sind, die ein Kandidat in seiner umfangreichen Datenbank erwarten kann. Dass es keinen Grund zu der Annahme gibt, dass das Wissen darüber, was eine Person fährt, uns über ihre Anliegen als Bürger etwas aussagt, ist Cambridge Analytica und anscheinend auch ihren Kunden nicht in den Sinn gekommen.

Unabhängig davon, hätten wir nicht lieber Kandidaten, die sich Akten ansehen, in denen beschrieben wird, wie wir tatsächlich zu Bildung, Gesundheitswesen und Umwelt stehen, anstatt unsere Fahrzeugbesitzdaten und Fahrgewohnheiten zu analysieren, um Hinweise darauf zu erhalten, wie wir bei der nächsten Abstimmung abstimmen wollen Wahl? Leider interessieren sich weder Cambridge Analytica noch andere Zielunternehmen für die Wissenschaft, die dahinter steckt. Wenn das möglich ist, scheinen sie sich noch weniger um die Staatsbürgerkunde zu kümmern. Wie John Watson vor ihnen glauben sie wirklich, dass Menschen wirklich programmierbare Maschinen sind, die dazu gebracht werden können, sich auf bestimmte Weise zu verhalten, wenn sie nur die richtigen korrelierenden Knöpfe identifizieren können, die gedrückt werden müssen. Für sie sind wir keine Bürger, Ehepartner, Eltern, Geschwister oder Freunde. Wir sind alle nur ihre kleinen Alberts.

Tim Wu weist in The Attention Merchants darauf hin, dass das Targeting nicht gerade ein neues Phänomen ist. Dass wir bestimmte Annahmen über Menschen treffen können, je nachdem, wo sie leben, welche Zeitschriften sie abonnieren, ob sie wöchentlich zur Kirche gehen oder nicht usw., ist seit langem allgemein anerkannt.

Natürlich sind diese Behauptungen auf Bevölkerungsebene nicht völlig unbegründet. Es ist jedoch niemals sicher anzunehmen, dass eine Person, nur weil sie an einem bestimmten Ort lebt oder einer bestimmten Gruppe angehört, dieselben Einstellungen oder Überzeugungen hat, die sich im Durchschnitt mit der gesamten Gruppe identifizieren lassen. Jede Gemeinde hat ihre Ausreißer. In vielerlei Hinsicht sind diese Ausreißer weitaus interessanter und informativer als die Masse, die sich näher an der Spitze der Glockenkurve befindet. Das heißt, wir haben einen Namen für die Gewohnheit, Annahmen über Menschen zu treffen, die auf realen oder wahrgenommenen Merkmalen beruhen, die mit ihrer Gruppe in Verbindung gebracht wurden. Es wird Stereotypisierung genannt. Dass Unternehmen im Stereotyping-Geschäft es gerne als "Targeting" bezeichnen, macht es nicht weniger schädlich oder trügerisch.

Wu erzählt uns, dass ein Unternehmen mit dem Namen „Claritas“ „wahrscheinlich das erste moderne Targeting-Unternehmen“ war. Claritas basiert auf einem Konzept, das als „Fragmentierung der Zielgruppe“ bezeichnet wird und sich auf einen Kabelfernsehbegriff bezieht, der in dieser aufstrebenden Branche in zunehmendem Maße verwendet wird identifizierbare Segmente innerhalb des Kabelfernsehmarktes. Das Kabelfernsehen wurde gerade populär, als Claritas Ende der 70er Jahre seine Türen öffnete. "Natürlich", betont Wu, "war es nie ganz klar, ob" Fragment "als Verb oder Nomen verwendet wurde: reagierten die [Kabel] -Netzwerke auf fragmentierte Zielgruppen oder fragmentierten sie sie tatsächlich?" Wu kommt zu dem Schluss, dass „sie im Nachhinein beides getan haben“.

Damals wie heute bestand das Problem darin, dass das Modell des Zielunternehmens davon ausgeht, dass durch die gezielte Ausrichtung auf bestimmte Bereiche auf bestimmte geografische und ideologische Unterschiede bereits das Risiko besteht, dass sie entweder geschaffen oder verstärkt werden. Ursache und Wirkung lassen sich nur schwer unterscheiden, wenn das Eingreifen in die Aktion des Targeting die Behauptungen des World Targeting bereits enthält.

Behaviorismus hat vielleicht gezeigt, dass wir Menschen bis zu einem gewissen Punkt dazu bringen können, zu glauben und alle möglichen verrückten Dinge zu tun. Wie John Watsons grausame Experimente zu Little Albert jedoch zeigen, hat es nie aufgehört, ernsthaft darüber nachzudenken, ob wir seine Anwendung einschränken sollten oder nicht. Gerade weil Werbung, soziale Medien und Targeting die Fähigkeit besitzen, die Umwelt zu schaffen und zu stärken (dh zu konditionieren), behaupten ihre Algorithmen, dass Ethik und Wissenschaft für jede Bewertung der von diesen Branchen verwendeten Methoden und Technologien von zentraler Bedeutung sein müssen . Daten prägen und verzerren nicht nur unsere eigene Perspektive. In dem Maße, wie es von anderen ohne unsere Zustimmung aktiv genutzt wird, um die Informationen, Produkte, Dienstleistungen und Auswahlmöglichkeiten zu bestimmen, die uns angeboten werden, wird es die Welt neu gestalten, um bewusst und unbewusst Agenden zu erfüllen, ohne die wir wahrscheinlich besser dastehen würden .

Cambridge Analytica ist nur die neueste Folge der Überzeugung, dass Menschen leere Schiefer sind. leichte Noten für zusätzliche Konditionierungsexperimente, bei denen das moderne Äquivalent von Glocken und Metallstäben verwendet wird, damit wir uns nach bestimmten Produkten oder Gruppen sehnen oder sie fürchten. Die Madison Avenue und politische Kampagnen haben uns seit Jahrzehnten gezieltes Material gezeigt und geschickt, das implizit durch diese Prämisse rationalisiert wurde. Der Aufstieg der sozialen Medien und die moderne Rechenleistung, die sie nutzen, haben jedoch der Notwendigkeit, die fehlerhaften psychologischen Theorien und amoralischen Philosophien, die hinter der Praxis stehen, kritisch zu reflektieren, neue Dringlichkeit verliehen.

Madison Avenue und professionelle politische Aktivisten werden die ethischen Konsequenzen, die sich aus ihrer zynischen und simplen Sicht auf die menschliche Verfassung ergeben, wahrscheinlich nie ernsthaft in Betracht ziehen. Deshalb müssen wir. Unabhängig davon, ob Sie sich aufgrund des jüngsten Skandals dazu entschließen, Ihren Facebook-Account zu löschen, signalisiert die Tatsache, dass viele von uns diese Entscheidung zum ersten Mal ernst nehmen, die erneute Bereitschaft, unsere eigene Welt proaktiv zu gestalten, anstatt sie für uns zu gestalten Andere. Vielleicht wird zumindest Silicon Valley erkennen, dass die Spezies, die sie mit ihren Algorithmen ausgewertet haben, ein X-Faktor ist, der immer noch die Fähigkeit behält, sie zu überraschen.

Folgen Sie Craig auf Twitter oder lesen Sie ihn auf 71Republic.com

Andere Geschichten von Craig Axford, die Ihnen gefallen könnten:

  • Selbst nach Obamacare ist das amerikanische Gesundheitssystem immer noch schlecht
  • Die Grenze ist nicht verschwunden, sie ist einfach nicht dort, wo wir dachten
  • Naturschutz bietet Gründe für bedingten Optimismus, aber wir scheinen es vorzuziehen, uns düster zu fühlen