Cambridge Analytica’s 50-Millionen-Dollar-Irrtum: Warum Persönlichkeit nicht gleich Weltanschauung ist
Cambridge Analytica hat 50 Millionen Facebook-Profile ausgelesen, die Big Five Persönlichkeitsmerkmale mit beeindruckender Präzision vorhergesagt – und ist trotzdem gescheitert. Ihr Micro-Targeting war ineffektiv, Ted Cruz‘ Kampagne enttäuscht, die Rolle bei Trump übertrieben. Am Ende boten sie Erpressung und Honeypots an, klassische schmutzige Tricks. Ein Eingeständnis, dass ihr datengetriebenes Modell nicht funktionierte.
Der Fehler war fundamental: Sie haben Persönlichkeit gemessen, als sie Werte hätten verstehen müssen.
Das falsche Framework
Die OCEAN-Traits – Offenheit, Gewissenhaftigkeit, Extraversion, Verträglichkeit, Neurotizismus – sagen uns, wie jemand durchs Leben geht. Ob jemand strukturiert oder spontan arbeitet, ob er Partys liebt oder meidet, ob er konfrontativ oder harmoniesuchend reagiert. Das sind Temperamentsunterschiede, keine Weltanschauungen.
Die Frage «Gibt es mehr konservative oder progressive Extrovertierte?» hat vermutlich keine Antwort. Persönlichkeitsmerkmale sind politisch neutral. Ein Extrovertierter kann ein aktivistischer Umweltschützer sein oder ein networkorientierter Investmentbanker. Beide nutzen ihre Extraversion – für radikal unterschiedliche Ziele.
Cambridge Analytica hat gemessen, welches Fahrzeug jemand nutzt. Aber sie wussten nicht, wohin die Reise geht.
Clare Graves und die Architektur von Weltbildern
Der Psychologe Clare Graves erkannte in den 1950ern, dass Menschen durch verschiedene Wertesysteme sehen – aufeinanderfolgende Brillen, durch die wir die Welt interpretieren. Diese Systeme sind nicht beliebig, sondern folgen einer Entwicklungslogik. Jedes neue System entsteht als Antwort auf zunehmende Komplexität und transzendiert das vorherige, ohne es zu ersetzen.
Das erste System ist Überleben: Hunger, Kälte, unmittelbare Bedrohung. Säuglinge leben hier, aber auch Erwachsene in Krisensituationen – Kriegsgebiete, Naturkatastrophen, extremer Mangel. Werte: Sicherheit des Körpers, Essen, Wärme.
Das zweite System ist Stammeszugehörigkeit: Wer ist Familie, wer ist fremd? Loyalität zu «den Unseren», tiefes Misstrauen gegenüber «den Anderen». Ein Kleinkind entwickelt dieses System, wenn es Fremde ablehnt. Aber auch Erwachsene können hier operieren – ethnischer Nationalismus, Clanloyalität, «Blut und Boden»-Rhetorik wurzeln in diesem Wertesystem.
Das dritte System ist Macht und Stärke: Die Welt als Dschungel, in dem der Stärkere sich nimmt, was er will. Respekt wird erzwungen, nicht verdient. Gangkultur lebt hier, aber auch bestimmte Formen autoritärer Führung. Werte: Dominanz, Furchtlosigkeit, sofortige Bedürfnisbefriedigung.
Das vierte System ist Ordnung und Hierarchie: Es gibt richtig und falsch, festgelegt von Autorität oder heiligen Texten. Die Welt braucht Struktur, Disziplin, Gehorsam. Konservative Parteien sprechen dieses System an – Law and Order, traditionelle Familienwerte, klare Regeln. Aber auch religiöser Fundamentalismus operiert hier.
Das fünfte System ist Leistung und Erfolg: Die Welt als Wettbewerb, in dem der Beste gewinnt. Meritokratie, Innovation, rationale Optimierung. Unternehmer, Wissenschaftler, Kapitalisten im klassischen Sinn leben hier. Werte: Effizienz, Fortschritt, messbarer Erfolg.
Das sechste System ist Gemeinschaft und Gleichheit: Nach Jahren des Machens und Optimierens kommt die Frage: Wozu? Die Antwort: Für andere Menschen, für Gemeinschaft, für den Planeten. Progressive Politik wurzelt hier – Sozialstaat, Umweltschutz, Inklusion, Konsenskultur.
Das siebte System ist Systemisches Denken: Die Welt als komplexes, vernetztes System. Keine einfachen Gut-Böse-Dichotomien mehr, sondern Paradoxien, die ausgehalten werden müssen. Kompromisse zwischen Wertesystemen, Integration verschiedener Perspektiven.
Warum Cambridge Analytica scheiterte
Ein Mensch im Ordnungs-System (blau bei Graves/Spiral Dynamics) will klare Regeln und stabile Hierarchien. Er wählt Parteien, die Tradition und Autorität betonen – unabhängig davon, ob er extrovertiert oder introvertiert ist.
Ein Mensch im Leistungs-System (orange) will Deregulierung und Marktfreiheit. Er wählt wirtschaftsliberal – wieder unabhängig von Persönlichkeitsmerkmalen.
Ein Mensch im Gemeinschafts-System (grün) will soziale Gerechtigkeit und Umweltschutz. Seine Offenheit (Big Five) korreliert nicht mit seinem politischen Standpunkt – seine Werte tun es.
Cambridge Analytica konnte vorhersagen, ob jemand ordentlich oder chaotisch arbeitet. Aber sie konnten nicht sehen, durch welche Wertesystem-Brille jemand auf Steuerpolitik, Immigration, oder Klimawandel blickt.
Ein OCEAN-Profil sagt: «Diese Person ist gewissenhaft und wenig offen.» Ein Graves-Profil sagt: «Diese Person sieht die Welt durch die Brille von Ordnung, Regeln, und Zugehörigkeit. Politische Botschaften über Grenzen, Tradition und Sicherheit werden resonieren. Botschaften über Vielfalt, Wandel und Experiment werden Angst auslösen.»
Das eine ist Temperament. Das andere ist Weltanschauung.
Die Entwicklungsdimension
Was Graves‘ Modell zusätzlich bietet: Wertesysteme sind nicht statisch. Menschen können sich entwickeln – durch Lebenskrisen, veränderte Umstände, neue Erfahrungen. Bill Gates und Warren Buffett sind klassische Beispiele: Jahrzehnte im Leistungs-System (Geld machen, Märkte dominieren, Erfolg maximieren), dann Transition ins Gemeinschafts-System (Philanthropie, soziale Verantwortung, Legacy jenseits von Reichtum).
Aber Entwicklung ist nicht garantiert. Und sie kann auch rückwärts gehen. Wenn äußere Umstände sich verschlechtern – Wirtschaftskrise, Unsicherheit, wahrgenommener Statusverlust – ziehen sich Menschen in frühere Wertesysteme zurück. Das erklärt populistische Bewegungen besser als jedes Persönlichkeitsmodell: Menschen, die sich im Leistungs-System (orange) oder Gemeinschafts-System (grün) unwohl fühlen, regressieren ins Ordnungs-System (blau) oder sogar ins Macht-System (rot). «Make America Great Again» ist ein Ruf zurück zu einfacheren Wertesystemen – klare Hierarchien, starke Führer, eindeutige Zugehörigkeit.
Die Tool-Building-Frage
Ein Werkzeug, das Wertesysteme aus Social-Media-Daten ableiten kann, wäre mächtiger als alles, was Cambridge Analytica gebaut hat. Die ethische Frage ist nicht, ob so ein Tool gebaut werden kann – sondern von wem, und wofür.
Matchademics, mein früheres Projekt mit einem Partner, hatte genau diese Idee 2017: Werte-Assessment kombiniert mit Facebook-Daten. Das Cambridge Analytica-Debakel hat uns gestoppt – nicht weil die Technologie unmöglich war, sondern weil die Missbrauchsmöglichkeiten offensichtlich wurden.
Die Ironie: Cambridge Analytica hat die falsche Metrik gewählt für ihr Vorhaben. Sie wollten manipulieren, hatten aber nicht die theoretische Grundlage dafür. Ihr Scheitern war Glück, kein Design.
Aber der nächste Versuch wird klüger sein. Irgendwo wird jemand Graves verstehen, Big Data nutzen, und das richtige Modell bauen. Die Frage ist: Welche Werte leiten diese Person? Nutzt sie das Tool für Manipulation – oder für Mediation? Für politische Kriegsführung – oder für organisationale Transformation?
Show me the incentives, and I’ll show you the outcome.
Die Technologie ist neutral. Die Werte dahinter sind es nicht.
Original Version (2018)
Cambridge Analytica’s grave misunderstanding of human nature
The recent revelations involving Cambridge Analytica and Facebook portrayed a genius plan foiled by the perpetrators’ own, grave misunderstanding of human nature. Cambridge Analytica’s intention was to use the innocent cover of “academic research” to syphon vast amounts of data from both compliant and unknowing Facebook users. The cover of research was provided by Cambridge University’s Aleksandr Kogan, who offered Facebook users money to fill in a personality survey online. The survey responses and personal attributes, such as the “likes”, gender, sexual orientation, relationship status, and education of the 270,000 respondents and their friends amounted to a dataset involving roughly 50,000,000 Facebook users. The company then used the data to build a model that could predict people’s personalities relying on their Facebook profiles only. According to Cambridge Analytica’s own advertising, their model’s predictions about their targets’ personalities outperformed even close friends and family. Cambridge Analytica’s business model was to use their newly created tool to identify Facebook users with the right personality and to serve them micro-targeted advertising to further customers’ political agendas. Cambridge Analytica’s customers came from conservative circles and included the instigators of Brexit, the campaign of Donald Trump, and the advisers around Ted Cruz. If both Kogan and Cambridge Analytica had not gotten one key detail wrong, they may have built the machinery that could have accelerated further the political unraveling we are currently experiencing in the United States and European Union.
While Cambridge Analytica’s model excelled in predicting targets’ big five personality traits, openness, conscientiousness, extraversion, agreeableness, and neuroticism, or OCEAN for short, the company’s capabilities to target people’s political preferences seemed to lag behind the expectations. Feedback from Ted Cruz’ campaign provided evidence of that, and so did the revelation that Cambridge Analytica’s involvement in Trump’s campaign had been overstated by the company’s CEO. Interestingly, Cambridge Analytica also offered other, non-data-driven approaches for political coercion, such as extortion, honey-traps, and smear-campaigns, as documented by a secret video taken by UK’s Channel 4. Their willingness to add much less subtle, yet equally dirty tools to their offerings can be interpreted as a red flag for the efficacy of their data-driven approach. If Cambridge Analytica tried to create a political bomb by designing a sophisticated and quite creative big-data personality model, then why did it misfire? I would argue that creating the tool they envisioned takes an understanding of how personal views and political preferences evolve, which they did not have.
Early on, political scientists doubted that personality traits could be an accurate indicator for the political leanings of people. Are there more conservative or progressive extroverts? The correct answer to this question may be elusive, as there might not be one; The OCEAN-traits are likely useless in determining motivations, preferences, goals, incentives, or political leanings in people. Even a handful of additional traits, such as gender, sexual orientation, age, job, university major, and IQ, which Cambridge Analytica added to supplement the OCEAN-traits in their model, may have not changed the accuracy of their tool in predicting political leanings significantly. So what may be the common denominator among political leanings? Personal values.
Imagine personal values to resemble colored eyeglasses that every single one of us looks through to see the world. For almost all of us, it is impossible to see the glasses we are constantly staring through. Instead, we see differently-colored glasses on people we encounter in daily life, but we do not deduce from it that we are wearing colored glasses ourselves. Rather, we believe that there are some people with glasses of interesting colors, and some people who do not wear glasses, ourselves included. However, instead of choosing a pair of glasses randomly, at birth perhaps, there is a progression in the colors of glasses we put on throughout our lives. Each successive pair of glasses does not fully replace the previous one, but it brings a wider field of our vision into focus. Therefore, sets of values we acquire later in life are not superior, but simply more adapted to the increasingly complex situations that we encounter as we age. As a baby, we have a very specific color of shades on our noses, which only lets us see, and value, very basic survival needs: discomfort and hunger. Thus, we value comfort and dislike pain, and we value food and dislike hunger. This set of values is perfectly acceptable for a newborn, but as soon as babies start to see faces and recognize them, a more complex set of values is necessary to distinguish friend and foe. Who is part of my family, and who is not? At that stage, children will dislike being held by strangers, as they now value the safety associated with familiar faces. It is important to point out, however, that these more sophisticated values transcend and include previous ones, as hunger and comfort is still important at that stage, and, as most of us will attest to, at much later ages as well. Once food and comfort are not secured anymore, a child’s fear of strangers may vanish and they may take food from anybody who will offer it to them. Through our entire lives, these changes in colored glasses, or values, will happen naturally, sometimes without us noticing, and sometimes through violent phases of struggle, inner conflict, depression, or pain. Another example for the evolution of values that any person may go through, if circumstances permit, is the transition of some of the world’s most successful businessman, such as Bill Gates and Warren Buffet. After a period of aggressive money-making, during which they achieved fame, money, acknowledgement, and status, a more humanitarian set of values emerged in both of them, which let their main focus be on charity and the people around them. This example also suggests that political values are tightly linked to, or even identical to a person’s “core values”. Someone who holds a humanitarian set of values will automatically lean towards more progressive, human-focused political parties, whereas people who are struggling to secure money and gain status may remain more focused on ethnocentric or personal gains, thus being more in line with conservative, or even “right-wing” parties. This general lack of differentiation between personalities and values made Cambridge Analytica’s tool so imperfect, despite their astonishing accuracy in predicting personality traits.
Approximately one year ago, a friend and I started to venture into a project aiming at building value-assessment tools. Early on, we started considering using data from Facebook users in conjunction with our value questionnaire to connect values and Facebook profiles. In light of the recent Cambridge Analytica scandal, this may cause some uneasiness in a lot of the readers, and I can fully empathize with them. The power of such a tool in marketing and politics would be immense. However, so would its power in the use we intended for it, which is mediation, human resources, and tackling the challenges of digitalisation in the 21st century. As with all technology, the motivations – or let’s call it by its name – the values, make all the difference whether a technology becomes a tool for humanity or a weapon against it. In light of the Cambridge Analytica scandal, we can only be glad that the people working on the technology did not have the capacity to reflect upon their own values, thus being unaware of the topic and choosing the wrong metric for a technology that they intended to weaponize early on. It is important that we, as the general population, are aware of this topic and the existence of different value-systems, so we can be alert when the next company with malicious intentions, or rather ethnocentric, self-centered, power-hungry values, gets “it” right.