Ausgabe 1 2020 / Stereotype und Vorurteile - Teil 1

Haben wir alle versteckte Vorurteile? Implizite Einstellungen und ihre Bedeutung in der Gesellschaft

• von Alexandra Goedderz & Adam Hahn

Würden Sie sagen, dass Sie auf alle Menschen gleich reagieren, ungeachtet ihrer Herkunft? Viele Menschen würden diese Frage mit „Ja“ beantworten. Entgegen dieser Annahme behauptete Hillary Clinton im Wahlkampf 2016, dass alle Menschen implizite Vorurteile hätten. Aber was sind implizite Vorurteile? Woher kommen sie? Hat sie wirklich jeder? Warum unterscheiden sie sich von dem, was wir sagen? Und sind wir ihnen unbewusst ausgeliefert? Mit diesem Artikel wollen wir Ihnen einen ersten Einblick in eins der umstrittensten Forschungsgebiete der Sozialpsychologie geben.

Quelle: Silent diversity. DryHundredFear via flickr (https://flic.kr/p/bADzCf, CC: https://creativecommons.org/licenses/by/2.0/)Wer die Medienberichte 2019 verfolgt hat, dem wird folgendes Szenario vertraut vorkommen: In Köln wurden im Juni 2019 zehn junge Muslime von der Polizei durchsucht und dabei gefesselt am Boden festgehalten, obwohl es keine Anzeichen für eine Straftat gab. Der Polizeirat verteidigte die Maßnahmen und erklärte, dass das Verhalten der BeamtInnen nichts mit der kulturellen Herkunft der Verdächtigen zu tun hatte. Dennoch stellt sich die Frage, ob gegen eine Gruppe deutscher Männer ebenso hart vorgegangen worden wäre. Auch in den USA kommt es immer wieder zu erhöhter Polizeigewalt gegen AfroamerikanerInnen. Diese Beispiele zeigen, dass Menschen entgegen eigener Aussagen möglicherweise nicht immer auf alle Menschen gleich reagieren. Hillary Clinton machte diese Problematik im Zuge ihres Wahlkampfes 2016 in den USA zum Thema und erläuterte, dass PolizistInnen implizite Vorurteile hätten (implicit bias). Dies sei aber nicht nur ein Problem der Polizei, sondern aller Menschen. Sollte sie die Wahl gewinnen, würde sie daher landesweit Trainings einführen, die PolizistInnen für implizite Vorurteile sensibilisieren sollten. In den USA ist der Begriff implicit bias mittlerweile in den Medien und der Bevölkerung bekannt. Doch was genau bedeutet implicit bias und was sind implizite Einstellungen?

Was sind implizite Einstellungen?

Stellen Sie sich vor, Sie werden zu Ihrer Einstellung zu MuslimInnen befragt, persönlich oder in einem Fragebogen. Um diese Frage zu beantworten, lassen Sie sich womöglich etwas Zeit und rufen verschiedene Informationen aus Ihrem Gedächtnis ab. Sie denken eventuell an ISIS und 9/11, aber auch an muslimische Bekannte, Freunde oder Freundinnen, sowie daran, dass für Sie alle Menschen gleich sind, ungeachtet ihrer religiösen Ansichten. Ein Fazit all dieser Überlegungen würde möglicherweise zu einer generell positiven Bewertung muslimischer Menschen führen. Eine solche Einstellung, bei der Sie direkt gefragt werden und Zeit haben, über verschiedene Aspekte nachzudenken und diese zu integrieren, nennen PsychologInnen auch explizite Einstellung.

Nun stellen Sie sich vor, dass Ihnen nachts auf dem Heimweg ein arabisch aussehender Mann entgegenkommt. Möglicherweise ertappen Sie sich dabei, wie Sie sich im ersten Moment etwas unwohl oder unsicher fühlen, bevor Sie rational über die Situation nachdenken können. PsychologInnen versuchen solche Reflexe mit Messmethoden zu erfassen, die auf Reaktionszeiten beruhen und somit die Kontrollierbarkeit der Antwortreaktion einschränken. Eine so erfasste Antwortreaktion wird in der Psychologie implizite Einstellung oder implizite Bewertung genannt, denn sie zeigt sich implizit in Ihren spontanen Reaktionen und nicht in Ihren expliziten Aussagen.Unsere spontanen Reaktionen können sich von unseren durchdachten Einstellungen unterscheiden. As I Might React. David Goehring via flickr (https://flic.kr/p/dYq4QA, CC: https://creativecommons.org/licenses/by/2.0/)

Häufig erfüllen solche spontanen Reaktionen wichtige Funktionen. Sie helfen uns gefährliche Situationen schnell einzuschätzen und darauf zu reagieren. Es ist beispielsweise sinnvoll, wenn Sie sich bei dem Anblick einer Schlange unsicher fühlen und schnell die Flucht ergreifen. Wie das Beispiel der arabischen Person jedoch zeigt, können solche Reaktionen auch zum Zuge kommen, wenn objektiv nicht unbedingt eine Gefahr besteht und so z. B. dazu führen, dass Sie nicht auf alle Menschen gleich reagieren.

Wie werden implizite Einstellungen gemessen?

Einer der bekanntesten Tests für die Erfassung impliziter Einstellungen ist der implizite Assoziationstest (IAT, Greenwald, McGhee & Schwartz, 1998). Bei einem IAT müssen Sie Worte und Bilder in Kategorien einordnen. Er beruht auf der Idee, dass Dinge, die im Gedächtnis miteinander verknüpft sind (z. B. Hund und Katze), auch leichter miteinander kategorisiert werden können. Solche Verknüpfungen im Gedächtnis nennen PsychologInnen auch Assoziationen.

Abbildung 1: Ablauf eines Türkisch-Deutsch IATs. Quelle: Von den Autoren erstellte Abbildung. Türkische Frau: Engin Akyurt via Pixabay (CC: https://pixabay.com/de/service/license/) Deutsche Frau: Pixabay (CC: https://pixabay.com/de/service/license/)Ein IAT, der implizite Einstellungen gegenüber TürkInnen im Vergleich zu Deutschen misst, ist in Abbildung 1 dargestellt. Hier müssen so schnell wie möglich die Kategorien TürkInnen und Deutsche (z. B. mit Bildern dargestellt) in Kombination mit positiven und negativen Wörtern kategorisiert werden. In einem Durchgang besteht die Aufgabe darin, eine Taste zu drücken, wenn Bilder von TürkInnen oder negative Wörter auf dem Bildschirm gezeigt werden und eine andere Taste, wenn Bilder von Deutschen oder positive Wörter präsentiert werden. Danach werden die Kombinationen getauscht, sodass Sie mit der ersten Taste auf Deutsche und negative Wörter reagieren müssen und mit der zweiten Taste auf TürkInnen und positive Wörter. Wenn eine Person schneller in dem Durchgang reagiert, in dem TürkInnen mit negativen Wörtern und Deutsche mit positiven Wörtern gepaart werden, dann wird dieses Ergebnis von PsychologInnen als Indikator dafür gesehen, dass für diese Person die Konzepte deutsch und positiv stärker miteinander verknüpft sind, als die Konzepte türkisch und positiv. Man spricht dann von einer positiveren impliziten Einstellung gegenüber Deutschen als TürkInnen.

Haben wir alle versteckte Vorurteile und wenn ja, woher kommen diese?

Die ErfinderInnen des IATs haben eine Webseite erstellt (https://implicit.harvard.edu ), auf der man IATs zu verschiedenen Themen zu Forschungszwecken durchführen kann. Die Daten von 11.459 Deutschen zeigen, dass diese durchschnittlich eine positivere Reaktion auf hellhäutige im Vergleich zu dunkelhäutigen Menschen haben (Stafford, 2017). Es scheint also eine grundsätzliche Tendenz von Deutschen zu geben, spontan negativere Reaktionen gegenüber Minderheiten im Vergleich zu Deutschen zu zeigen. Aber woher kommen diese spontanen Reaktionen?

Eine weit verbreitete Perspektive ist, dass Menschen implizite Einstellungen durch die Kultur, in der sie leben, erlernen. So könnte eine negativere spontane Reaktion gegenüber TürkInnen dadurch entstehen, dass ethnische Minderheiten gesellschaftlich häufig im Zusammenhang mit negativen Informationen erwähnt werden, und so TürkInnen in Verbindung mit negativen Gefühlen abgespeichert werden und eine so genannte negative Assoziation entsteht. Andersherum könnte kultureller Wandel implizite Einstellungen dann auch zum Positiven wenden. Tatsächlich sanken in US-Staaten, in denen die gleichgeschlechtliche Ehe eingeführt wurde, implizite Vorurteile gegenüber Homosexuellen im Schnitt schneller als in Staaten, in denen die gleichgeschlechtliche Ehe noch nicht eingeführt war (Ofosu, Chambers, Chen & Hehman, 2019).

Forschung zum Phänomen des evaluativen Konditionierens bestätigt diese Idee (Hofmann, De Houwer, Perugini, Baeyens & Crombez, 2010). Das wiederholte Darbieten von Objekten (z. B. eine bestimmte Biermarke) zusammen mit positiven oder negativen Informationen (z. B. glückliche Models oder Obdachlose) verändert die impliziten Einstellungen zu diesen Objekten. Dieses Phänomen wird in der Werbung häufig genutzt. Schaut man auf die Medienberichterstattung, könnten so auch erlernte Verknüpfungen mit verschiedenen sozialen Gruppen erklärt werden. Andererseits gibt es Forschung, die zeigt, dass implizite Einstellungen sich schon aufgrund einzelner Informationen entwickeln können, also kein wiederholtes Lernen erfordern (für eine Zusammenfassung, siehe Hahn & Gawronski, 2018). Entgegen erster Annahmen sind implizite Einstellungen außerdem nicht sonderlich stabil. Zwar zeigen verschiedene psychologische Studien eine generelle Tendenz, eine negativere implizite Einstellung gegenüber Minderheiten zu zeigen, diese kann für einzelne Personen jedoch über die Zeit hinweg stark variieren (Vuletich & Payne, 2019). Zusätzlich sind implizite Einstellungen kontextabhängig. In einer Studie von Wittenbrink, Judd und Park (2001) zeigten Versuchspersonen weniger negative implizite Einstellungen gegenüber dunkelhäutigen im Vergleich zu hellhäutigen Menschen, wenn diese vor einer Kirche gezeigt wurden, als wenn sie vor einer Graffiti-Wand gezeigt wurden. Wenn Sie sich also nachts im Dunkeln bei der Begegnung einer anderen Person unwohler fühlen, wenn diese arabisch aussieht, dann könnte der bestimmte Kontext Einfluss darauf haben. Begegnen Sie derselben Person im Rahmen einer Hochzeitsfeier, könnten Sie positivere spontane Reaktionen zeigen.

Nimmt man diese Informationen zusammen, dann kann man durchaus sagen, dass kulturelles Lernen zu impliziten Einstellungen führt. Es lässt aber nicht zwangsläufig die umgekehrte Schlussfolgerung zu: Eine vorhandene implizite Einstellung muss nicht unbedingt nur kulturell gelernt sein, sie könnte sich auch aus einmaligen Lernerfahrungen ergeben haben und variiert wahrscheinlich über verschiedene Kontexte hinweg.

Was ist der Unterschied zwischen impliziten und expliziten Einstellungen?

Durchschnittlich zeigt sich, dass implizite und explizite Einstellungen nicht sehr stark zusammenhängen (Hofmann, Gawronski, Gschwendner, Le & Schmitt, 2005). Woher diese Diskrepanz rührt, ist unter PsychologInnen eine große Diskussion und kann grob in drei Grundideen unterteilt werden. Verschiedene ForscherInnen glauben, dass implizite Einstellungen von expliziten abweichen, weil (1) sie unbewusst sind, (2) wir motiviert sind, uns positiv darzustellen oder (3) unsere spontanen Reaktionen nicht immer als relevante Information ansehen.

Aus Sicht der ersten Perspektive äußern Menschen ihre abweichenden spontanen Reaktionen nicht in einem Fragebogen, weil sie keinen bewussten Zugriff auf diese haben (Greenwald & Banaji, 1995). Eine Reihe von Studien von Hahn, Judd, Hirsh und Blair (2014) stellt diese Perspektive in Frage. So waren die Versuchspersonen in diesen Studien in der Lage, das Muster ihrer impliziten Einstellungen gegenüber verschiedenen Gruppen, gemessen mit IATs, vorherzusagen, obwohl sie andere explizite Einstellungen angaben. Die Reaktionen, die impliziten Einstellungen unterliegen, scheinen also nicht vollkommen unbewusst zu sein und unterscheiden sich dennoch von expliziten Einstellungen.

Die zweite Perspektive wurde vor allem von Fazio (2007) in seinem MODE-Modell (Motivation and Opportunity as Determinants Model) beschrieben. Dieses erklärt die Diskrepanz so, dass Menschen bei Fragebögen motiviert sind, sich möglichst gut darzustellen und sozial erwünscht antworten. Dies ist jedoch nur möglich, wenn man Zeit, Motivation und die Gelegenheit hat, sein Antwortverhalten zu kontrollieren. Aus dieser Perspektive sind die expliziten Einstellungen, die wir in einem Fragebogen äußern, nicht ganz ehrlich. Wir geben sie vor allem an, weil wir nicht als Rassisten gelten möchten. Eine neuere Perspektive führen Gawronski und Bodenhausen (2006) mit dem APE-Modell (Associative-Propositional Evaluations Model) ein. Aus dieser Perspektive unterscheiden sich implizite und explizite Einstellungen, da wir unsere spontanen, auf Gedächtnis-Verknüpfungen beruhenden Reaktionen (Assoziationen) nicht immer als valide Informationsquelle (Propositionen) für unsere expliziten Einstellungen anerkennen. So kann es sein, dass wir zwar eine spontane negative Reaktion gegenüber einer muslimischen Person spüren, diese jedoch nicht als valide Grundlage für eine explizite Bewertung aller Muslime sehen. Unsere explizite Einstellung setzt sich dann aus anderen Gedanken zusammen, wie beispielsweise unserer Überzeugung, dass alle Menschen gleich sind, oder den Gefühlen, die wir gegenüber bestimmten muslimischen FreundInnen oder Bekannten haben, oder auch der Überzeugung, dass man fremdenfeindlich erscheinende Aussagen nicht offen äußern sollte. Nach dieser Perspektive ist es also gut möglich, dass auch Sie, wenn Sie auf Ihr spontanes Gefühl hören, bemerken, dass dieses möglicherweise negativ gegenüber einer Minderheit ausfällt. Dennoch würden Sie deshalb in einem Fragebogen womöglich nicht unbedingt angeben, Minderheiten nicht zu mögen. Aber vielleicht nicht nur, um sich positiv darzustellen, sondern weil das Gefühl, das Sie bemerken, Ihnen aus verschiedenen Gründen nicht als valide Grundlage für die Bewertung aller Mitglieder dieser Minderheit erscheint.

Im Gegensatz zum MODE-Modell, das unsere impliziten Einstellungen als ehrlichere Einstellungen sieht, postuliert das APE-Modell also, dass explizite Einstellungen genauso ehrlich und wahr sein können. Ob implizite oder explizite Einstellungen wahrer sind, ist nach dem APE-Modell eine philosophische Frage, die jeder Mensch für sich beantworten muss: Ist meine wahre Einstellung eher meine erste affektive Reaktion auf Menschen, oder die Aussage, die ich treffe, wenn ich alle Informationen bedacht habe?

Warum sind implizite Einstellungen relevant?

Wenn Menschen für ihre expliziten Aussagen oft ihre gelernten Assoziationen verwerfen, sind implizite Einstellungen dann überhaupt relevant? Wenn wir uns immer entsprechend unserer expliziten Aussagen verhalten, dann würde die Messung impliziter Einstellungen keinen praktischen Mehrwert bieten. Dieser Frage nachgehend untersuchten Friese, Hofmann und Schmitt (2008) viele Studien zum Zusammenhang zwischen impliziten und expliziten Einstellungen und Verhalten. Hierbei schlussfolgerten sie, dass implizite Einstellungen besser spontanes Verhalten vorhersagen, während explizite Einstellungen solches Verhalten besser vorhersagen, bei dem wir mehr Zeit haben nachzudenken. So könnte die implizite negative Einstellung eines Polizeibeamten gegenüber AfroamerikanerInnen einen Einfluss auf seine Entscheidung zu schießen haben. In einer Situation, in der er schnell reagieren und sich entschSpontane Reaktionen können vor allem unter Zeitdruck relevant werden und könnten im Extremfall sogar fatale Folgen haben. Quelle: Don’t shoot. Mike Licht via flickr (https://flic.kr/p/oJkmEY, CC: https://creativecommons.org/licenses/by/2.0/)eiden muss, ob ein Verdächtiger eine Waffe oder ein Handy aus der Tasche holt, könnte dieser fälschlicherweise aufgrund seiner spontanen Reaktion glauben, dass es sich um eine Waffe handelt und schießen (Correll, Park, Judd & Wittenbrink, 2002). 

Warum implizite Vorurteile also bei PolizeibeamtInnen höchst relevant sein können, wird an diesem Beispiel deutlich. Jedoch könnten implizite Einstellungen auch in alltäglichen Situationen, in denen wir spontan entscheiden, relevant sein; beispielsweise, auf welche Personen wir eher zugehen, wie Lebensläufe von Menschen unterschiedlichen Hintergrunds von PersonalerInnen interpretiert werden oder ob wir nachts eher die Straßenseite wechseln, wenn uns ein arabisch aussehender Mensch entgegenkommt. In all diesen Situationen könnte die spontane Reaktion auf die Herkunft einer Person dazu führen, dass Ihr spontanes Verhalten negativer ausfällt und Sie die Person damit aufgrund ihrer Herkunft anders behandeln, obwohl dies vielleicht nicht Ihre bewusste Intention ist.

Sind wir unseren impliziten Einstellungen also ausgeliefert?

Können wir unsere implizite Einstellungen verändern? Quelle: Robert Couse-Baker via flickr (https://flic.kr/p/oD5tjD, CC: https://creativecommons.org/licenses/by/2.0/)Viele ForscherInnen haben in den letzten 20 Jahren versucht, Interventionen zu entwickeln, die implizite Vorurteile gezielt verringern können. In mehreren besonders groß angelegten Studien verglichen Lai et al. (2014, 2016) verschiedene zuvor erfolgreiche Interventionen. In einer ersten Studie konnten nur acht von 17 Interventionen unmittelbar implizite Vorurteile gegenüber AfroamerikanerInnen verringern. Insbesondere spezifisch an positive Beispiele für AfroamerikanerInnen zu denken (z. B. Barack Obama) oder neue positive Verknüpfungen durch evaluatives Konditionieren zu erlernen konnte kurzfristig negative implizite Einstellungen reduzieren. In einer zweiten Studie zeigte sich jedoch, dass keine von neun getesteten Interventionen die negativen impliziten Einstellungen langfristig über die unmittelbaren Laboreffekte hinaus reduzieren konnte. Die Forschung zu Interventionen sieht also im Moment wenig hoffnungsvoll aus. Heißt das also, wir sind unseren spontanen Reaktionen ausgeliefert? Hätten die von Hillary Clinton vorgeschlagenen Interventionsprogramme sowieso keinen Sinn gehabt?

Hierbei sollte man sich daran erinnern, dass vor allem spontanes, unkontrolliertes Verhalten mit impliziten Einstellungen zusammenhängt. So können Sie sich in jeder Situation mit einem Mitglied einer Minderheit fragen, ob Ihr Verhalten oder Ihre Urteile von spontanen Reaktionen beeinflusst wurden, oder ob Sie Ihre erste Reaktion überdenken und andere Informationen mit heranziehen wollen.

Neuere Forschung von Hahn und Gawronski (2019) zeigt beispielsweise, dass Versuchspersonen, die aufgefordert werden, ihre spontanen Reaktionen gegenüber Personen verschiedener Herkunft beim Betrachten von Bildern zu beachten, im Anschluss eher anerkennen, dass sie Vorurteile gegenüber Minderheiten haben. Aufwändige, längere Interventionen, die auf Kontrolle von Verhalten abzielen, konnten entsprechend auch Erfolge zeigen (Devine, Forscher, Austin & Cox, 2012). Sich seiner eigenen Vorurteile bewusst zu werden scheint also durchaus möglich zu sein. Obwohl die Forschung zur Veränderung impliziter Einstellungen zurzeit also umstritten ist, sieht die Evidenzlage zur Bewusstmachung und Auseinandersetzung mit eigenen Vorurteilen vielversprechend aus.

Zusammenfassung

Zusammenfassend haben die meisten Menschen spontane Reaktionen, die nicht immer mit dem übereinstimmen, was sie anderen Menschen mitteilen, und die zumindest teilweise kulturell gelernt sein können. Diese Reaktionen zeigen sich in sogenannten impliziten Einstellungen und hängen mit spontanem Verhalten zusammen, welches Minderheiten benachteiligen kann. Wir sind unseren spontanen Reaktionen jedoch nicht hilflos ausgeliefert. Obwohl schnelle Interventionen bisher scheitern, scheint es doch möglich, sich seine automatischen Reaktionen und Assoziationen bewusst zu machen. Das bedeutet, dass man in konkreten Situationen hinterfragen kann, ob ein Verhalten oder eine Entscheidung vielleicht von einem spontan aktivierten Vorurteil oder Stereotyp geleitet war und sich noch einmal überdenken lässt. So kann jeder Mensch zumindest versuchen, sich seine spontan aktivierten Reaktionen bewusst zu machen, sein Verhalten zu überprüfen und nach den eigenen Werten auszurichten.

Literaturverzeichnis

Correll, J., Park, B., Judd, C. M., & Wittenbrink, B. (2002). The police officer’s dilemma: Using ethnicity to disambiguate potentially threatening individuals. Journal of Personality and Social Psychology, 83(6), 1314–1329. https://doi.org/10.1037//0022-3514.83.6.1314

Devine, P. G., Forscher, P. S., Austin, A. J., & Cox, W. T. L. (2012). Long-term reduction in implicit race bias: A prejudice habit-breaking intervention. Journal of Experimental Social Psychology, 48(6), 1267–1278. https://doi.org/10.1016/j.jesp.2012.06.003

Fazio, R. H. (2007). Attitudes as object-evaluation associations of varying strength. Social Cognition, 25, 603–637. https://doi.org/10.1521/soco.2007.25.5.603

Friese, M., Hofmann, W., & Schmitt, M. (2008). When and why do implicit measures predict behaviour? Empirical evidence for the moderating role of opportunity, motivation, and process reliance. European Review of Social Psychology, 19(1), 285–338. https://doi.org/10.1080/10463280802556958

Gawronski, B., & Bodenhausen, G. V. (2006). Associative and propositional processes in evaluation: An integrative review of implicit and explicit attitude change. Psychological Bulletin, 132(5), 692–731. https://doi.org/10.1037/0033-2909.132.5.692

Greenwald, A. G., McGhee, D. E., & Schwartz, J. L. (1998). Measuring individual differences in implicit cognition: The Implicit Association Test. Journal of Personality and Social Psychology, 74, 1464–1480. https://doi.org/10.1037/0022-3514.74.6.1464

Hahn, A., & Gawronski, B. (2018). Implicit social cognition. Stevens’ Handbook of Experimental Psychology and Cognitive Neuroscience, 4, 1–33.

Hahn, A., & Gawronski, B. (2019). Facing one’s implicit biases: From awareness to acknowledgment. Journal of Personality and Social Psychology, 116(5), 769–794. https://doi.org/10.1037/pspi0000155

Hahn, A., Judd, C. M., Hirsh, H. K., & Blair, I. V. (2014). Awareness of implicit attitudes. Journal of Experimental Psychology: General, 143(3), 1369–1392. https://doi.org/10.1037/a0035028

Hofmann, W., De Houwer, J., Perugini, M., Baeyens, F., & Crombez, G. (2010). Evaluative conditioning in humans: a meta-analysis. Psychological Bulletin, 136(3), 390–421. https://doi.org/10.1037/a0018916

Hofmann, W., Gawronski, B., Gschwendner, T., Le, H., & Schmitt, M. (2005). A meta-analysis on the correlation between the Implicit Association Test and explicit self-report measures. Personality and Social Psychology Bulletin, 31(10), 1369–1385. https://doi.org/10.1177/0146167205275613

Lai, C. K., Marini, M., Lehr, S. A., Cerruti, C., Shin, J.-E. L., Joy-Gaba, J. A. et al. (2014). Reducing implicit racial preferences: I. A comparative investigation of 17 interventions. Journal of Experimental Psychology: General, 143(4), 1765–1785. https://doi.org/10.1037/a0036260

Lai, C. K., Skinner, A. L., Cooley, E., Murrar, S., Brauer, M., Devos, T. et al. (2016). Reducing implicit racial preferences: II. Intervention effectiveness across time. Journal of Experimental Psychology: General, 145(8), 1001–1016. https://doi.org/10.1037/xge0000179

Ofosu, E. K., Chambers, M. K., Chen, J. M., & Hehman, E. (2019). Same-sex marriage legalization associated with reduced implicit and explicit antigay bias. Proceedings of the National Academy of Sciences of the United States of America, 116(18), 8846–8851. https://doi.org/10.1073/pnas.1806000116

Stafford, T. (2017, July 18). This map shows what white Europeans associate with race – and it makes for uncomfortable reading. Retrieved November 7, 2019, from https://theconversation.com/this-map-shows-what-white-europeans-associat....

Vuletich, H. A., & Payne, B. K. (2019). Stability and Change in Implicit Bias. Psychological Science, 956797619844270. https://doi.org/10.1177/0956797619844270

Wittenbrink, B., Judd, C. M., & Park, B. (2001). Spontaneous prejudice in context: variability in automatically activated attitudes. Journal of Personality and Social Psychology, 81(5), 815–827.