Desinformation: So penetrant empfiehlt Amazon den Kauf von Verschwörungsliteratur
Unsere Auswertung zeigt: Wer auf Amazon stöbert, den lockt die Plattform womöglich geradewegs in einen Kaninchenbau. (Bild: unsplash.com/Patrick Tomasso | Bearbeitung: netzpolitik.org)
Kein Buchhändler auf der Welt ist so mächtig wie Amazon. Aber wenn es um seriöse Buchempfehlungen geht, ist Amazon alles andere als Spitzenklasse. Die Plattform preist Verschwörungserzählungen, Antisemitismus und Desinformation ebenso an wie wissenschaftlich fundierte Sachbücher. Amazon, eines der wertvollsten Unternehmen der Welt, hat diese Bücher nicht einfach nur im Sortiment, seine Algorithmen setzen sie Kund:innen auch noch prominent vor die Nase.
Davon geht eine gesellschaftliche Gefahr aus. Nicht nur Rechtsterroristen wie die von Christchurch und Hanau beziehen sich auf Verschwörungsmythen. Die Mythen verbinden auch die heterogene Gruppe der Coronaleugner:innen, die am vergangenen Wochenende zu Tausenden durch Berlin zogen und offen davon träumten, das Reichstagsgebäude zu „stürmen“. Neben Neonazis und Holocaustleugner:innen gehörten zu den Protestierenden auch Esoteriker:innen und Impfgegner:innen wie der Verschwörungsideologe Robert Kennedy Junior.
Vor zwei Jahren hielt Amazon einer Studie zufolge mit rund 20 Prozent einen erheblichen Anteil am deutschen Buchmarkt. Die Empfehlungen der Plattform haben damit einen bedeutsamen Einfluss.
Amazon-Suche nach Corona (Bild: Screenshot netzpolitik.org)
Die Amazon-Suche nach „Corona“ – ausgeführt, ohne eingeloggt zu sein – zeigte bei unserem Test gleich mehrere problematische Bücher unter den ersten Suchergebnissen. Auf Platz 1 stand ein Buch mit dem Titel „Corona Fehlalarm?“. Dabei kann der Verdacht eines „Fehlalarms“ bei inzwischen weltweit rund 850.000 gemeldeten Todesfällen in Verbindung mit Covid-19 zweifellos als widerlegt betrachtet werden. „Die prägenden Stilmittel dieses Buchs sind das Geraune, die rhetorische Frage, die Unterstellung und die Andeutung“, fasst Deutschlandfunk Kultur zusammen. Der Autor des Buches, Sucharit Bhakdi, steht Verschwörungserzählungen mindestens offen gegenüber, immerhin ließ er sich im April diesen Jahres vom Verschwörungsideologen Ken Jebsen interviewen.
Zu den ersten Suchergebnissen auf Amazon gehörte auch ein Buch des Verlags Kopp, bei dem das Landesamt für Verfassungsschutz Baden-Württemberg schon 2015 eine „weltanschauliche und geschäftliche Nähe zu rechtspopulistischen und zum Teil offen rechtsradikalen beziehungsweise antisemitischen politischen Akteuren“ sah. Bereits auf dem Cover wird behauptet, im Schatten der Pandemie werde ein „totalitärer Staat“ aufgebaut – eine Erzählung, die auch zahlreiche Verschwörungsideolog:innen verbreiten. Insgesamt gibt es auf der ersten Suchergebnisseite mehrere Sachbücher, die die Pandemie leugnen oder anzweifeln, etwa: „Corona: Die pure Lüge“.
Doch es geht noch abstruser: Das erste Ergebnis bei der Suchanfrage „Flache Erde“ ist bei unserem Test Mitte August nicht etwa ein Buch, das die Verschwörungserzählung entlarvt, sondern eines mit dem anscheinend ernstgemeinten Titel: „Die flache Erde ist die einzige Wahrheit“.
Das erste Suchergebnis zum antisemitischen Verschwörungsmythos einer Holocaust-Lüge (Bild: Screenshot netzpolitik.org)
Ähnlich problematisch sind die Amazon-Suchergebnisse zu „Holocaust Lüge“, ein Begriff für die antisemitische Verschwörungserzählung, die den Mord an Millionen Jüd:innen anzweifelt. Das erste Suchergebnis stammt ausgerechnet vom verschwörungsideologischen Autor Thorsten Schulte und wird auch noch als „Bestseller“ beworben. Sein Buch hat dem vom Bayerischen Landesamt für Verfassungsschutz als rechtsextrem eingestuften Rapper Chris Ares offenbar so gut gefallen, dass er ein Lied darüber gesungen hat und Schulte im Musikvideo auftreten ließ. Ein Schreckensszenario des Buches ist eine Zukunft, in der es nur noch People of Colour und keine Weißen mehr gibt: Baustein einer durch und durch rassistischen Verschwörungserzählung über die vermeintliche Bedrohung eines weißen „Volks“.
Amazons Defizite zeigen sich auch bei Themen, über die schon seit Jahrzehnten seriöse Sachbücher erscheinen. Unter den ersten Suchergebnissen über „Krebs“ gibt es zum Beispiel Bücher über alternative Heilmethoden und Ernährungstipps gegen die Krankheit. Das ist nicht automatisch Desinformation, könnte Patient:innen aber zu möglicherweise lebensgefährlichen Entscheidungen für die eigene Behandlung verleiten.
Nicht nur die Amazon-Suche konfrontiert Leser:innen mit fragwürdigen Inhalten. Auch auf den Produktseiten von renommierten Sachbüchern kann das passieren, und zwar mittels Empfehlungen. Das heißt: Selbst wer sich schon genau informiert hat und gezielt ein fundiert recherchiertes Buch kaufen möchte, den kann Amazon dazu verleiten, eventuell doch noch etwas Desinformation in den Einkaufswagen zu legen. Das zeigt unsere Recherche, für die wir Hunderte Buchempfehlungen ausgewertet haben.
Amazon verbietet Produkte, die Hass und Gewalt fördern – eigentlich
Amazon hat eigentlich strenge Richtlinien, was auf der Plattform verkauft werden darf und was nicht. Nicht erlaubt sind demnach „Produkte, die Hass oder Gewalt gegenüber Personen oder Gruppen fördern, dazu anstiften oder verherrlichen.“ Noch allgemeiner heißt es: „Führen Sie keine Produkte auf, die Amazon-Kunden schädigen könnten.“ Nicht nur sind diese Regeln sehr vage, Amazon behält sich darüber hinaus das alleinige Recht vor, „zu entscheiden, welche Inhalte zu einer schlechten Kundenerfahrung führen, und diese aus dem Verkauf zu nehmen.“
Diese Regeln gibt es nicht nur in der Theorie: Im Jahr 2015 nahm Amazon, neben vielen anderen deutschen Buchhändlern, die Bücher von Akif Pirinçci aus dem Sortiment. Der Rechtsaußen-Schriftsteller hatte auf einer Pegida-Rede unter anderem gesagt: „Die KZs sind ja leider derzeit außer Betrieb“; zudem hat er den Verschwörungsmythos der „Umvolkung“ heraufbeschworen. Heute bietet Amazon seine Bücher wieder an.
Hunderte Empfehlungen analysiert
Amazon macht Bücher mit Desinformationen nicht nur denjenigen zugänglich, die womöglich gezielt nach ihnen suchen. Die Plattform schlägt sie Kund:innen sogar aktiv vor, wie unsere Recherche und eine Stichprobe zeigen. Dies geschieht auch unter wissenschaftlich fundierten Sachbüchern.
Wer sich auf Amazon ein Buch ansieht, bekommt im Bereich „Weitere Artikel entdecken“ andere Bücher empfohlen. Mit einem Klick auf eine solche Empfehlung öffnet sich die entsprechende Produktseite, die dann eine neue Palette an Empfehlungen enthält. Anhand von Amazons Vorschlägen zu dem Sachbuch „Corona: Geschichte eines angekündigten Sterbens“ haben wir untersucht, wohin die Plattform ihre Kund:innen mithilfe der Lesetipps führt. Das Sachbuch erscheint als eines der ersten Ergebnisse bei der Amazon-Suchanfrage „Corona“. Geschrieben hat es ein Kollektiv von 19 Journalist:innen des Recherchezentrums Correctiv.
Amazon-Buchempfehlungen ausgehend von „Corona: Geschichte eines angekündigten Sterbens“. Rot markiert sind eindeutig verschwörungsideologische Buch-Empfehlungen. Orange markiert sind Empfehlungen aus dem Spektrum der Impfskeptiker und -gegner. Blau markiert sind sonstige Bücher. (Bild: netzpolitik.org (mit einer Grafik von Correctiv/dtv))
Insgesamt haben wir 355 Empfehlungen ausgewertet, die auf Amazon in direkter oder indirekter Verbindung zu diesem Buch stehen. Es waren 97 unterschiedliche Titel, von denen uns Amazon einige mehrfach vorgeschlagen hat. Jede Buchempfehlung ist durch einen Kreis im Schaubild dargestellt.
Die 355 untersuchten Buchempfehlungen teilen sich in drei Ebenen. Die erste Ebene besteht aus den ersten sieben Amazon-Empfehlungen zu „Corona: Geschichte eins angekündigten Sterbens“.
Amazons Vorschläge, die uns angezeigt wurden zu dem Buch Corona: Geschichte eines angekündigten Sterbens (Bild: Screenshot netzpolitik.org)
Die zweite Ebene besteht aus den mit diesen sieben Empfehlungen verknüpften Empfehlungen. Zuletzt haben wir wiederum deren Empfehlungen erfasst – die dritte und unterste Ebene im Schaubild. Damit haben wir die möglichen Klickwege von Amazon-Kund:innen simuliert, die von Empfehlung zu Empfehlung stöbern.
Um die Empfehlungen nicht händisch anklicken zu müssen, haben wir ein Programm geschrieben, das diese Aufgabe automatisch erledigt hat. Die Erfassung erfolgte Ende August ohne Browser-Cookies oder einen Amazon-Login. Sie ist auch deshalb nur als Stichprobe zu verstehen, weil sich die Zusammenstellung von Amazon-Empfehlungen jederzeit ändern kann und von weiteren Faktoren wie dem Standort der Nutzer:innen abhängen kann.
Sämtliche Bücher haben wir anhand eines zuvor festgelegten Regelwerks klassifiziert. Im Schaubild rot markiert ist einschlägige Verschwörungsliteratur – also Bücher, die allein anhand ihrer Produktbeschreibung und Leseprobe eindeutig sogenannte Verschwörungstheorien verbreiten, die bereits in traditionellen Nachrichtenmedien als solche diskutiert wurden. Orange markiert sind Bücher, die sich anhand der Produktbeschreibung als impfskeptisch bis impffeindlich einordnen lassen.
Unsere Auswertung zeigt: Wer auf Amazon stöbert, den lockt die Plattform womöglich geradewegs in einen Kaninchenbau.
124 Empfehlungen für Verschwörungsliteratur
Mehr als die Hälfte der untersuchten Lesetipps bezieht sich auf Bücher mit problematischem Inhalt. In 124 Fällen schlug Amazon Bücher vor, die eindeutig verschwörungsideologisch sind. Viele von ihnen propagieren zudem rechtsextreme oder rassistische Erzählungen.
Bereits unmittelbar auf der Produktseite des Corona-Buchs der Correctiv-Journalist:innen schlug Amazon uns einen Titel vor, der die staatlichen Maßnahmen im Kampf gegen die Pandemie mit der „Neuen Weltordnung“ in Verbindung bringt, einem antisemitischen Verschwörungsmythos. Der Autor behauptet auch, Flugzeuge versprühten „Chemtrails“, die das Verhalten von Menschen beeinflussen sollten, außerdem wolle der Milliardär Bill Gates die Weltbevölkerung „drastisch reduzieren“.
Auf der zweiten Empfehlungsebene folgte ein Titel, der Enthüllungen über eine „verbotene Wahrheit über die beiden Weltkriege“ und „die Existenz von Außerirdischen“ verspricht. Auf der dritten Empfehlungsebene schlug uns Amazon ein Buch vor, das aus den Visionen von einhundert Seher:innen bestehen soll. Schon in seinem Vorwort verknüpft der Autor den Ersten, den Zweiten und einen angekündigten Dritten Weltkrieg mit dem Zionismus.
Zwei dieser Bücher sind im Verlag von Jan Udo Holey erschienen, das dritte hat dieser selbst verfasst. Das Bundesamt für Verfassungsschutz bezeichnete ihn in einem 2005 erschienenen Papier als „rechtsextremistischen Esoteriker“. Holey schreibt die Behörde auch eine Vorreiterrolle für antisemitische Verschwörungsliteratur zu. Die Staatsanwaltschaft Mannheim ermittelte gegen ihn wegen Volksverhetzung, einzelne seiner Schriften stehen auf dem Index. Sein Pseudonym Jan van Helsing tauchte in unserem Datensatz in Verbindung mit 37 Amazon-Empfehlungen auf.
Ab der zweiten Empfehlungsebene schlug Amazon uns zudem Bücher von Impfgegner:innen und -skeptiker:innen vor, insgesamt 56 Mal.
Das Spektrum reicht von kritischen Berichten über Impfschäden bis zu radikaler Impfgegnerschaft. Mindestens ein Teil der Bücher ist pseudo-wissenschaftlich, etwa eines, das eine „Impf-Illusion“ anprangert und beispielsweise das Polio-Virus verharmlost. Während wohl Milliarden Menschen auf einen wirksamen Impfstoff gegen das Coronavirus hoffen, säen diese Amazon-Empfehlungen Zweifel gegenüber Impfungen im Allgemeinen.
„So macht der Konzern die Welt kaputt“
Ab der dritten Empfehlungsebene sind verschwörungsideologische und impffeindliche Bücher in der Überzahl. Das ist offenbar kein Zufall: Der Klick auf ein solches Buch fördert in den Empfehlungen gleich noch mehr ähnliche Bücher zu Tage. Das spricht dafür, dass Amazon-Algorithmen durchaus eine Verbindung zwischen diesen Büchern erkennen können.
David Schraven ist Geschäftsführer von Correctiv und Mitherausgeber des Corona-Buchs, das auf Amazon mit zahlreichen Verschwörungsbüchern verknüpft ist. Schraven kritisiert Amazon scharf: „Da macht man sich viel Arbeit und dann wird die Recherche mitten im Müll platziert, der nur nach Aufmerksamkeit hascht“, sagt er gegenüber netzpolitik.org. Anstelle von Aufklärung würden Hass, Dummheit und Zwietracht hervorgehoben. „Amazon sollte sich überlegen, ob das so eine tolle Idee ist. So macht der Konzern die Welt kaputt.“
Wir haben unsere Stichprobe auch mit Sachbüchern über Verschwörungsmythen erhoben, unter anderem „Fake Facts“ von Pia Lamberty und Katharina Nocun und „Nichts ist wie es scheint“ von Michael Butter. In diesen Fällen führten die Amazon-Empfehlungen etwas später zu Desinformation: Erst in der dritten Ebene der Empfehlungen erschienen einschlägig verschwörungsideologische Bücher – sie sind damit nur drei Klicks von dem Buch entfernt, mit dem wir die Stichprobe begonnen haben.
Einmalige Konfrontation mit Verschwörungsmythen kann Verhalten ändern
Welch schwerwiegende Auswirkungen solche Amazon-Empfehlungen haben könnten, legt die Forschung von Sozialpsycholog:innen aus Großbritannien nahe. An der Universität in Kent zeigten Untersuchungen von Daniel Jolley und Karen M. Douglas, dass bereits einmaliger Kontakt mit Verschwörungserzählungen einen Unterschied machen kann.
Die Forschenden legten 60 Menschen aus den USA einen Text mit erfundenen Behauptungen zu den negativen Folgen von Impfungen vor. Anschließend sollten sich die Testpersonen vorstellen, ein Kind namens Sophie zu haben, und unter anderem beantworten, ob sie dieses Mädchen impfen lassen würden. Und tatsächlich: Menschen, die mit den Verschwörungserzählungen konfrontiert wurden, waren weniger bereit, Sophie impfen zu lassen als Menschen in einer Kontrollgruppe. Der meiste Zuspruch zum Impfen kam von einer dritten Gruppe, die zuvor einen Text gelesen hatte, der Verschwörungserzählungen von Impfgegner:innen widerlegte. Wie die 2014 veröffentlichte Studie ergab, waren die Impf-Skeptiker:innen zudem misstrauischer im Bezug auf Behörden.
Der Sozialpsychologe Jolley warnt gegenüber netzpolitik.org auch vor den Auswirkungen der Amazon-Algorithmen, die Bücher von Impfgegner:innen neben seriösen Sachbüchern empfehlen. „Es ist zweifellos plausibel, dass der Glaube an solche Erzählungen stärker werden kann, wenn Menschen ihnen wiederholt ausgesetzt sind. Das kann sich wiederum auf ihr Verhalten auswirken.“
Empfohlene Bücher könnten zudem eine verschwörungsideologische Weltanschauung von Nutzer:innen bekräftigen. „Es ist gewiss möglich, dass durch die Konfrontation mit mehreren Buchempfehlungen zu einem bestimmten Thema der Eindruck entsteht, es gebe einen Konsens, den tatsächlich viele Menschen und Organisationen teilen.“ Das könne Menschen wiederum ermutigen, sich weiterhin mit solchen Inhalten auseinanderzusetzen. „Amazon hat dieselbe Verantwortung wie andere Social-Media-Plattformen, ethisch zu handeln“, sagt Jolley.
Attentate wie das in Hanau am 19. Februar 2020 oder in El Paso am 3. August 2019 zeigen, wie Verschwörungserzählungen bei der Radikalisierung von Terroristen eine Rolle gespielt haben. In diesen und weiteren Fällen haben die Täter ihre Gewalt unter anderem mit Verschwörungsmythen legitimiert. Erzählungen wie QAnon können Menschen zu der Überzeugung bringen, dass diabolische Gruppen im Geheimen Böses gegen die Bevölkerung unternehmen. Eine vermeintliche Bedrohung, die Verschwörungsgläubige unter Druck setzen kann, dagegen zu handeln und eine Gewalttat zu begehen. Auch das FBI warnte davor.
Amazon möchte keine einzige unserer Fragen beantworten
Wir haben Amazon per E-Mail die Ergebnisse unserer Recherche vorgelegt und eine Liste mit zehn Fragen geschickt. Unter anderem wollten wir wissen, ob dem Konzern das Ausmaß von rechtsextremen und verschwörungsideologischen Inhalten in seinen Suchergebnissen und Empfehlungen bekannt sei. Wir fragten auch, inwiefern Amazon die Verbreitung dieser Bücher eindämme. Keine einzige unserer Fragen wollte der Konzern beantworten.
Deshalb wissen wir nicht, ob sich Amazon überhaupt in der Verantwortung sieht, wenn Kund:innen durch Top-Suchergebnisse und Empfehlungen ihrer Gesundheit schaden, etwa weil sie impffeindliche Bücher gelesen haben. Oder wenn sich Kund:innen durch rechtsextreme Bücher politisch radikalisieren. Amazon wollte auch nicht sagen, wie die Vorschläge im Bereich „Weitere Artikel entdecken“ zu Stande kommen.
Neben einem Verweis auf die öffentlichen Richtlinien ließ der Konzern durch eine Sprecherin lediglich mitteilen: „Wir investieren viel Zeit und Ressourcen, um sicherzustellen, dass unsere Richtlinien befolgt werden, und entfernen Produkte, die nicht im Einklang mit unseren Richtlinien stehen. Über unsere proaktiven Maßnahmen hinaus prüfen wir auch umgehend jeden Hinweis, den wir erhalten.“
Dass Amazon Hinweise prüft, können wir in unserem Fall bestätigen: Amazon wollte von uns noch einmal genau wissen, welche Produkte uns bei den Suchanfragen „Flache Erde“, „Holocaust Lüge“ und „QAnon“ angezeigt wurden. Wir haben der Pressestelle entsprechende Screenshots geschickt. Geändert hat das bislang aber nichts. Noch immer bekommen Nutzer:innen bei diesen Suchbegriffen zunächst einmal Verschwörungsmythen zu sehen.
All das dürfte Rechtsextremen und Verschwörungsideolog:innen sehr gefallen. Der Verschwörungsautor Jan Udo Holey kommentiert auf Amazon süffisant, wie gut ihm die Plattform bei der Verbreitung seiner Bücher helfe. „Amazon macht es möglich, daß jeder meine Bücher schnell und kinderleicht bestellen kann“, heißt es in einem Autorenkommentar unter einer seiner Veröffentlichungen. „Herzlichen Dank an dieser Stelle an das Amazon-Team.“
Textlizenz: Creative Commons BY-NC-SA 4.0