Ist die Desinformationskrise von Facebook real?

Wenn Sie die Nachrichten der letzten Jahre verfolgt haben, sind Sie wahrscheinlich davon überzeugt, dass wir in einem goldenen Zeitalter der Verschwörungstheorien und Desinformation leben.

Ob QAnon, der Aufstand vom 6. Januar oder die Anti-Impfstoff-Hysterie, viele glauben, dass der Schuldige meistens schlechte Informationen sind – und der Fantasy-Industrie-Komplex, der sie generiert und verbreitet – der die Gehirne der Menschen bricht.

Ich habe jedoch kürzlich einen Aufsatz in Harper’s Magazine gelesen, der mich fragen ließ, ob die Geschichte so einfach war. Ich kann nicht sagen, dass es meine Meinung über die realen Konsequenzen von Lügen grundlegend geändert hat, aber es hat mich dazu gebracht, einige meiner Kernannahmen über das Informationsökosystem online in Frage zu stellen. Es heißt „Bad News: Selling the Story of Desinformation“ und der Autor ist Joseph Bernstein, ein leitender Technologiereporter für BuzzFeed News.

Bernstein bestreitet nicht, dass Desinformation eine Sache ist. Das Problem ist, dass wir keine einheitliche Definition des Begriffs haben. In der Literatur finden sich laut Bernstein viele vage Hinweise auf Informationen, „die möglicherweise zu Fehleinschätzungen über den Zustand der Welt führen könnten“.

Eine so weit gefasste Definition sei als Grundlage für objektive Studien nicht allzu nützlich. Und es ist auch nicht so klar, wie sich Desinformation von Fehlinformation unterscheidet, außer dass erstere eher als „absichtlich“ irreführend angesehen wird. All dies führt Bernstein zu dem Schluss, dass selbst die Leute, die dieses Zeug recherchieren, sich nicht einigen können, worüber sie sprechen.

Aber das größere – und viel weniger verstandene – Problem besteht darin, dass bestimmte Interessen in übertriebene Desinformation als existenzielle Krise investiert werden, weil sie gut fürs Geschäft ist und weil sie die wahren Wurzeln unserer Probleme leugnen kann.

Ich habe ihn für die dieswöchige Folge von Vox Conversations kontaktiert, um darüber zu sprechen, wo seiner Meinung nach der Desinformationsdiskurs schief gelaufen ist und warum nicht so klar ist, ob das Internet die amerikanische Gesellschaft gebrochen hat oder nur entlarvte es.

Unten ist ein bearbeiteter Auszug aus unserem Gespräch. Wie immer gibt es im vollständigen Podcast noch viel mehr, also abonnieren Sie Vox Conversations auf Apple Podcasts, Google Podcasts, Spotify, Stitcher oder wo immer Sie Podcasts hören.

Sean Illing

Ich habe in den letzten Jahren viel Zeit damit verbracht, Gerüchte über Desinformation und Fehlinformationen zu machen und was für ein großes Problem das ist, und ich muss sagen, du hast mich wirklich dazu gebracht, innezuhalten und darüber nachzudenken, wie leicht ich mich eingekauft habe die konventionelle Weisheit über dieses Zeug.

Aber fangen wir einfach damit an: Glauben Sie, dass Leute wie ich, die sich öffentlich über Desinformation Sorgen gemacht haben, Teil einer Panik waren?

Joe Bernstein

Ich denke, dass die Idee von schlechten Informationen im Internet ein wenig verstandenes und manchmal wenig diskutiertes Thema ist. Das ist ein riesiges Thema. Das ist ein neues Thema. Das ist ein sehr wichtiges Thema, aber wie bei vielen Problemen hilft es, sie zu definieren. Und wenn Sie Schwierigkeiten haben, sie zu definieren, hilft es, darüber nachzudenken, warum. Und wenn Sie anfangen, darüber nachzudenken, warum, hilft es, darüber nachzudenken, wer versucht, das Problem zu definieren und warum.

Und so kann ich es nicht einmal unbedingt Panik nennen, denn ich denke, vor allem, wie wir in den letzten Wochen mit dieser Reihe von Enthüllungen im Wall Street Journal und dann mit der Aussage des Facebook-Whistleblowers gesehen haben, das sind echte probleme. Es ist mir einfach nicht klar, ob wir vollständig verstehen, worum es geht, oder dass wir vollständig verstehen, wie diese Kategorien herumgeworfen werden – und ich habe sie manchmal auch herumgeworfen, Fehl- und Desinformationen – wie sie sind Gebraucht.

Und genau das wollte ich tun: nicht zu sagen, dass wir mit mehreren privaten Unternehmen, die das Monopol über den Informationsfluss haben, einfach glücklich sein und damit leben sollten, sondern dass wir, wenn wir über das Problem sprechen, verstehen sollten, wer möchte es ansprechen und warum.

Sean Illing

Es mag die Leute überraschen zu erfahren, dass selbst die Forscher, die sich mit Desinformation beschäftigen, keine kohärente oder konsistente Definition des Begriffs finden können.

Joe Bernstein

Dies ist eines der Dinge, die ich in dem Stück zum Lachen gespielt habe. Was Gelehrte sagen würden, ist, dass sie ein lexikalisches Problem haben. Jeder weiß, dass es ein Problem gibt, aber jeder greift dieses Problem mit dem gleichen Wort an, mit einer anderen Idee im Kopf.

Die umfassendste Umfrage zum wissenschaftlichen Bereich stammt also aus dem Jahr 2018. Es handelt sich um eine wissenschaftliche Literaturrecherche mit dem Titel „Social Media, Political Polarization, and Political Desinformation“. Und die Definition, die sie von Desinformation geben – und dies ist ein guter, breiter Überblick über das Gebiet – ist die Definition, die sie geben: „Desinformation ist als eine breite Kategorie gedacht, die die Arten von Informationen beschreibt, die man online finden könnte und die möglicherweise führen könnten zu Fehleinschätzungen über den tatsächlichen Zustand der Welt.“

Soweit ich das beurteilen kann, gilt diese Definition im Grunde für alles, mit dem Sie online in Kontakt kommen könnten. Und Sean, ich sollte darauf hinweisen, dass dies bis zu den Definitionen läuft, die Technologieunternehmen verwenden, wenn sie Fehl- und Desinformation definieren. Also – ich werde das nicht genau richtig machen – aber TikToks Definition von Fehlinformationen ist so etwas wie „Informationen, die nicht wahr sind oder Informationen, die irreführen könnten oder nicht wahr sind“. Da ist einfach nicht viel drin. Es gibt viel gute Forschung, aber für etwas, das eine objektive Wissenschaft sein will, gibt es keine gute objektive Grundlage.

Sean Illing

Ein großes Problem hier ist, dass wir verzweifelt nach einer neutralen Definition von Desinformation suchen, damit es möglich ist, etwas „Desinformation“ zu nennen, ohne dass es politisch erscheint, aber das scheint nicht möglich zu sein.

Joe Bernstein

Ja. Und dann war für mich eines der interessanten Dinge, als ich nach der Etymologie des Begriffs suchte – es ist eigentlich eine Anleihe an ein russisches Wort, das in den frühen Jahren des Kalten Krieges populär wurde: dezinformatsiya. Es wurde ursprünglich in der Großen Sowjetischen Enzyklopädie von 1952 definiert, die eine Art Propaganda-Enzyklopädie für den englischen Konsum war. Seine Definition lautete wie folgt: „Verbreitung von Falschmeldungen in der Presse oder im Radio, die die öffentliche Meinung irreführen sollen. Die kapitalistische Presse und das Radio machen großen Gebrauch von dezinformatsiya.“

Ich möchte kein kompletter Relativist sein und sagen, dass es keine Dinge gibt, die wahr oder falsch sind. Natürlich gibt es. Aber gerade im Internet ist der Kontext sehr, sehr wichtig, und es ist sehr schwer, bestimmte Informationsbrocken als gute oder schlechte Informationen zu isolieren.

Sean Illing

Was ist eine bessere Definition von „Desinformation“? Wie unterscheidet es sich von „Fehlinformationen“ oder „Propaganda“?

Joe Bernstein

Ich mag das Wort Propaganda besser als die Worte Fehl- und Desinformation, weil ich denke, dass es eine stärkere politische Konnotation hat. Ich denke, es gibt ein breites Verständnis unter den Leuten, die studieren und den Leuten, die in den Medien über Fehl- und Desinformation sprechen, dass Desinformation beabsichtigter ist als Desinformation, und Fehlinformationen neigen dazu, schlecht kontextualisiert, aber dennoch wahre oder „wahre“ Informationen zu sein.

Mit diesem Artikel wollte ich klarstellen, dass hinter diesen Definitionen Politik steht, so wie Menschen, die sie verwenden, Politik hinter sich haben. Ich denke nicht einmal, dass an der Verwendung dieser Begriffe etwas falsch ist, solange klar ist, dass es Interessen gibt.

Und ich unterstelle keine allgemeine Verschwörung. Ich gebe mir Mühe zu sagen – vielleicht habe ich es in dem Artikel nicht genug gesagt –, dass es Leute gibt, die in absolut gutem Glauben operieren, die sich sehr um den öffentlichen Diskurs kümmern, die dieses Problem untersuchen. Ich möchte nur anerkennen, dass hinter der Verwendung dieser Begriffe eine Politik steckt, selbst wenn es sich um eine zentristische oder eine Art konventionelle liberale Politik handelt. Ich möchte, dass dies ein Merkmal der Diskussion ist.

Sean Illing

Eine große Behauptung in Ihrem Artikel ist, dass der Desinformationswahn zu einem Vehikel geworden ist, um die Online-Werbewirtschaft zu stützen, und es mag widersinnig klingen zu sagen, dass Big-Tech-Unternehmen wie Facebook die Idee, dass „Desinformation“ ein großes Problem ist, enthusiastisch begrüßen würden.

Was hat ein Unternehmen wie Facebook hier zu gewinnen? Warum verkaufen sie das so hart?

Joe Bernstein

Nun, eines der Dinge, die mich dazu gebracht haben, darüber nachzudenken, war, dass ich mit einer Art Schlagwort begann, das ich verwendet habe; das „Informationsökosystem“. Es macht einfach einen intuitiven Sinn. Wir haben eine Welt, die natürliche Welt der Informationen, und dann ist sie durch etwas verschmutzt. Und so fing ich an, über andere Industrien nachzudenken, die die Umwelt verschmutzen und die wegen der Umweltverschmutzung in Schwierigkeiten geraten sind.

So wie die Tabakindustrie – die in letzter Zeit ein wichtiger Vergleichspunkt mit Big Tech war – verursachen Zigaretten den Menschen Krebs. Oder die fossile Brennstoffindustrie, sie verschmutzt und trägt zum Klimawandel bei. Und dahinter steckt gute Wissenschaft. Und doch haben diese Industrien jahrelang gegen die Wissenschaft gekämpft und versucht, die Wissenschaft zu untergraben.

Und ich war sehr überrascht, als ich darüber nachdachte, wie lange es dauerte, Facebook dafür verantwortlich zu machen, die Wahlen 2016 zu Trumps Gunsten und für den Brexit zu werfen, bis Mark Zuckerberg im Wesentlichen öffentlich zugab, dass Fehlinformationen ein Problem waren. Und wir ahnen, dass das wahr ist, aber ich glaube nicht, dass die Wissenschaft unbedingt vorhanden ist. Ich glaube, die Untersuchung der Medienwirkungen auf die Politik ist noch nicht unbedingt da.

Ich meine, wir bekommen immer noch die Politikwissenschaft über die Wirkung von Pater Coughlin auf die Wahlen von 1936, glaube ich. Das sind Fragen, die im Laufe der Zeit geklärt werden. Aber Sie hatten Mark Zuckerberg da draußen in der Öffentlichkeit, der im Grunde sagte: “Wir werden Fehlinformationen bekämpfen.”

Das liegt zum Teil daran, dass Facebook meiner Meinung nach nie eine besonders kohärente Pressestrategie hatte. Aber ich denke, ein Teil davon ist, dass Facebook sehr schnell erkannt hat, wie auch die anderen großen Tech-Unternehmen, dass sie nicht pauschal sagen: „Das ist nicht wahr. Diese Behauptungen, es gibt keine empirische Grundlage dahinter.“ Ich glaube, sie erkannten, dass es die bessere Strategie war, die Leute, die diese Forschungen durchführen, zu kooptieren oder zumindest die Arme um sie zu legen.

Und ich begann mich zu fragen warum. Aus der Sicht der Öffentlichkeitsarbeit macht es Sinn. Aber ich fing auch an, über die Natur der Behauptung selbst nachzudenken, dass Menschen, die schlechten Informationen ausgesetzt sind, zwangsläufig von diesen Informationen überzeugt sind. Und dann hatte ich eine Art „Heureka“-Moment, das war genau die gleiche Art und Weise, wie Facebook Geld verdient. Was Hannah Arendt die „psychologische Prämisse der menschlichen Manipulierbarkeit“ nennt, ist eine Art Bissen.

Wenn wir also akzeptieren, dass die Leute durch den Bullshit, den sie auf Facebook oder im Internet sehen, endlos überzeugt sind, tragen wir in gewisser Weise zu der Idee bei, dass das Werbeduopol Facebook und Google und nur Online-Werbung im Allgemeinen funktioniert.

Ich mache weiter, aber es gibt ein großartiges Buch, das ich zu dieser Zeit von einem Typen gelesen habe, der jetzt der General Counsel von Substack ist. Er ist ein Typ namens Tim Wong, der lange Zeit bei Google gearbeitet hat. Das Buch heißt Subprime-Aufmerksamkeitskrise. Und im Grunde geht es darum, wie viel von der Online-Werbebranche ein Kartenhaus ist.

Eine sehr interessante Tatsache über die Offenlegung von Facebook-Whistleblowern an die SEC, die fast keine Presseaufmerksamkeit fand, ist, dass sie auf der Grundlage interner Facebook-Recherchen behauptet, dass sie Investoren in Bezug auf die Reichweite und Wirksamkeit ihrer Anzeigen stark in die Irre geführt haben. Und für mich ist das Schädlichste, was man über Facebook sagen kann, dass diese Art von industrieller Informationsmaschine nicht wirklich funktioniert.

Und das hat alles, was ich darüber dachte, auf den Kopf gestellt. Und da habe ich angefangen, das Stück zu schreiben.

Um den Rest des Gesprächs zu hören, Klicke hier, und abonnieren Sie Vox Conversations auf Apple-Podcasts, Google-Podcasts, Spotify, Hefter, oder wo immer Sie Podcasts hören.