Desinformation & Demokratie

Ein unachtsamer Zahlendreher, aus Versehen Namen vertauscht oder eine falsche Ortsmarke – Fehler passieren. Wenn wir von Desinformation sprechen, geht es nicht um Fehler, die versehentlich in Umlauf gebracht werden. Hinter Desinformation steht die Absicht, in die Irre zu führen. Falsche Informationen, falsche Nachrichten – oder schlicht Falschinformationen – gibt und gab es immer. Bei diesen Bezeichnungen geht es nicht um die Motive der Urheberinnen und Urheber oder die Folgen der Nachricht. Sie sind ein Oberbegriff.  Expertinnen und Experten unterscheiden bei falschen Informationen zwischen Fehlinformation und Desinformation: Von außen betrachtet haben Nutzerinnen und Nutzer es in beiden Fällen mit falschen Tatsachenbehauptungen zu tun. Der wesentliche Unterschied liegt in der Motivation dahinter: Desinformationen wollen bewusst verzerren, Menschen vorsätzlich täuschen und so die öffentliche Meinung beeinflussen – zum Beispiel zur Wirksamkeit von Covid-19-Impfungen oder zum angeblichen Einsatz von Nato-Soldaten im Ukraine-Krieg. Fehlinformationen transportieren unabsichtliche Fehler, die in der Regel später richtiggestellt werden. Wenn belegte, aber vielleicht vertrauliche Informationen mit einer Schädigungsabsicht gestreut werden, haben wir es mit sogenannter Malinformation zu tun. Sie kann sogar illegal sein.

“Fake News” ist ein Kampfbegriff, der für unterschiedliche Zwecke eingesetzt wird. Eindeutiger ist die Unterscheidung zwischen Fehlinformation und Desinformation: falschen Nachrichten, die entweder versehentlich oder mit Schädigungsabsicht verbreitet werden.

• Hintergrund-Artikel von CORRECTIV.Faktencheck “Dark Ads bei Facebook: Wie mit Falschnachrichten Stimmung für den Brexit gemacht wurde”
• Kommunikationswissenschaftlerin Jana Egelhofer in Deutschlandfunk Nova zum Begriff “Fake News”
• CORRECTIV-Faktencheck und Kurzanalyse der Stiftung neue Verantwortung zu Donald Trumps Crime-Tweet in Deutschland

Fehl- und Desinformationen sind kein Phänomen der neueren Zeit, sondern altbekannt. Doch über das Internet und vor allem über Social Media verbreiten sie sich schneller und weiter denn je. Das liegt an ihrer Aufmachung, aber auch an dem Verhalten der Nutzenden.

Dass sich Falschinformationen besonders schnell über die sozialen Netzwerke verbreiten, liegt an der hohen Geschwindigkeit der Plattformen und der Machart von Desinformation. Das eigene Nutzungsverhalten spielt ebenfalls eine große Rolle, denn wenn jede Interaktion mit Videos (liken, kommentieren, speichern, teilen) erkennt der Algorithmus und spielt sie im Zweifel immer mehr Menschen aus.

• Wie funktioniert eigentlich Tiktok? Das erklärt die Bundeszentrale für politische Bildung in diesem Artikel sehr verständlich.
• Wer die Logik der Plattformen nicht versteht, sieht auch nicht die Gefahren dahinter. Über eben diese klärt die Amadeu-Antonio-Stiftung in dieser Handreichung auf.
• TikTok ist eine Plattform von vielen. Wie sich Desinformationen und auch glaubwürdige Informationen über Facebook, Twitter und Co. verbreiten, erfahren Leser und Leserinnen in einem Dossier des Science Media Centers. Wissenschaftler beantworten darin zentrale Fragen zum Thema.

Richtig oder falsch, Wahrheit oder Lüge –  und wer auf die Lüge reinfällt, hat nicht ausreichend nachgedacht. Ganz so einfach ist es nicht. Denn Desinformation wird erstellt, damit sie geglaubt und weiterverbreitet wird. Besonders glaubhaft wirken Behauptungen für Menschen, wenn sie an bereits Bekanntes anknüpfen, thematisieren, was gerade ohnehin im Fokus der öffentlichen Debatte steht, oder falsche Behauptungen mit belegten Details vermischen. Dieses psychologische Phänomen heißt Bestätigungsfehler. Desinformation enthält deshalb oft Halbwahrheiten, reißt Tatsächliches aus dem Kontext, manipuliert Bilder oder Zitate, um einer real existierenden Situation einen anderen Dreh zu geben.

Desinformation appelliert häufig an Gefühle. Wenn dich eine Nachricht also emotional macht, gehe einen Moment in dich und teile sie nicht sofort. Oft nutzt Desinformation Fakten, die stimmen, in falschem Kontext oder überzeugt damit, dass Teile ihrer Informationen wahrscheinlich vorkommen.

• Richtig oder falsch? Ganz so einfach ist es mit Desinformation nicht. Mal gibt es einen wahren Kern, aber Kontext fehlt, ein anderes Mal ist eine Überschrift irreführend. Die Bewertungsskala von CORRECTIV.Faktencheck gibt einen guten Überblick.
• Desinformation wirken nicht nur über Behauptungen. Dahinter stehen auch psychologische Wirkmechanismen. Deutschlandfunk Nova erklärt das an einem Beispiel.
• “Widerlegen, aber richtig” ist das Ziel des Debunking-Handbuchs, das Wissenschaftler gut nachvollziehbar zusammengestellt haben.
• Desinformationen wirken über Emotionen und schüren zum Beispiel Neid, wie dieser Faktencheck von CORRECTIV zu Sozialleistungen oder dieser zu Sozialhilfe für syrische Flüchtlinge zeigen.

Appell an Wählende: “Du bist Erstwähler? Setz Deine Unterschrift unter den Stimmzettel, um Wahlbetrug zu vermeiden." Solche Aufrufe kursierten in den Sozialen Medien schon während der Landtagswahl in NRW – und gut ein Jahr später mit Blick auf die Landtagswahl in Hessen. Achtung, Manipulation! Denn wer auf den Aufruf reinfällt und in der Wahlkabine seine Signatur setzt, macht die eigene Stimmabgabe ungültig. Während die falschen Behauptungen vor allem im Internet und ganz besonders auf den Social-Media-Plattformen ein Massenpublikum finden, haben sie ganz konkrete Auswirkungen auf die Gesellschaft. Das Beispiel führt eindrücklich vor, wie Desinformationen darauf abzielen, demokratische Prozesse zu manipulieren.

Andere Beispiele für wahlbezogene Desinformation sorgten weltweit für Schlagzeilen – wie der Sturm auf das Kapitol in den USA. Nach Donald Trumps Wahlniederlage attackierten seine Anhängerinnen und Anhänger das Regierungsgebäude. Angeblich sei sein vermeintlicher Wahlsieg gestohlen worden, betonte damals auch der scheidende Präsident selbst. Das war eine glatte Falschbehauptung: Weder liegen Beweise für einen Betrug vor, noch haben erneute Auszählungen eine Manipulation bewiesen. Letztlich stürmten rund 800 Menschen das Kapitol, fünf starben an diesem 21. Januar 2021.

Wahlen sind ein Höhepunkt im politischen Leben, ein Höhepunkt in journalistischer Berichterstattung – und auch ein Höhepunkt von Desinformationskampagnen. Wählerinnen und Wähler sollten verdächtige Behauptungen kritisch bewerten und sich vor der Stimmabgabe über glaubwürdige Quellen informieren. Wie das geht, erklären wir unter anderem in den Fragen 6 und 7.

• Zu Wahlen kursieren immer wieder viele falsche Behauptungen, viele mit einer klaren Manipulationsabsicht. Bei der letzten Bundestagswahl sammelte Correctiv.Faktencheck diese Falschinformationen und irreführenden Gerüchte über die Bundestagswahl 2021
• In dem Podcast “Netz der Lügen” geht die Bundeszentrale für politische Bildung der Frage nach, ob und wie Fehlinformationen auf Demokratien wirken und wo sie ihren Ursprung haben. Er nimmt Hörerinnen und Hörer dafür mit von Deutschland in die Ukraine, nach Taiwan und bis in die USA.
• Falsche Informationen zur Briefwahl halten sich über Wahlen und Länder hinweg – zu Unrecht, zeigt Correctiv.Faktencheck in dem Artikel “Weshalb die Angst vor Betrug bei der Briefwahl unbegründet ist”
• Damit Desinformationen keinen Einfluss auf Wahlen nehmen, helfen umfangreiche Informationsangebote wie von der Bundeszentrale für Politische Bildung und der Hessischen Landeszentrale für Politische Bildung.
• Das Jahr 2024 wird ein Superwahljahr mit zahlreichen richtungsweisenden Wahlen weltweit. Dazu gehören die US-Wahl, drei Landtagswahlen in Deutschland und die Wahl zum 10. Europäischen Parlament am 9. Juni 2024.

Desinformation findet nicht im luftleeren Raum irgendwo im Netz statt, sie kann reale Folgen haben - und hat sie auch. Menschen treffen Wahlentscheidungen aufgrund von Informationen - und eben auch aufgrund von Falschinformationen. Desinformation kann Hass gegen Migratinnen oder Migranten schüren, sie kann Menschen dazu bewegen, sich nicht zu impfen und damit das Infektionsrisiko in einer Bevölkerung verändern. Deshalb ist klar: Gegen Desinformation muss was unternommen werden. Zivilgesellschaft, Medien, Politik und Wissenschaft arbeiten an Lösungsansätzen.

Bewährtes Gegenmittel sind Faktenchecks. Sie begegnen falschen Behauptungen mit journalistischen Recherchen und überprüfbaren Tatsachen. Metaphorisch sind sie die “Pille danach”, denn sie behandeln Desinformationen, die längst im Umlauf sind und unter Umständen schon Schaden angerichtet haben. Andere Lösungsansätze sollen präventiv wirken. Besagter Metapher zufolge sollen sie die Gesellschaft ähnlich einer Impfung gegen Desinformation immunisieren. Denn wenn eine Desinformation sofort als solche entlarvt wird, ist sie zwar in der Welt, aber ihr Effekt verpufft.

Desinformation ist ein komplexes Problem, das nach umfangreichen und vielfältigen Lösungsansätzen verlangt. Und es gibt bereits viele Angebote: Nutzerinnen  und Nutzer können über Spiele, Videos und Workshops über das Thema informieren - und nein, das muss nicht langweilig sein. Wer unsicher bei einer konkreten Behauptung ist, schaut bei einem Faktencheck-Medium vorbei. Vielleicht gibt es schon einen Artikel, der sie einordnet.

• Einen Überblick über deutschsprachige Faktencheck-Angebote liefert das German Austrian Digital Media Observatory (GADMO).
• Teste Deine eigene Medien- und Informationskompetenz im News-Test: Wie gut kannst du verschiedenen Kommunikationsabsichten hinter Behauptungen erkennen?
• Correctiv hat für TikTok Videos und Tipps zusammengestellt, wie sich schädliche Fehlinformationen auf der Plattform verhindern lassen. Correctiv unterstützte eine ähnliche Video-Kampagne bei Youtube unter dem Motto “Lass Dich nicht manipulieren”.
• Wärst du ein guter Verschwörungserzähler? Das Bad News-Spiel hat die niederländische Organisation DROG für Menschen ab 15 Jahren für den Einsatz in Bildung und Forschung entwickelt.
• Der SWR-Faktenfinder bietet ein Spiel für eine jüngere Zielgruppe.
• Auf dieser Seite der Hessischen Landeszentrale für Politische Bildung gibt es Informationen für Schülerinnen und Schüler.
• Die Stiftung Neue Verantwortung hat in der Studie „Quelle: Internet“? Digitale Nachrichten- und Informationskompetenzen der deutschen Bevölkerung im Test die Medienkompetenz der Deutschen unter die Lupe genommen.

Falschinformationen und Desinformation sind oft gut getarnt und fallen nicht unbedingt auf zwischen den hunderten Textnachrichten, Videos, Bildern und Tweets, die wir täglich auf unserem Bildschirm sehen. Einfache Tipps können helfen, falsche Behauptungen sicherer aus der Flut an Inhalten herauszufiltern und im richtigen Moment skeptisch zu werden.

Wer ist der Sender?

Um einschätzen zu können, ob es sich bei einer Nachricht um Falschinformationen und/oder Desinformation handelt, lohnt ein Blick auf den Sender der Nachricht. Schon ein Klick auf das Profil des Social-Media-Accounts kann Aufschluss darüber geben, mit welchem Interesse die Nachricht geteilt wurde. Auf Internetseiten verrät das Impressum einiges über den Sender. Denn in Deutschland müssen Internetseiten ein Impressum führen. Haben sie keins oder gibt ein deutschsprachiges Angebot eine ausländische Adresse an, kann das Anlass für Skepsis sein.

Werden Quellen genannt?

Tauchen in einer Nachricht Tatsachenbehauptungen ohne Quellenangabe auf, sollte das stutzig machen. Desinformation kommt allerdings oft in journalistischer Aufmachung daher: Quellenangaben wirken seriös – das wissen auch die Macherinnen und Macher irreführender Falschnachrichten. Daher lohnt ein genauer Blick auf die genannten Quellen: Wurde vielleicht Kontext unterschlagen? Oder wurde die Angabe schlicht erfunden?

Zu diesem Urteil kommen Faktencheckerinnen und Faktenchecker immer wieder bei Zitaten, die zum Beispiel Politikern in den Mund gelegt werden. Schon vor der Bundestagswahl 2021 ging im Netz das Gerücht herum, die Grünen Spitzenkandidatin Anna-Lena Baerbock wolle die „Witwenrente abschaffen“ und die eingesparten Mittel für die Integration von „Flüchtlingen“ verwenden. „Frei erfunden”, so die Bewertung von CORRECTIV.Faktencheck. Dennoch tauchte die Falschinformationen auch noch zwei Jahre nach der Bundestagswahl auf. Mehr zum Quellencheck bei Frage 8.

Passt die Text-Bild-Schere?

Bilder lassen sich leicht manipulieren – das gilt seit Photoshop und umso mehr, seitdem KI-basierte Tools zur Bildgenerierung auf dem Massenmarkt sind (=> siehe Frage 10). Und häufig braucht es gar keine Bildbearbeitung, sondern die Desinformation entsteht einfach durch einen falschen Kontext. Schaue also genau, ob die Nachricht wirklich zum verwendeten Bild passt oder nicht. Ein weiterer Hinweis ist eine stark emotionalisierte Sprache. Journalistische Nachrichten sind sachlich formuliert, Falschinformationen hingegen wollen Emotionen wie Wut, Hass oder Neid auslösen.

Berichten die Leitmedien?

Wenn sich die verdächtige Information nicht so oder so ähnlich auch in den Leitmedien wiederfindet, handelt es sich umso wahrscheinlicher um eine Falschmeldung. Zu Leitmedien zählen überregionale Zeitungen und deren Online-Auftritte wie Die Zeit, die Süddeutsche Zeitung oder die Frankfurter Allgemeine Zeitung. Gerade bei lokalen Ereignissen lohnt der Blick in die jeweilige Regionalzeitung. Im Rundfunk bieten sowohl öffentlich-rechtliche wie auch private Sender glaubwürdige Berichterstattung. Glaubwürdige Berichterstattung hängt von der Quellenlage ab. Aber auch traditionellen Medien erlebt das Publikum Berichterstattung, die Clickbaiting oder Boulevard-Formate  bedient. Allerdings gibt es hier für das Publikum die Möglichkeit, sich bei der Redaktion oder dem Presserat über die Berichterstattung zu beschweren (=> siehe Frage 8)

Wer Nachrichten nicht nur oberflächlich einordnen, sondern selbst überprüfen will, liest weiter bei Frage 7.

Zu den ersten Schritten, um die Glaubwürdigkeit einer Nachricht einzuordnen, gehören ein Blick auf den Sender, die genannten Quellen, Text-Bild-Scheren und ein schneller Abgleich mit glaubwürdiger Berichterstattung.

• Fake oder Fakt? In diesem Flyer hat CORRECTIV.Faktencheck einen Entscheidungsbaum vorgelegt, wie man vorgeht und welchen Fragen man stellt, um eine verdächtige Information zu prüfen. Das ist hilfreich zum selber nutzen und als Unterrichtsmaterial.
• Um Falschmeldungen zu erkennen, helfen diese Tipps aus der Faktencheck-Redaktion von CORRECTIV.
• Auch die Tagesschau oder die Bundesregierung fassen auf ihren Webseiten nutzerfreundlich zusammen, wie jeder Falschmeldungen erkennen kann.
• Die Initiative Use The News bietet viele Infos, Lernmaterialien und Mitmachaktionen. Hier die Einführung “Fakes und Desinformation erkennen”.

Ein Bild sagt mehr als tausend Worte und das gilt auch für Desinformation. Deswegen werden Bilder oft in einen falschen Kontext gesetzt oder manipuliert, sodass sie zum Inhalt und Weltbild – im Fachjargon: Narrativ –  der Desinformation passen. Faktencheckerinnen und Faktenchecker nutzen zum Aufdecken von Desinformation teilweise aufwändige Werkzeuge. Oder sie durchforsten Datenbanken und führen Interviews. Überprüfen sie die Authentizität eines Bildes, greifen sie häufig auf frei zugängliche Tools zurück. Die sind nicht nur für Profis ausgelegt, jede und jeder kann sie mit wenigen Klicks benutzen. Hier lernst du zwei dieser Werkzeuge kennen.

Bilder machen Desinformation glaubwürdiger und eindrücklicher. Oft werden dafür echte Bilder in einen falschen Kontext gesetzt oder manipuliert. Die Bilderrückwärtssuche und Geolocation können Hinweise darauf geben, ob das Bild echt ist oder nicht und was die ursprüngliche Quelle ist.

• CORRECTIV.Faktencheck hat einen detaillierten Leitfaden zur Bilderrückwärtssuche zusammengestellt.
• Wofür sind Metadaten gut? Und was hat es mit dem Geoguesser auf sich? Diese Anleitung zu Geolocation gibt Antworten auf diese Fragen und eine Einführung mit nützlichen Tools für Geolocation.
• Zu den NSU-Straftaten und den Anschlägen in Hanau sowie deren Aufarbeitung verbreiteten sich viele Falschbehauptungen. Die Hessische Landeszentrale für politische Bildung klärt über das Thema auf.
• Geolocation und Bilderrückwärtssuche sind ein guter Einstieg ins Thema Faktenchecken. Eine viel ausführlichere Anleitung, die auch für Profis hilfreich ist, hat die Landesanstalt für Medien NRW (Lfm) ins Deutsche übersetzt: das Verfication Handbook von John Silverman.
• Ein weiteres hilfreiches Buch für Fortgeschrittene hat die Lfm in Zusammenarbeit mit der Nachrichtenagentur dpa herausgebracht: Tools und Tipps zur digitalen Verifikation.

Wer eine Information richtig einordnen will, schaut nicht nur auf ihren Inhalt, sondern auch auf ihren Ursprung: Welche Quellen sind glaubwürdig? Diese Frage bestimmt die Arbeit von Journalistinnen und Journalisten. Sie überprüfen Informationen am besten immer mit mindestens zwei voneinander unabhängigen Quellen. Ist das Zwei-Quellen-Prinzip nicht möglich, legen sie das offen. Dieses und andere Prinzipien journalistischer Arbeit fasst der Pressekodex zusammen. Ihm verpflichten sich journalistische Medien freiwillig, um glaubwürdige Berichterstattung zu gewährleisten. Die Auswahl vertrauenswürdiger Quellen ist dabei zentral, denn Redaktionen müssen für falsche Informationen in ihrem Angebot gerade stehen – unter Umständen sogar juristisch.

Influencer sind nicht an den Pressekodex gebunden. Manche erreichen aber ein großes Publikum, vergleichbar mit der Reichweite journalistischer Medien. Denn gerade jüngere User informieren sich in erster Linie über Social Media. Dort verbreiten Influencer politische Einordnungen, Produktempfehlungen, ihre Meinung, Ratschläge für alle Lebenslagen – und auch Fehlinformationen. Manche tun dies mit Manipulationsabsicht wie Alina Lipp. Die junge Frau inszeniert sich auf verschiedenen SocialMedia-Plattformen als vermeintliche Journalistin, gibt tatsächlich aber Putins Propaganda wieder.

Wenn eine Behauptung verdächtig erscheint, lohnt ein kritischer Blick auf die Quelle: Wird überhaupt eine genannt? Lässt sie sich überprüfen? Ist sie glaubwürdig? Und gibt es weitere unabhängige Quellen für die Behauptung? Merke: Eine Information aus zweiter Hand ist nicht immer eine schlechtere Information. Seriöse Sekundärquellen wie journalistische Medien wenden Transparenz- und Sorgfaltskriterien an.

• “Doppelt hält besser”, sagt der Volksmund. Im Journalismus bringt das Zwei-Quellen-Prinzip die Redensart auf den Punkt. Die österreichische Faktencheck-Redaktion Mimikama erklärt es in diesem Artikel.
• Der Pressekodex legt die Standards journalistischer Arbeit fest. Der Presserat nimmt auch Beschwerden gegen mögliche Verstöße an und spricht Rügen aus.
• Die Bundeszentrale für politische Bildung rät als Mittel gegen Desinformation ebenfalls: “Überprüf die Quelle!”
• Desinformationen erreichen im Internet ein großes Publikum – und verbreiten sich dort auch über Influencer. Über ihre Rolle schreibt Weitklick, das Netzwerk für digitale Medien- und Meinungsbildung, in “Von Katzen und Kriegen: Die Verbreitung von Desinformation durch Influencerinnen”.
• CORRECTIV.Faktencheck hat in einem Hintergrundartikel über Alina Lipp recherchiert: “Wie eine 28-Jährige zum Sprachrohr russischer Propaganda wurde”.
• Welche Rolle spielt Desinformation im Krieg gegen die Ukraine? Und wie beeinflusst sie unser Bild vom Krieg? Der sechsteilige CORRECTIV-Podcast „Fakten, Front und Fakes“ gibt einen tiefen Einblick in die Welt der Desinformation, erzählt entlang des aktuellen Geschehens.

Eine Behauptung erscheint verdächtig und nach einer ersten Recherche kannst du sie sogar widerlegen – etwa mit einem Faktencheck oder einer anderen glaubwürdigen Quelle. Je nachdem, wo Desinformation auftauchen, gibt es unterschiedliche Reaktionsmöglichkeiten.

Auf Social Media-Plattformen wie TikTok, Instagram, Facebook oder X können Nutzende Inhalte oder Kommentare melden. Daraufhin prüfen Plattformbetreiber, ob gegen ihre jeweiligen Richtlinien oder sogar gegen Gesetze verstoßen wird. Ist das der Fall, wird das Gemeldete gelöscht. Manche Plattformen wie TikTok, Instagram oder Facebook engagieren externe Prüfer, um verdächtige Behauptungen zu prüfen.

Viele Plattformen bieten die Möglichkeit, Hassrede und Desinformation zu melden. Einordnende Kommentare sind auf Social Media und ebenso wie im persönlichen Gespräch möglich. Verschwörungsgläubige sind mit bloßen Fakten allerdings nicht unbedingt erreichbar. Es lohnt trotzdem, mit ihnen im Gespräch zu bleiben und sich unter Umständen an eine Beratungsstelle zu wenden.

• Der Fabulant, ein Angebot gegen Verschwörungsmythen aus Hessen, listet auf seiner Webseite Beratungsstellen in ganz Deutschland, die Betroffene beim Umgang mit Verschwörungserzählenden und -gläubigen im eigenen Umfeld helfen.
• Die Beratungsstelle Veritas hat sich auf Verschwörungsglaube spezialisiert. Sie bietet einen Gesprächsleitfaden für Betroffene.
• Auch die Bundesregierung gibt Tipps zum Umgang mit Verschwörungsgläubigen.
• Falls du dir bei einer Nachricht unsicher bist und mit den Tipps und Werkzeugen aus den letzten Kapiteln nicht weiterkommst, dann kannst du sie auch – mit Originalinhalt und Link – an Faktencheck-Redaktionen wie die von CORRECTIV schicken.
• Mehr zur Kooperation von CORRECTIV.Faktencheck und dem Facebook-Konzern Meta.

War Volker Bouffier bei den Landtagswahlen 2023 in Hessen CDU-Spitzenkandidat? – Natürlich nicht, Bouffier hat sich bereits aus der aktiven Politik verabschiedet. Trotzdem gab Microsofts Bing Chat, eine Anwendung ähnlich wie ChatGPT, diese Behauptung aus. Die Nichtregierungsorganisation AlgorithmWatch hatte die Frage neben vielen anderen in einem Experiment vor den Landtagswahlen in Hessen und Bayern gestellt, um die Zuverlässigkeit der sogenannten Large Language Models (LLM) zu testen, die hinter den Anwendungen stehen. Das Ergebnis: „Die Antworten, die große Sprachmodelle auf wichtige Fragen geben, sind zum Teil komplett falsch, zum Teil irreführend. Selbst wenn Ergebnisse stimmen, weiß man nie, ob man sich auf Informationen verlassen kann oder nicht.”

Will eine Künstliche Intelligenz (KI) Nutzende hier böswillig in die Irre führen, ähnlich einem Verschwörungserzähler oder einer Verschwörungserzählerin? Nein, KI hat keinen Willen – dem AlgorithmWatch-Experiment zufolge allerdings auch keinen zuverlässigen Bezug zur Wahrheit. Die Sprachmodelle reihen Wörter basierend auf Wahrscheinlichkeiten aneinander. Sie werden mit riesigen Datenmengen trainiert, aus denen sie Muster erkennen und diese reproduzieren. Fehlt dem LLM Kontext aus den Trainingsdaten, formuliert es ein Resultat, das überzeugend klingt, aber objektiv falsch sein kann.

So wie ChatGPT Texte nach Maß liefert, generiert MidJourney automatisiert Bilder – und das sind nur zwei populäre Beispiele von vielen für KI-basierte Generierungstools. Diese machen Technologie niederschwellig für jeden zugänglich, die lange vor allem Profis genutzt haben. Natürlich bedienen sich nun auch Menschen mit Täuschungsabsicht der Angebote und missbrauchen sie für ihre Zwecke, indem sie falsche Behauptungen in besserer Qualität und Sekundenschnelle produzieren. Das können Texte sein oder auch Deepfakes – das heißt, mit KI manipulierte Bilder, Videos oder Tonaufnahmen.

Alle sprechen über Künstliche Intelligenz (KI) – und verbinden oft düstere Zukunftsprognosen mit ihr. Statt Innovation pauschal zu verteufeln, sollten wir versuchen, sie zu verstehen und sie nützlich einzusetzen – zum Beispiel gegen Desinformation.

• Alle sprechen über KI, doch was steckt genau dahinter? Die Antworten inklusive Lernmaterial im Online-Kurs der Reporterfabrik “Was du zu KI wissen solltest”
• Recherche von AlgorithmWatch zu ChatGPT und Co.: Gefährden KI-getriebene Suchmaschinen demokratische Wahlen?
• Beitrag der Hessenschau zu dem AlgorithmWatch-Experiment
• Kommentar auf br.de zum KI-Hype “Falscher Klitschko: Warum die Deepfake-Panik ein Problem ist”
• Hintergrundartikel von CORRECTIV-Faktencheck “Deepfakes zwischen Pornografie und politischer Desinformation – wie groß ist die Gefahr”
• KI und sogenannte Large Language Model lassen sich auch sinnvoll nutzen – zum Beispiel zum Redigieren von Texten mit der Wolf-Schneider-KI der Reporterfabrik. Die ersten 10.000 Zeichen sind kostenfrei - zum Ausprobieren von KI.