Society | INTERVIEW

„Fakes verbreiten sich wie das Virus“

Drei Südtiroler haben das „Fact-O-Meter“ entwickelt – ein Tool zur Erkennung von Fake News. Was steckt dahinter?
fact-o-meter_titel.jpg
Foto: Florian Gasser

Der Feldthurner Florian Gasser hat mehrere universitäre Abschlüsse in Wirtschaft- und Politikwissenschaft, promoviert und lehrt zurzeit an der Universität in St. Gallen am Institut für Systematisches Management & Public Governance. 2019 wurde er im Rahmen des St. Gallen Symposium als ein „Leader of Tomorrow“ ausgezeichnet. Gemeinsam mit Alexander Klement und Ivan Waldboth, beide IT-Studenten in Innsbruck und im App Development tätig, hat er, an dem von der EU organisierten, Hackathon namens „EUvsVirus“ teilgenommen. 

salto.bz: Was kann man sich unter einem Hackathon vorstellen?

Florian Gasser: In der IT-Szene gibt es den Hackathon schon länger. Das Prinzip dahinter ist immer noch dasselbe, nur der Rahmen hat sich verändert. Ein Team mit meist unterschiedlichen Backgrounds arbeitet 2-3 Tage sehr intensiv an einem Problem und präsentiert am Ende einen Lösungsvorschlag. Unterstützung gibt es durch Webinars und von Mentoren. Bei diesem Hackathon haben 20.000 Menschen teilgenommen, 2.150 Projekte wurden eingereicht. Pro Themenbereich gab es ein Siegerteam, das direkt finanziell gefördert wurde und viele spannende Projekte, die in den nächsten Monaten umgesetzt werden. 

Unser Slogan ist: „Fake News? Look at Pinocchio’s nose“

Und was ist ein „Fact-O-Meter“?

Das ist unser Projekt. Eine auf „Machine-Learning“ basierte Browsererweiterung, die in Echtzeit anzeigt, ob eine Nachricht auf Fakten basiert oder fake ist. Inspirieren ließen wir uns dabei von Pinocchio, dessen Nase bekanntlich wächst, wenn er Unwahrheiten verbreitet und dies somit für alle ersichtlich ist – so funktioniert auch unsere Lösung. Deshalb ist unser Slogan auch: „Fake News? Look at Pinocchio’s nose“. Zusätzlich soll eine Feedbackfunktion für Nutzer integriert werden, um die Qualität der Einschätzung kontinuierlich zu verbessern. 

Wie soll das funktionieren?

In einer ersten Phase markiert der Nutzer den Text, mit einem Rechtklick schaut er, ob die Daten fake sind, im Hintergrund werden die Daten abgeglichen und es erscheint ein Prozentsatz, der angibt, wie wahrscheinlich es ist, dass die Nachricht stimmt. Auf diesem Prozentsatz basiert der Pinocchio, unser Symbol. Grün für Fakten, Rot für Fake News und Orange für den Bereich dazwischen, der noch nicht mit Sicherheit bestimmt werden kann. Wichtig war uns auch, dass die Darstellung nicht das normale Nutzungsverhalten stört. In einer zweiten Phase soll, wenn vom User gewünscht, hinter den Informationen immer dezent das Pinocchio-Symbol aufleuchten, ohne dass man etwas machen muss z.B. auch direkt bei einem Twitter- oder Facebook-Post. Ziel ist es auch, alternativ Informationen zur Validierung des Gelesenen anzubieten. Gedacht ist das Tool für Privatpersonen, also für dich und mich.

 

Wie erkennt das System, ob eine Nachricht auf Fakten beruht?

Im Hintergrund läuft ein neuronales Netzwerk, das die Informationen abgleicht und dadurch validiert oder falsifiziert. Um den Algorithmus noch weiter zu trainieren, wäre es ideal, eine Zusammenarbeit mit einer internationalen Nachrichtenagentur wie Reuters zu sichern. Sicher ist, je mehr Daten wir zur Verfügung haben, desto besser funktioniert die Validation und desto sicherer können wir uns sein. Wir benötigen aber unbedingt vertrauenswürdige Quellen, auf die wir unseren Algorithmus stützen können. 

Fake News sind für die Gesellschaft gefährlich und fördern „Hate Speech“. Sie haben das Potenzial, die Gesellschaft zu spalten und Menschen gegeneinander aufzubringen.

Verfolgt ihr das Projekt weiter?

Aktuell finden wir es sehr spannend und sind dran – vielleicht finden wir noch einen Sponsor. Wir fokussieren uns zur Zeit auf die Suche nach einem verlässlichen Partner in Bezug auf die Daten. Wir müssen uns ja sicher sein, dass keine Fake News als Fakten dargestellt werden. Sonst würden wir ja das Problem unterstützen statt beheben. Und falls das jetzt gerade jemand liest, der sich gut mit neuronalen Netzwerken auskennt oder das Projekt sonst irgendwie unterstützen möchte, kann er sich gern melden.

Ziel dieses Hackathons war es Problemlösungen für Corona zu finden. Beim Hackathon standen sechs verschiedene Themenbereiche zur Auswahl. Warum habt ihr euch für Fake News entschieden?

Alle sechs Themenbereiche mit Unterthemen zielten darauf ab, Problemlösungen zu Corona zu finden. Fake News war für uns deshalb so spannend, weil einerseits in Krisenzeiten sehr viele Falschmeldungen kursieren, diese indirekt alle Bereiche beeinflussen und auch über die aktuelle Krisensituation hinaus ein Problem darstellen. Beispielsweise das Thema Gesundheit – Halbwahrheiten über Heilmittel können großen Schaden verursachen. Denken wir an Trumps Aussage über Desinfektionsmittel. Okay, so ganz stimmt das nicht, denn er hat es ja wirklich gesagt. Nur die Aussage und die Implikationen darin war falsch.
Wirtschaftlich zum Beispiel wurden die Auswirkungen bei den unbegründeten Hamsterkäufen in zahlreichen Ländern sichtbar, die kurzfristig Toilettenpapier als neuen Goldstandard deklarierten. Die Menschen reagieren auf Informationen, auf Handeln anderer Menschen – Stichwort Herdenverhalten – auch auf Fake News. Zudem sind Fake News für die Gesellschaft gefährlich und fördern „Hate Speech“. Sie haben das Potenzial, die Gesellschaft zu spalten und Menschen gegeneinander aufzubringen. Dies merkt man aktuell leider wirklich deutlich, wenn man sich den Diskurs in den Sozialen Medien zu Gemüte führt.

 

Fake News und Verschwörungstheorien haben zur Zeit Hochkonjunktur. Warum?

So eine Krisensituation gab es in dieser globalisierten Welt noch nie. Angst, Unsicherheiten und Bestätigungen für seine eigene Meinung gehen damit einher. Nachrichten, die der eigenen Gefühlslage entsprechen und wünschenswert sind, glauben die Menschen lieber. Zum Beispiel, dass ein Heilmittel gefunden wurde. Meistens sind Fake News einfach gestrickt, bedienen sich einer simplen Sprache und sind somit schneller zu lesen, verständlicher, zielen auf eine emotionale Reaktion ab und verbreiten sich schnell.

Viele haben derzeit Existenzängste. Oft wird ein Sündenbock als Ventil gesucht.

Wieso sind Fake News so erfolgreich?

Unsere Umwelt hat sich von einem unidirektionalen zum multidirektionalen Medientyp entwickelt. Früher wurden Informationen über Kanäle wie TV und Zeitungen verbreitet. Heute gibt es sehr viele verschiedene Medien, jeder kann über Soziale Medien Inhalt erstellen und in Sekunden sehr viele Leute erreichen. Den Menschen geht es derzeit nicht so gut, viele haben Existenzängste. Oft wird ein Sündenbock als Ventil gesucht, wie z.B. aktuell Bill Gates. So etwas ist gefährlich.

Wie kann ich Fake News von faktenbasierten Nachrichten unterscheiden?

Das kann ich anhand von drei Schritten überprüfen: Erstens, was ist die Quelle der Nachricht – nicht, wer schickt sie. Zweitens, wer ist die Person/Organisation, die spricht. Was hat sie gemacht, verfügt sie über ausreichend Qualifikationen sich zu einem Thema zu äußern? Worauf beruft sie sich? Ist es die einzige Person oder Institution, die diese Meinung vertritt? Drittens, hat die Person das wirklich in dem Kontext gesagt oder sogar selbst als Fake deklariert? Das hat man am Beispiel der Uni Wien gesehen.

Fake News verbreiten sich exponentiell, wie das Virus. 

Inwiefern?

Am Beginn der Pandemie kursierte eine Nachricht, wonach Ibuprofen gegen Corona hilft, erforscht von der Uni Wien. Aber alles fake: Die Uni Wien hat das so nie gesagt. Hätte man das kurz gegoogelt, wäre die offizielle Stellungnahme dazu von der Uni Wien erschienen. Deswegen: Jede Nachricht kritisch hinterfragen – kann das sein, warum ist das so, wer hätte einen Vorteil? – und die Quelle validieren. Außerdem sich eine zweite Meinung einholen und Sachen, die nicht sicher sind, sollte man nicht teilen. Fake News verbreiten sich exponentiell, wie das Virus. Deshalb ist „Flatten-the-curve“ genauso bei Fake News relevant.

Warum fruchten weitergeleite Nachrichten so sehr?

Das ist relativ einfach zu erklären. Wenn ich die Menschen kenne, die eine Nachricht weiterleiten, dann glaube ich denen eher. Ich denke, die andere Person hat die Nachricht schon validiert bzw. ich habe Vertrauen in die Person. 

Immer sachlich bleiben.

Wie reagiert man darauf, wenn man mit Fake News konfrontiert wird?

Immer sachlich bleiben: Auf die Nicht-Richtigkeit hinweisen und diese mit Quellen hinterlegen. Wenn dies alles nichts nützt, ist es ratsam, die Fakten mit jenen zu teilen, die die Zielgruppe der besagten Person sind, um Falschmitteilungen Wind aus den Segeln zu nehmen und die Verteilungskette aufzubrechen.

Zum Schluss noch ein Blick nach Wuhan. Als erstmals die Rede davon war, dass das Virus durch einen Laborunfall entstanden ist, wurde das dementiert und als fake dargestellt. So fake ist das jetzt anscheinend doch nicht. Was kann man noch glauben bei all der Verwirrung?

Ich habe auch noch keine Meinung dazu. Am Anfang waren es Vermutungen: Von einigen Staatspräsidenten widerlegt, von anderen bestätigt. Noch gibt es keine Fakten, wir müssen abwarten. Eines ist aber in meinen Augen definitiv zu beachten: Wenn eine Information zu wünschenswert erscheint oder man impulsiv den Eindruck hat, dass man es nachträglich „immer schon gewusst hatte“, sollten generell die Alarmglocken läuten. Denn die meisten Fake-News-Initiatoren haben eben genau dieses Gefühl im Fokus und häufig sind solche Informationen leider zu schön, um wahr zu sein.

Bild
Profile picture for user gorgias
gorgias Wed, 05/06/2020 - 07:06

„Habe Mut, dich deines eigenen Verstandes zu bedienen!“ oder besser noch einen Fakten-Check-Tool? Die Sache verschiebt besten falls die Problematik für jene die sich mit der Erkennung von Fake News schwer tun. So weit ich verstanden habe wird ein sematischer Ablgeich zwischen eine bereits vorhanden Datenbasis und einen weiteren Text erstellt. Evetuell auch wie etwas formiert wird? Das ist leider im Text nicht so klar.

Aber so was hat verschiedene Probleme
1. Ist es für jemandem der sich it dem Algorithmus nicht auskennt wenig transpartent wie diese Funktioniert.
2. Man verlässt sich auf eine einzige Quelle - die Datenbasis des Tools. Wird diese korrumpiert bewirkt das Tool genau das Gegenteil - wie auch im Text erwähnt wird.
3. Anstatt meinem Verstand selbst zu schärfen, verlasse ich mich auf etwas externes und werde dabei nicht wirklich schlauer, denn wichtig ist, das wie und nicht was hinten herauskommt.
4. Die Akzeptanz bleibt bei jenen die eh nicht den Mainstreammedien vertrauen in Grenzen.

Es wäre interessanter ein Tool, das eine Aussage in verschiedenen Meidien sucht und mir dann auflistet in welchen diese bestätigt und wleche diese verneint. Danach muss ich immer noch selbst entscheiden ob ich dem Glaube oder nicht.

Wed, 05/06/2020 - 07:06 Permalink
Bild
Profile picture for user Manfred Klotz
Manfred Klotz Wed, 05/06/2020 - 07:46

Sorry Frau Gummerer, aber wenn Sie schreiben, die These, das Virus sei in einem Labor entstanden, ist doch nicht so fake, verbreiten Sie selbst Fake News. Würden die bisherigen Stellungnahmen Dutzender Wissenschaftler sowie der Geheimdienstbericht "Five eyes" nicht reichen, hat Ilaria Capua, eine weltweit angesehene Virologin, die in Florida arbeitet, gestern in der Sendung "Di martedì" von Giovanni Floris, nochmals unmissverständlich klargestellt, dass das Virus nicht in einem Labor entstanden sein kann.
Das wäre absolut leicht nachzuprüfen. Pinocchio schlägt zu.

Wed, 05/06/2020 - 07:46 Permalink
Bild
Profile picture for user Sophia Gummerer
Sophia Gummerer Wed, 05/06/2020 - 14:23

In reply to by Manfred Klotz

Hallo Herr Klotz,
Sie haben Recht, ich habe mich in der letzten Frage etwas unglücklich ausgedrückt. Ich wollte damit keinenfalls sagen, dass das Virus im Labor entstanden ist. Viel mehr wollte ich auf die unterschiedliche und sich oft schnell änderende Berichterstattung eingehen, die oft zu großer Verwirrung führen kann.

Wed, 05/06/2020 - 14:23 Permalink
Bild
Profile picture for user G. P.
G. P. Wed, 05/06/2020 - 13:23

Glaube nicht, dass das so einfach ist. Wer bestimmt, was Fake News sind und was keine Fake News sind? Zusammenarbeit mit einer internationalen Nachrichtenagentur? Hat diese Agentur dann die Wahrheit gepachtet? Bei dem ganzen Lobbyismus auf der Welt, glaube ich persönlich schon lange nicht mehr an die EINE Wahrheit.

Wed, 05/06/2020 - 13:23 Permalink
Bild
Profile picture for user Oliver Renzler
Oliver Renzler Wed, 05/06/2020 - 14:07

Sehr Herr Gasser, interessant.
Wie rot wäre die Nase bei folgenden Beispielen geworden:
1. 9/11, WTC7 stürzt ein, aber erst eine Viertel Stunde nachdem BBC mit laufender Kamera und dem WTC7 aufrecht im Hintergrund vom erfolgten Einsturz auch des WTC7 berichtet. BBC entschuldigte sich Jahre später mit dem Hinweis, die Vorab-Info von Reuters erhalten zu haben. Wie rot oder grün sind dann die news von Reuters, BBC und all den Medien, die das weitergaben? Wie grün oder rot überhaupt die News über den angeblichen "Zusammensturz durch Feuer" eben diese WCT7-Stahlgebäudes?
2. Powell und sein Reagenzglas auf der UNO-Sitzung. Alle Leitmedien brachten die Lüge von den angeblichen irakischen Giftwaffen. Grün oder rot?
3. Irakkrieg: die angebliche Krankenschwester in Kuwait und die "zu tote geschlagenen Kinder", alles eine Lüge. Aber damals, rot oder grün?
4. die angeblichen Chemieanschläge durch Assad in Syrien, "bestätigt" durch die West-finanzierten Weißhelme. Grün oder Rot?
5. Skripal, Russland ... grün oder rot?
6. Ukraine, das inszenierte Chaos am Maidan, grün oder rot?
7. Serbien, Konzentrationslager, NATO-Angriffskrieg als Folge, grün oder rot?
8. Venezuela, versuchter Staatsputsch durch wen? Wie kann die Antwort grün sein?
...
Auf welche Medien, auf welche Akteure stützen Sie die Nasenfärbung? Nur auf westliche, NATO-freundliche Medien und Akteure, oder auch auf solche außerhalb der westlichen Einflusssphäre?
Danke.

Wed, 05/06/2020 - 14:07 Permalink
Bild
Profile picture for user Florian Gasser
Florian Gasser Wed, 05/06/2020 - 16:00

In reply to by Oliver Renzler

Lieber Herr Renzler,

Jedes Medium arbeitet nach bestimmten Richtlinien, ein Blick auf den gegenüberliegenden Pol erweitert aber immer das Blickfeld. Was man glaubt, ist dann eine andere Geschichte. Die "finale Wahrheit" hat niemand mit dem großen Löffel gegessen. Also evaluieren und vergleichen von mehreren Quellen (und der Güte derselben) ist das A&O - aber sich nicht von den eigenen Wunschvorstellungen in die eine odere andere Richtung drängen lassen, ohne die aktuelle Informationslage zu überblicken - und vor allem dass man etwas nicht weiterleitet, wenn die Quelle mehr als fragwürdig ist.
Die Idee hinter Fakt-O-Meter ist ja vor allem Informationen kritischer zu durchleuchten, deshalb werfen wir das Tool ja auch nicht nur halbherzig raus, sondern machen uns davor Gedanken darüber, dass es nicht für den ein oder anderen Zweck zweckentfremdet werden könnte. Wichtig ist dabei eine breite Datenlage - und wie sie richtig erkennen ist es wichtig, dass man nicht nur von einer Datenquelle abhängt. Weiters wäre ja auch eine Feedback-Funktion geplant, um das Tool kontinuierlich weiterzuentwickeln. Wir empfehlen sowieso stets eine Zweitmeinung einzuholen - vor allem wenn Themen extrem heikel sind. Und die finale Version eines Fact-O-Meters sollte ja auch einige belastbare Quellen anbieten, wo man eben besagte Informationen validieren kann und blockiert ja auch keine Inhalte automatisch, da die Meinungsfreiheit selbst zentral für eine Demokratie ist.
Aber nochmals: Wir finden es macht Sinn sich mit diesen Fragestellungen auseinanderzusetzen und Lösungen zu erarbeiten, die es ermöglichen zusätzliche Informationen darzustellen und Personen dazu zu ermutigen, sich mit einer Zweitmeinung zu beschäftigen - vor allem, weil wir selbst täglich merken, was für quellenlose und mehr als fragwürdige Mitteilungen die Runde machen und eben Ängste, Hass oder eben auch gesundheitsgefährdende Inhalte beinhalten. Um diesen Entwicklungen entgegenzutreten braucht es uns Alle - genauso wie bei einem Kampf gegen eine Pandemie. Bitte.

Wed, 05/06/2020 - 16:00 Permalink
Bild
Profile picture for user gorgias
gorgias Wed, 05/06/2020 - 23:10

@Christian Petter

Als erstes möchte ich Ihnen ohne jeglichen ironischen Unterton dazu gratulieren, dass Sie sich bemühen in einer Antwort auch auf dem Geschriebenen einzugehen. Das ist etwas, dass hier Seltensheitswert besitzt. Falls Sie auf bestimmte Stellen antworten, wäre es das Beste Sie setzen diese vor der Antwort mit Hervorhebung.

>... zur Transparenz: vom „DAU“ bis hin zum „high-end Programmierer von neuronalen Netzwerken“ beschäftigen sich alle auf unterschiedlichsten Ebenen mit dem „Großen Ganzen“ ...<

Hier braucht es keine Kenntnis des großen Ganzen, sondern jemand der sich mit dem Quellkode außeinandersetzt und kritisch auf Problematiken hinweißt. Davon können alle Profitieren. Des weiteren sind die Methoden die ein Algorithmus darstellt meistens auch für Personen, die nicht des Programmieren kundig sind, zumindest im gröberen Nachvollziehbar.
Was man auf alle Fälle nicht tun soll, ist sich blind auf einem Algorithmus verlassen. In Alogrithmen stecken oft auf Vorurteile und persönliche Preferenzen von denen die das Programm erstellt haben. - Hier ist es wichtig skeptisch zu bleiben.

>... zur Quelle: sofern ein Meer an Weisheit, das immer schon da war, von unzählbaren Quellen gespeist werden darf, wird sie der Wahrheit näher sein als vieles anderes ...<

Medien sind aber keine Quelle von Weisheit. Sondern Informationsquellen unterschiedlichster Qualität und politischer Ausrichtung. Und wer glaubt, dass mehr Quantität auch mehr Qualität bedeutet befindet sich wohl eher auf dem Irrweg. Es gibt auch garbage in, garbage out.

Wed, 05/06/2020 - 23:10 Permalink
Bild
Profile picture for user Christoph Wallnöfer
Christoph Wallnöfer Thu, 05/07/2020 - 14:28

Achtung Fake News Alarm (leider jedoch von den falschen Medien verbreitet):
ERGEBNIS CORONA BLINDTESTS IN TANZANIA: ZIEGE, PAPAYA UND VOGEL POSITIV AUF CORONA GETESTET. MOTORÖL WURDE NEGATIV GETEST
Das erinnert an einen Bericht vom 30. März im "The Telegraph" in dem berichtet wurde dass Schlüsselkomponenten (key components) der Corona Testkits bereits mit dem Coronavirus kontaminiert waren.
Hier die Links:
Offizieller in Tansania präsentiert die unglaublichen Corona-Testergebnisse
ALJAZEERA 3. Mai 2020
Tanzania suspends laboratory head after president questions coronavirus tests

Ist halt Afrika, so was könnte bei uns doch nie passieren ...

Thu, 05/07/2020 - 14:28 Permalink