Content-Moderation und Trump

Die US-Präsidentschaftswahl und ihre Auszählung zeigen uns sehr deutlich, welche Plattformen ihre Verantwortung bei der Verbreitung von Desinformation wahrnehmen wollen und welche nicht. Gleichzeitig zeigt es aber auch, wie schwierig Content-Moderation ist und dass auch die ehrlichen Nutzer ein großer Teil des Problems sind.

Während sich Facebook, sowohl bei Feedsauf der eigenen Plattform und Instagram, mit allgemeinen Hinweisen begnügt, dass die Wahl noch nicht vollständig ausgezählt ist, greift Twitter, wie zuvor angekündigt, hart durch. Jeder Tweet, der auch nur dem Anschein nach einer faktisch falschen Interpretation von Wahlergebnissen enthält, wird mit einem Hinweis versehen und in der Reichweite eingeschränkt. Ganz egal, ob US-Präsident, Demokrat oder QAnon-Congresswomen twittern.

Twitter hat dieses Vorgehen vorher angekündigt und sich entsprechend vorbereitet. Uns sollte dabei aber auch klar sein, dass eine solch heftige Moderation nicht der Regelfall sein kann und auch nicht sein sollte. Die Wahlergebnisse geben ausnahmsweise eine recht einfache Möglichkeit Wahres und Unwahres objektiv zu unterscheiden.In den meisten, durch Desinformation gefährdeten, Diskussionen wird diese klare Unterscheidung so nicht möglich sein.

Was auf Twitter aber auch sehr deutlich wurde, ist, dass jede Anstrengung der Plattform ins Leere läuft, wenn genug öffentliches Interesse an einer falschen Aussage besteht. Zwar hat die Twitter die Lügentweets von Donald Trump mit Warnhinweisen versehen und das Teilen eingeschränkt, dass hinderte aber keinen seiner Gegner daran, die Falschaussagen als Screenshot zu teilen, um die eigene Abneigung deutlich zu machen. Die von der Plattform unternommenen Anstrengungen, die Reichweite von Desinformationen einzuschränken, wird durch Journalisten, die Trumps Lügen nochmal eigenständige ihren Followern vorstellen und entlarven, konterkariert.Und natürlich gibt es gute Argumente dafür, dass die Versuche eines US-Präsidenten, die eigenen demokratischen Prozesse zu delegitimieren, absoluten Nachrichtenwert haben und ein Journalist sogar verpflichtet ist darüber zu berichten. Diesen Argumenten kann und will ich auch nicht widersprechen.Der ganze Prozess sollte uns nur allen wieder klar machen, dass Content-Moderation nicht leicht ist. Nicht mal in dann, wenn es um überprüfbare Fakten geht. Und auch wen welche Verantwortungen wann treffen, ist nicht so einfach, wie es sich Befürworter des NetzDG oder andere Meinungspolizist machen.

DieVerantwortung für einen funktionierenden Online-Diskurs tragen alle Beteiligten: Plattformen und User. 

Weiterlesen

5 Dinge die wir bei Tracing-Apps neben dem Speicherort beachten sollten.

Seit Wochen wird das Allheilmittel einer Contract-Tracing-App diskutiert und die Tech-Giganten arbeiten schon an entsprechenden Bluetooth-Schnittstellen. Zu Beginn drehte sich die Diskussion im Wesentlichen um die Frage, ob die Speicherung zentral oder dezentral erfolgen sollte und wie dabei das geltende Datenschutzrecht eingehalten werden kann. Natürlich ist es wichtig zu verhindern, dass ein zentraler Datenspeicher mit den Bewegungsprofilen alle Bürger entsteht. Gleichzeitig dürfen wir aber nicht die weiteren potenziellen Gefahren ignorieren und müssen sie mit dem potenziellen Nutzen ins Verhältnis setzten. 

Folgende fünf Dinge sollten wir neben dem Speicherort beachten, wenn wir über den Nutzen der App beurteilen.

1. Ohne Vertrauen kein Erfolg

Vertrauen ist die Bedingung für den Erfolg jeder Pandemie-Maßnahmen. Ohne eine offene und faktenbasierte Debatte, kann es kein Vertrauen geben. Die Debatte über die App basiert nämlich nicht auf dem deutschen Nationalheiligtum Datenschutz wie einige behaupten, sie wird weltweit in demokratischen Gesellschaften inklusive der USA geführt. Wer alle Skeptiker zu Paranoikern erklärt, sorgt gleichzeitig dafür, dass jede Lösung zum Scheitern verurteilt ist. Wer berechtigte Bedenkenträger in die Ecke von Verschwörungstheoretikern stellt, baut mutwillig das Fundament für Naidoo, Hiltmann und Ken Jebsen.

2. Fragliche Effektivität

Die grundsätzliche Effektivität der App ist fraglich. Fehlerhafte Warnungen aus den verschiedensten Gründen ist das dringlichste Problem, wenn die App ausgerollt wäre. Die Probleme beginnen aber schon vorher. Für eine Wirksamkeit wird eine Verbreitung von mindestens 60% benötigt. In Deutschland haben aber maximal 76% der Bevölkerung mobile Datenpläne, mit unterdurchschnittlicher Abdeckung in der Risikogruppe “der Alten”. Es ist fraglich, ob die App überhaupt genug Akzeptanz gewinnt und falls sie es tut, fällt die größte Risikogruppe durchs Raster.

3. Überwachung verändert unser Verhalten

Es ist davon auszugehen (und Berichte aus Südkorea bestätigen es), dass Menschen ihr Verhalten verändern, sobald flächendeckendes Contact-Tracing eingeführt wird. Das ist nicht nur aus freiheitlichen Gesichtspunkten bedenklich, sondern führt gleichzeitig zu einer noch weniger effektiven App, da jeder zweite das Handy zu Hause lässt. Die Freiwilligkeit der App-Nutzung wird aber schnell zur Farce, wenn sie für den Besuch im Supermarkt, Restaurant oder das Reisen im ÖPNV notwendig ist. Verpflichtungen führen dann wiederum zu Verhaltensänderungen und machen die App noch wirkungsloser.

4. Krisen gehen, Grundrechtseinschränkungen bleiben

Grundrechtseinschränkungen aus Krisenzeiten werden nach der Normalisierung selten wiederzurückgedreht. Es ist zu erwarten, dass Sicherheitsbehörden nach der Krise ganz neue Ideen für die Bluetooth-Schnittstelle haben. Uns bleibt nur die Hoffnung, dass Apple & Google unsere Rechte gegenüber den Sicherheitsbehörden verteidigt und profitable Annoncen der Werbeindustrie widersteht.

5. Batman rät zu Vorsicht

Die Verbindung von Bluetooth-Contact-Tracing, Funkzellenabfrage und WLAN-Standortdaten ermöglichen ein Überwachungssystem, bei dem sogar der Batcomputer alt aussieht. Und der war, wie Morgan Freeman als Lucius Fox treffend feststellte: “dangerous, unethical and wrong.”. Beim Bluetooth-Tracing werden erstmal keine weiteren Daten benötigt, aber allein um das benötigte mobile Datenvolumen praktikabel zu halten, werden zusätzliche Location kaum umgänglich sein – entsprechend ist die Gefahr von Bewegungsprofilen akuter als wir oft annehmen.

Technology mag neutral sein, ihr Einsatz ist es nicht. Context matters.

Weiterlesen

CoronaApp – Von Israel lernen

Wie immer ist Israel Deutschland in technischen Dingen voraus.
Seit Tagen wird in Deutschland über eine “Corona-App” oder über die Nutzung Funkzellenabfragen diskutiert – beides schon Realität in Israel. An dem Ausspähen eigener Bürger durch die Geheimdienste sollte sich Deutschland sicher kein Beispiel nehmen. Wenn es um die App “Hamagen” (Hebräisch für Schutzschild) geht, sieht das aber ganz anders aus.

Bei der App setzt die israelische Regierung auf Freiwilligkeit, die Standortdaten bleiben auf dem Telefon und Kontaktpersonen werden gefunden, ohne dass die Daten die Telefone der Nutzer verlassen oder Meldungen abgegeben werden. Und das Beste kommt zum Schluss, die App wurde nicht nur von Profero einem Security-Audit unterzogen und von (meinem) Professor und renommierten Privacy-Experten Michael Birnhack für gut befunden, sie ist gleichzeitig auch Open-Source. Deutschland muss also nicht mit Plantir verhandeln, sondern kann einfach den Code bei GitHub einsammeln und anpassen.
Das ist billiger und besser für unsere Privatsphäre.

Quellen
Weiterlesen

Hello World!

Thanks for visiting my personal website. On the website you can get to know me a little better and read a few of my thoughts.

In the past I mainly published in German but will publish more and more in English in the future. You can find all English-posts here or use DeepL to translate the German-posts to the language of your choosing.

If you want to get in touch write me an E-Mail!

Enjoy checking me out!

Weiterlesen