Mitte November durfte ich auf Einladung der Friedrich-Naumann-Stiftung für die Freiheit an zwei Workshops im Rahmen des Rechtsstaatsdialog zwischen Vietnam und Deutschland in Hanoi teilnehmen.
Unsere Gespräche drehten sich um zentrale Themen des digitalen Raums wie Grund- und Eigentumsrechte, digitale Vermögenswerte und geistiges Eigentum. Besonders spannend war der Dialog über die Balance zwischen Meinungsfreiheit und Urheberrecht, den wir mit Akademikern, Verlegern, Autoren, Unternehmern und Regierungsvertretern führen durften.
Über die Ordnung der digitalen Welt zu diskutieren macht mir immer Spaß. Mit diesem Anlass und Format war es dann aber etwas ganz besonderes wertvolle Gelegenheit, Einblicke in die Perspektiven und Herausforderungen beider Länder zu gewinnen. Auffällig war dabei mal wieder: Die Konflikte des (digitalen) Zusammenleben sind in Vietnam und Deutschland ziemlich ähnlich.
Ein großes Dankeschön a die Friedrich-Naumann-Stiftung für die Einladung und die Möglichkeit, Teil des Rechtsstaatsdialogs zu sein.
Im Oktober durfte ich auf Einladung von Sergey Lagodinskyim Europa Haus in Berlin gemeinsam mit Dr. Janka Oertel und Dr. Dimitrios Argirakos über geopolitische Dimension und Auswirkungen des technologischen Wettbewerbs diskutieren. Schon im Vorgespräch bestand schnell Einigkeit zwischen den Diskutanten, woran es in Europa in den letzten Jahren mangelt. Europa und Deutschland haben sich in den letzten Jahren zu sehr auf der eigenen (wirtschaftlichen) Dominanz im Rückenwind der US und von den USA geprägten regelbasierten Globalisierung ausgeruht und muss jetzt selbstbewusster in den Wettbewerb eintreten.
In meinen Redebeiträgen habe ich immer wieder betont, dass Regulierung alleine uns nicht voranbringt. Gerade das papierbasierte Finanzsystem wird langfristig im Wettbewerb der Systeme an Einfluss verlieren und die neue Finanzwelt wird mehr und mehr durch Code bestimmt. Wenn Europa seine Stellung als Wirtschaftsmacht erhalten will, braucht es Innovation und wir müssen der Welt eine verlässliche, auf rechtsstaatlichen Prinzipen und vor allem offene Finanzinfrastruktur anbieten.
Das digitale Zeitalter wird nicht von Gesetzgebern bestimmt, sondern vom geschriebenen und genutzten Code.
Last week the political parties that plan to form the new German Government presented their coalition agreement and their governmental agenda for the next four years. Over the weekend, I looked into the deal of the “Traffic light coalition” and tried to find out if the coalitions’ “Dare More Progress” promise, a slogan of their commitment to progressive governing, holds up when it comes to digital and technology policy. Let see where the coalition stands on civil rights, digital platforms and artificial intelligence.
Digital civil rights
After roughly two horrible decades for digital civil rights, it is instantly noticeable that the conservative party, who prevented any progress for online rights, is not a part of the agreement. As a result, some long required positive adjustments can be expected. First and foremost, the coalition expressed their full support for the individual right to encryption and wants to preserve the possibility to use online services anonymously and pseudonymously. This is a major step away from the surveillance focused agenda of the last governments and alone would be enough reason to celebrate, but the coalition is just getting started.
The coalition also specifically objects to any surveillance or identification duties when it comes to private communication and calls for the universal use of end-to-end-encryption, instead of calling to break it. And if all that wouldn’t be enough, the coalition also wants to adjust laws in order to enable private security research, while aiming to direct public agencies to focus on closing security breaches, instead of buying or using them as they’ve been doing so far.
As another cherry on top, the coalition agreement again and again states the need for Open Access to public data and that code financed by public money should be open-sourced. Security researchers might soon not only be allowed to test the public infrastructure, but also help make it better. The agenda on civil rights in general and the internet infrastructure specifically really holds up to the “Dare More Progress” promise.
Digital Platforms and content regulation
Today, most of the current issues surrounding digital policy in general and big platforms specifically are approached both on the European and on the national level. The coalition acknowledges this, seems to support more harmonization at the European level and plans to adjust the national legislation to new, harmonized European rules. The coalition agreement specifically states support for the currently pending major regulation on digital services (EU-DSA), on digital markets (EU-DMA) and the E-Privacy-Directive. Even though support for the ambitious European Legislation is explicitly stated there, the agreement does not go into much detail on how the coalition partners envision this ambitious framework on the practical level. The coalition does not want European legislation to fall behind existing national laws, strongly supports interoperability requirements and wants strong user rights, protecting the freedom of expression while still effectively fighting disinformation.
It is worth noting, though, that there may be at least some small directional decisions on two highly disputed regulatory tools.
First, I could not find a clause about “harmful content”. This could be a major hint on the direction regarding online speech. Harmful content is a newly created legal term that includes not just unlawful speech, but also lawful speech that might harm or offend others. Some proponents want to extend the strict rules regarding take-downs for private platforms on harmful content, while many civil rights activists caution and warn that this could lead to extensive filtering efforts by online platforms. Not mentioning the term could be seen as a decision against the inclusion of harmful content as a new category of speech and that the new government errs on the side of caution when it comes to the protection of free speech.
Second, the ideas on fostering competition in digital markets are a little more concrete. Next to the general call for an ambitious Digital Markets Act, the coalition states some key points regarding the content of such. The coalition agreement states clearly, that the possibility to break up companies that repeatedly harm competition is supposed to be a tool of last resort. Before breaking up Meta, the coalition wants to update anti-trust rules to avoid the emergence of dominating market players in the first place, make it easier to prevent killer-acquisitions at the European Level and strengthen the federal anti-trust agencies when it comes to digital platforms.
Artificial intelligence
Artificial intelligence is one of the trending buzzwords in politics as well as in business for a couple of years now. Everyone is scared of it; every startup seems to be developing it, but nobody really knows what the term means. The traffic-light partners don’t even try to define what artificial intelligence is, but still agreed on how to regulate it(s use). The coalition, again, explicitly supports a European approach and the Artificial Intelligence Act proposed by the European Commission. Within this the coalition calls for a risk-based approach, meaning that not the technology itself should be regulated, but its specific use. While implementing regulation of high-risk applications, the coalition wants to protect the citizens civil rights, prevent discrimination as well as ex-ante requirements for service providers. With the clearly stated opinion on the limited need for pre-approval, the coalition makes clear that the German Government will err on the side of innovation and not treat every use-case of a multi-purpose technology like a nuclear plant.
Besides the general innovation-friendly approach towards artificial intelligence regulation, the coalition acknowledges the need for civil rights protection in the context of artificial intelligence. The agreement stipulates several times, that both biometric surveillance in public spaces and social scoring by states should be banned on the European Level – another win for progress.
Dare more progress?!
When it comes to digital and technology policy, the traffic-lights coalition has indeed planned to “Dare More Progress” and fix long lasting problems in the digital sphere. I personally would have loved a little more detail about the use of the blockchain-technology to empower users in the upcoming web3-era. Nonetheless, by making user civil rights, openness and innovation guiding principles, as well as ending harmful practices like the governmental use of security breaches, the coalition agreement seems to be starting a new epoch in digital and technology politics towards more progress.
For a long time, I defended Apple’s rigors App Store and Platform policy due to their commitment to privacy and security.
I supported them when they did not decrypt the phone of a terrorist because it would harm the security of every iPhone in the world.
I embraced critic of the proposed EU Digital Markets Act (DMA) for the forced interoperability that might harm the overall security of the system and every iPhone in the world.
The latest announcement for their capability to decrypt and remotely access the physical storage of every phone, forces me to reconsider my opinion on the companies positions, policy, and values. If the company itself hampers with the platform’s security on this level, there is no good argument left to make life for vendors on the difficult and charge horrendous fees.
Seems like their advertisement slogan “What happens on your iPhone, stays on your iPhone“ was not a statement of conscious or values, it was nothing more than an (untrue) catchy slogan.
I guess, it’s time we fund a decent open-source Operating System for phones…
Anyone a good recommendation for a secure phone that doesn’t snoop on your privacy?
Gemeinsam mit Thomas habe ich für den bitkomplex Blog analysiert, ob Behörden zur Verbrechensbekämpfung Zugriff auf Ende-zu-Ende-verschlüsselte Chats erhalten können ohne die grundsätzliche Sicherheit der Verschlüsselung zu gefährden.
Wieso eine Backdoor das gesamte Internet unsicher machen würden, könnt ihr hier nachlesen.
Seit Wochen wird das Allheilmittel einer Contract-Tracing-App diskutiert und die Tech-Giganten arbeiten schon an entsprechenden Bluetooth-Schnittstellen. Zu Beginn drehte sich die Diskussion im Wesentlichen um die Frage, ob die Speicherung zentral oder dezentral erfolgen sollte und wie dabei das geltende Datenschutzrecht eingehalten werden kann. Natürlich ist es wichtig zu verhindern, dass ein zentraler Datenspeicher mit den Bewegungsprofilen alle Bürger entsteht. Gleichzeitig dürfen wir aber nicht die weiteren potenziellen Gefahren ignorieren und müssen sie mit dem potenziellen Nutzen ins Verhältnis setzten.
Folgende fünf Dinge sollten wir neben dem Speicherort beachten, wenn wir über den Nutzen der App beurteilen.
1. Ohne Vertrauen kein Erfolg
Vertrauen ist die Bedingung für den Erfolg jeder Pandemie-Maßnahmen. Ohne eine offene und faktenbasierte Debatte, kann es kein Vertrauen geben. Die Debatte über die App basiert nämlich nicht auf dem deutschen Nationalheiligtum Datenschutz wie einige behaupten, sie wird weltweit in demokratischen Gesellschaften inklusive der USA geführt. Wer alle Skeptiker zu Paranoikern erklärt, sorgt gleichzeitig dafür, dass jede Lösung zum Scheitern verurteilt ist. Wer berechtigte Bedenkenträger in die Ecke von Verschwörungstheoretikern stellt, baut mutwillig das Fundament für Naidoo, Hiltmann und Ken Jebsen.
2. Fragliche Effektivität
Die grundsätzliche Effektivität der App ist fraglich. Fehlerhafte Warnungen aus den verschiedensten Gründen ist das dringlichste Problem, wenn die App ausgerollt wäre. Die Probleme beginnen aber schon vorher. Für eine Wirksamkeit wird eine Verbreitung von mindestens 60% benötigt. In Deutschland haben aber maximal 76% der Bevölkerung mobile Datenpläne, mit unterdurchschnittlicher Abdeckung in der Risikogruppe “der Alten”. Es ist fraglich, ob die App überhaupt genug Akzeptanz gewinnt und falls sie es tut, fällt die größte Risikogruppe durchs Raster.
3. Überwachung verändert unser Verhalten
Es ist davon auszugehen (und Berichte aus Südkorea bestätigen es), dass Menschen ihr Verhalten verändern, sobald flächendeckendes Contact-Tracing eingeführt wird. Das ist nicht nur aus freiheitlichen Gesichtspunkten bedenklich, sondern führt gleichzeitig zu einer noch weniger effektiven App, da jeder zweite das Handy zu Hause lässt. Die Freiwilligkeit der App-Nutzung wird aber schnell zur Farce, wenn sie für den Besuch im Supermarkt, Restaurant oder das Reisen im ÖPNV notwendig ist. Verpflichtungen führen dann wiederum zu Verhaltensänderungen und machen die App noch wirkungsloser.
Grundrechtseinschränkungen aus Krisenzeiten werden nach der Normalisierung selten wiederzurückgedreht. Es ist zu erwarten, dass Sicherheitsbehörden nach der Krise ganz neue Ideen für die Bluetooth-Schnittstelle haben. Uns bleibt nur die Hoffnung, dass Apple & Google unsere Rechte gegenüber den Sicherheitsbehörden verteidigt und profitable Annoncen der Werbeindustrie widersteht.
5. Batman rät zu Vorsicht
Die Verbindung von Bluetooth-Contact-Tracing, Funkzellenabfrage und WLAN-Standortdaten ermöglichen ein Überwachungssystem, bei dem sogar der Batcomputer alt aussieht. Und der war, wie Morgan Freeman als Lucius Fox treffend feststellte: “dangerous, unethical and wrong.”. Beim Bluetooth-Tracing werden erstmal keine weiteren Daten benötigt, aber allein um das benötigte mobile Datenvolumen praktikabel zu halten, werden zusätzliche Location kaum umgänglich sein – entsprechend ist die Gefahr von Bewegungsprofilen akuter als wir oft annehmen.
Technology mag neutral sein, ihr Einsatz ist es nicht. Context matters.
Wie immer ist Israel Deutschland in technischen Dingen voraus. Seit Tagen wird in Deutschland über eine “Corona-App” oder über die Nutzung Funkzellenabfragen diskutiert – beides schon Realität in Israel. An dem Ausspähen eigener Bürger durch die Geheimdienste sollte sich Deutschland sicher kein Beispiel nehmen. Wenn es um die App “Hamagen” (Hebräisch für Schutzschild) geht, sieht das aber ganz anders aus.
Bei der App setzt die israelische Regierung auf Freiwilligkeit, die Standortdaten bleiben auf dem Telefon und Kontaktpersonen werden gefunden, ohne dass die Daten die Telefone der Nutzer verlassen oder Meldungen abgegeben werden. Und das Beste kommt zum Schluss, die App wurde nicht nur von Profero einem Security-Audit unterzogen und von (meinem) Professor und renommierten Privacy-Experten Michael Birnhack für gut befunden, sie ist gleichzeitig auch Open-Source. Deutschland muss also nicht mit Plantir verhandeln, sondern kann einfach den Code bei GitHub einsammeln und anpassen. Das ist billiger und besser für unsere Privatsphäre.
