Demokratie im digitalen Zeitalter: Das Superwahljahr 2024
Wie prägt die Digitalisierung die Zukunft der Wahlen und damit unserer Demokratie? Bei der Kooperationstagung mit der Akademie für Politische Bildung Tutzing und der Gesellschaft für Informatik mit Unterstützung der Universität Passau diskutierten Expert*innen aus Politik, Wissenschaft, Wirtschaft und Zivilgesellschaft über „Demokratie im digitalen Zeitalter“.
- Möglichkeiten und Herausforderungen der Digitalisierung (Christine Regitz, Sandy Jahn)
- Das Superwahljahr 2024 und Meinungsbildung im digitalen Zeitalter (Prof. Dr. Ursula Münch)
- Wahlkampf in den USA (Annika Brockschmidt)
- Politik in der vernetzen Welt (Katharina Nocun)
- Desinformation im Wahlkampf und wie sie die Demokratie schwächt (Simon Bölts, Katharina Nocun)
- Zukunft digitale Wahl? (Dr. Ruth Brand, Dr. Simone Ehrenberg-Silies, Prof. Dr. Rüdiger Grimm)
- Digitale Unternehmensverantwortung: Welche Rolle spielt die Wirtschaft, insbesondere Plattformen? (Dr. Fabian Mehring, Lajla Fetic, Dr. Ulf Buermeyer, Friedrich Ehlers)
Tutzing. In einem Jahr, in dem rund die Hälfte der Weltbevölkerung zur Wahl aufgerufen ist, ist die Frage des Einflusses der Digitalisierung auf unsere Wahlen und unsere Demokratie relevanter denn je. Bei der diesjährigen Kooperationstagung wurde unter anderem darüber diskutiert, welche Möglichkeiten sich durch die Digitalisierung für einen demokratischeren Staat und eine zukunftsorientierte Gesellschaft ergeben können – aber auch, welche Herausforderungen und Gefahren durch sie entstehen. Welchen Einfluss hat Desinformation auf die Meinungsbildung, und welche Rolle spielt Künstliche Intelligenz (KI)? Diesen und weiteren Fragen gingen die Teilnehmenden der diesjährigen Kooperationstagung gemeinsam nach.
Möglichkeiten und Herausforderungen der Digitalisierung
![Christine Regitz am Redner*innenpult](https://initiatived21.de/uploads/05_Aktuelles/20240705_Tutzing/_contentSmall/53839325520_a73fe72c20_o.jpg)
Die Tagung wurde gemeinsam von Prof. Dr. Ursula Münch, Direktorin der Akademie für politische Bildung Tutzing, Christine Regitz, Präsidentin der der Gesellschaft für Informatik (GI), und Sandy Jahn, Referentin Strategic Insights & Analytics bei der Initiative D21, eröffnet. Gemeinsam betonten sie die Wichtigkeit der aktuellen Wahlen für unsere Demokratie und hoben hervor, was eigentlich Digitalisierung damit zu tun hat:
Cyberangriffe und mangelnde Verwaltungsdigitalisierung unterminieren das Vertrauen der Bürger*innen in politische Prozesse. Dazu gehören auch Wahlen. Umso sorgsamer müssen wir mit diesem Prozess umgehen. Wir müssen die Demokratie erhalten!
Für die Tagung gab Christine Regitz den Teilnehmenden zwei wichtige Punkte mit, die in ihren Augen eine Schlüsselrolle beim Schutz der Demokratie spielen: 1. Cybersicherheit – die Integrität staatlicher Systeme müsse gewährleistet sein. Wahlen müssten vor ausländischen Einflüssen und Hackerangriffen geschützt sein. 2. Verwaltungsdigitalisierung: Durch eine erfolgreiche Digitalisierung könne die Effizienz, die Bürger*innenbeteiligung, die wirtschaftliche Stärke und das Vertrauen der Bevölkerung gefördert werden – was wiederum zu einer Stärkung der Demokratie und einer zukunftsfähigen, resilienten Gesellschaft führe.
![Sandy Jahn gestikuliert am Redner*innenpult](https://initiatived21.de/uploads/05_Aktuelles/20240705_Tutzing/_contentSmall/53837992262_a299d246a9_o.jpg)
Sandy Jahn erklärte, dass die Initiative D21 vor 25 Jahren mit dem Ziel gegründet worden sei, die digitale Spaltung in der Gesellschaft zu überwinden. Die Digitallandschaft sei 1999 noch eine andere gewesen – der typische Internetnutzer: männlich, mittleres Alter, hohes Einkommen. Heute liege die Zahl derer, die kein Internet nutzen, nur noch bei 6 Prozent – dieser Graben sei also bereits kleiner geworden. Allerdings hätten sich auch neue Spaltungen aufgetan – wie der Digital Skills Gap, der bei der zunehmenden Bedrohung durch Desinformation eine große Rolle spiele. Gerade einmal die Hälfte der Menschen traue sich laut D21-Digital-Index zu, die Richtigkeit von Quellen zu beurteilen, und nur 58 Prozent, echte von unseriösen Nachrichten zu unterscheiden:
Neue Technologien wie Deepfakes stellen unsere Medienkompetenzen vor neue Herausforderungen. In ein paar Jahren können wir alle sie vielleicht nicht mehr von Realität unterscheiden. Darum ist JETZT der richtige Moment, über den Umgang damit nachzudenken!
Genauso wichtig sei es aber auch, über die Chancen der Digitalisierung für die Demokratie zu sprechen: 40 Prozent der Menschen sehen diese – etwa im digitalen Ehrenamt oder der Tatsache, dass marginalisierte Stimmen mehr Gehör finden. Diese Chancen zu nutzen, darauf sollten wir uns stärker konzentrieren, so Jahn.
Das Superwahljahr 2024 und Meinungsbildung im digitalen Zeitalter
![Ursula Münch am Redner*innenpult](https://initiatived21.de/uploads/05_Aktuelles/20240705_Tutzing/_contentSmall/53819317114_9f91b13be5_o.jpg)
Im Superwahljahr 2024 finden weltweit 84 Wahlen statt – die meisten in „liberalen Demokratien“, einige auch in autoritären Systemen, so Prof. Dr. Ursula Münch. Für offene Gesellschaften sei es in einer solchen Situation immens wichtig, dass die öffentliche Meinung so wenig wie möglich manipuliert werde. Öffentliche Meinungsbildung werde immer (medial) vermittelt und Formen der Einflussnahme auf die öffentliche Meinungsbildung seien vielzählig. Ein Beispiel für Manipulationsversuche seien Desinformationsseiten, die tatsächliche Nachrichtenseiten kopieren und Beiträge veröffentlichen, wie in dem Fall gefälschten Spiegel-Artikels im Dezember 2023. Gleichzeitig zeige sich immer mehr, dass das Wahlergebnis eines Landes auch psychologische Auswirkungen auf andere Gesellschaften haben könne. Die Erfolge populistischer und extremistischer Parteien seien aktuell ein weltweites Phänomen – und die eine Wahl beeinflusse dadurch auch die andere:
Unser Blick auf Wahlen außerhalb Deutschlands hat sich verändert, musste sich verändern. Früher haben wir interessiert geschielt, wer gewinnt; heute fragen wir: Hat das Auswirkungen auf die dortige Demokratie? Und dadurch gegebenenfalls auch auf die Demokratie bei uns?
Eine weitere Form der Beeinflussung sei das „Mainstreaming“ von extremistischen Positionen. Dabei würde bewusst versucht, radikale Ideen in der Mitte der Gesellschaft zu positionieren, um die „Grenze des Sagbaren“ zu verschieben. Gerade in den sozialen Medien sei das „digitale Mainstreaming“ verstärkt zu beobachten. Ebenso würden technische Angriffe ausländischer staatlicher Akteur*innen (Cyberangriffe) eine Form der Einflussnahme darstellen. Gleichzeitig betonte Münch ebenfalls die Wichtigkeit des Vertrauens der Bevölkerung in die seriösen Parteien und Medien:
Wenn wir plötzlich allem gegenüber skeptisch werden, schwindet auch das Vertrauen in seriöse Parteien, deren Vertreter*innen und die Medien.
Wahlkampf in den USA
Die kommende US-Präsidentschaftswahl ist vermutlich eine der global bedeutendsten Wahlen des Superwahljahrs. Journalistin und Autorin Annika Brockschmidt analysierte für die Tagungsteilnehmenden den dortigen Wahlkampf mit Fokus auf grundsätzliche Gefahren für die Demokratie:
Seit dem letzten Wahlkampf ist eine deutliche Radikalisierung der US-amerikanischen Rechten innerhalb der Republikaner*innen zu erkennen. Es kommt zum Beispiel immer häufiger zu öffentlichen Androhungen von Gewalt gegenüber den politischen Gegner*innen.
![Annika Brockschmidt gestikuliert am Redner*innenpult](https://initiatived21.de/uploads/05_Aktuelles/20240705_Tutzing/_contentSmall/53839325760_4ce06f8fd1_o.jpg)
Gleichzeitig müssten die Demokraten immer stärker mit dem Narrativ des „tattrigen Joe Biden“ kämpfen (der zum Zeitpunkt der Tagung in Tutzing noch demokratischer Präsidentschaftskandidat war) und scheiterten immer wieder beim Versuch, wichtige Themen in den Debatten zu positionieren. Zwar falle die Wahlentscheidung nicht primär während eines TV-Duells, aber social-media-optimierte Ausschnitte daraus seien bereits wenige Minuten danach instrumentalisiert worden und hätten dazu nicht einmal manipuliert werden müssen – und die Relevanz der sozialen Medien für den Diskurs sei hoch.
Bei einer Wiederwahl von Donald Trump als Präsident drohe die Möglichkeit eines kompletten Umbaus des US-amerikanischen politischen Systems, inklusive der Verwaltung. Brockschmidt befürchtet, dass die neue Trump-Administration nicht so dilettantisch wirken werde wie die letzte. Diesmal habe Trump die Führungsriege der Partei inklusive ihrer Ressourcen, ihrer Expertise und ihres Personals hinter sich. Mit der Bekennung zur Umsetzung des „Project 2025“ der Heritage Foundation habe Trump sich für den Abbau des administrativen Staats und somit auch einigen der Hürden aus der letzten Trump-Administration ausgesprochen. Die Umsetzung eines solchen Vorhabens hätte Auswirkungen auf Innen-, Außen-, Sicherheits- und Wirtschaftspolitik des Landes – und somit letztlich auf die ganze Welt. Mit der Unterstellung eines unrechtmäßigen „Deep States“ würde Trump den Umbau des Regierungssystems „legitimieren“.
Politik in der vernetzen Welt
![Katharina Nocun sprich in ein Mikrofon](https://initiatived21.de/uploads/05_Aktuelles/20240705_Tutzing/_contentSmall/53839142868_f354b86efc_o.jpg)
Daran knüpfte Publizistin und Bürgerrechtlerin Katharina Nocun an. Sie erklärte, dass Desinformationen wie die Unterstellung eines solchen „Deep States“ kein neues Thema seien. Gezielt verbreitete Falschnachrichten seien schon in den letzten Jahren immer wieder viral gegangen und hätten die Meinung zu bestimmten politischen Themen beeinflusst. Bisher seien z. B. gefälschte Nachrichtenseiten glücklicherweise oft aufgrund verschiedener Auffälligkeiten (Rechtschreibefehler, URLs, etc.) erkennbar gewesen – jedoch sei nicht jede*r medienkompetent genug, um dies zu erkennen.
Ein Blick in die Vergangenheit und Gegenwart zeige uns also schon, welche Auswirkungen Desinformation haben könne, wenn sie mit Verschwörungserzählungen angereichert werde. So habe Trump nach seiner Niederlage in den Präsidentschaftswahlen 2020 Gerüchte von Wahlbetrug verbreitet und seine Anhänger*innen öffentlich zum Boykott der Wahlergebnisse aufgefordert. Als Resultat kam es am 6. Januar 2021 zu Aufständen und dem Sturm auf das Kapitol in Washington D.C. Auch die AfD nutze den Wahlkampf immer wieder für solche Kampagnen; so habe die Partei bei der Bundestagswahl 2021 das Gerücht von einem drohenden Wahlbetrug verbreitet – insbesondere bei der Briefwahl – und habe Anhänger*innen dazu aufgerufen, sich als Wahlhelfer*innen zu melden:
Schon weit vor Wahlen starten die mit Verschwörungserzählungen angereicherten Desinformationskampagnen mit dem Ziel, Misstrauen am politischen Verfahren zu säen. Dann kann man im Wahlkampf darauf rekurrieren: ,Wir haben schon immer davor gewarnt!‘
Zu dieser bisherigen Situation komme nun der neue Faktor „Künstliche Intelligenz“ hinzu: KI habe auf Desinformation neben der Steigerung von Qualität und Quantität auch eine Meta-Wirkung, nämlich „Plausible Deniability“: Der Fake-Vorwurf könne nun leichter gegen reale Ereignisse eingesetzt werden, indem man beispielsweise die Echtheit von realen Fotos anzweifle, weil eine solche Fälschung mit KI ja mittlerweile möglich sei. Dadurch wachse Unsicherheit. Die Stärkung von Vertrauen in seriöse Kontrollinstanzen sei die entscheidende Grundlage für eine Abwehrkampagne, so Nocun.
Desinformation im Wahlkampf und wie sie die Demokratie schwächt
![Simon Bölts gestikuliert mit einem Mikrofon in der Hand](https://initiatived21.de/uploads/05_Aktuelles/20240705_Tutzing/_contentSmall/53838886616_c705099d05_o.jpg)
Im darauffolgenden Akademiegespräch unter der Moderation von Prof. Dr. Ursula Münch, schloss sich Simon Bölts, Mitinitiator und Gründungsmitglied des Vereins AI4Democracy der Diskussion mit Nocun an. Es sei wichtig, sich Gedanken zu machen, welche Ressourcen wir dazu brauchen, um KI und Technologie auch für die Rettung der Demokratie einzusetzen. Es sei extrem wichtig, in Bildung und Medienkompetenzen zu investieren, und das nicht nur in der Schule. Dabei sei es gar nicht nötig und möglich, für jede*n einzelne*n perfekte Medienkompetenzen auszubilden: Laut einer US-amerikanischen Studie benötige man unter 25.000 Menschen nur eine medienkompetent aufklärende Person, um eine Desinformationskampagne zu brechen.
Ein weiterer wichtiger Punkt sei es in seinen Augen, dass das Vertrauen in Kontrollmechanismen sich lohnen müsse. Dafür müssten Staat und Zivilgesellschaft transparenter und sichtbarer vorgehen. Seiner Meinung nach sei der AI Act der Europäischen Kommission eine gute Regulierung geworden und ein erster Schritt in Richtung Orientierung. Dennoch sei es vor allem wichtig, sich darüber im Klaren zu sein, an welchen Stellen der Einsatz von KI überhaupt sinnvoll und wünschenswert sei:
KI kann uns helfen, bessere Lösungen zu finden, aber KI ist nicht das Heilmittel. KI ist nicht per se böse oder gut – es kommt darauf an, wer es wie nutzt.
![Ursula Münch moderiert das Panel mit Katharina Nocun und Simon Bölts](https://initiatived21.de/uploads/05_Aktuelles/20240705_Tutzing/_contentSmall/53839236284_665e02d180_o.jpg)
Nocun mahnte an, dass man nicht dem Narrativ verfallen dürfe, dass KI uns etwas abnehmen werde, was lästig sei. Sie glaube nicht, dass KI der Weg zur Rettung der Demokratie sei. Neben Medienbildung sei vor allem auch die psychologische Bildung wichtig, damit wir lernen, wo Desinformation überhaupt in den Köpfen der Menschen ansetzt. Sie sprach sich für eine gesellschaftsübergreifende Bildung zu diesen Themen aus, die bereits in der Schule beginnen sollte. Gleichzeitig sehe sie es als Aufgabe der Zivilgesellschaft, sich die KI-Tools differenziert anzuschauen und zu überlegen: Wo macht ein Tool Sinn, wo macht es keinen Sinn und wo macht es vielleicht reguliert Sinn?
Zukunft digitale Wahl?
![Ruth Brand gestikuliert mit einem Mikrofon in der Hand](https://initiatived21.de/uploads/05_Aktuelles/20240705_Tutzing/_contentSmall/53837992467_e007b008db_o.jpg)
Der Beginn des zweiten Tags stand ganz im Zeichen von Digitalisierungsoptionen im Wahlprozess. Bundeswahlleiterin Dr. Ruth Brand, Präsidentin des Statistischen Bundesamts DESTATIS, ist für die Gewährleistung eines sicheren und ordnungsgemäßen Wahlprozesses bei allen bundesweiten Wahlen, insbesondere den Bundestags- und Europawahlen verantwortlich – dazu gehörten auch die Organisation des Prozesses der Stimmabgabe und deren ordnungsgemäße Wertung. Die Auszählung der Stimmen geschehe bei diesen Wahlen immer noch rein händisch, so Brandt in ihrem Impuls. Die Zusammenstellung und Übermittlung der Ergebnisse werden zwar durch Informationstechnik unterstützt, aber jedes Wahlorgan entscheide dezentral selbst, ob und wenn ja welche Software dabei zum Einsatz komme. Eine bundesweit einheitliche informationstechnische Ausstattung gebe es nicht.
Ob und wie so etwas wie „digitale Wahlen“ bei politischen Wahlen umzusetzen seien, liege im Endeffekt nicht in ihren Händen, sondern in den Händen der Gesetzgebung – die Wahlorgane richten sich nur danach. Grundsätzlich sei der Einsatz elektronischer Wahlsysteme in Deutschland nichts Neues: 1999 bis 2005 waren bereits „Wahlgeräte“ im Einsatz. Die Umsetzung eines internetbasiertes Wahlverfahren gestalte sich allerdings aus verschiedenen Gründen schwierig. Die Wahlrechtsgrundsätze (allgemein, unmittelbar, frei, gleich, geheim) müssten auch bei Online-Wahlen gelten – und aktuell gebe es keine Systeme, mit denen man das zweifelsfrei umsetzen könne. So hat 2009 auch das Bundesverfassungsgericht entschieden, dass der Einsatz der Wahlgeräte bei der Bundestagswahl 2005 verfassungswidrig gewesen sei. Wahlen müssten für jede*n Bürger*in auch ohne besondere technische Vorkenntnisse nachvollziehbar sein.
Der Wunsch nach digitalen Wahlen sei bei bestimmen Bevölkerungsgruppen trotzdem immer stärker. Aber Brandt ist sich sicher:
Aktuell sind analoge Stimmzettel das beste Mittel gegen Vorwürfe von Wahlmanipulation. Das Vertrauen in die Wahlergebnisse ist in Zeiten von Wahlbetrugsnarrativen das Wichtigste überhaupt.
Allerdings gebe es neben der Stimmabgabe selbst viele andere Prozesse rund um die Wahl, die man digitalisieren könne, um effizienter zu werden – beispielsweise die elektronische Beantragung der Briefwahlunterlagen oder die Eintragung ins Wähler*innenverzeichnis für Deutsche mit Wohnsitz im Ausland. Das Ausprobieren von Internetwahlen bei nicht-politischen Wahlen wie der Sozialwahl könne außerdem nach und nach mehr Akzeptanz schaffen.
![Simone Ehrenberg-Sillies spricht gestikulierend am Redner*innenpult](https://initiatived21.de/uploads/05_Aktuelles/20240705_Tutzing/_contentSmall/53839236204_9227e3d251_o.jpg)
Dr. Simone Ehrenberg-Silies, E-Voting-Expertin beim VDI/VDE-IT, hat politische wie nicht-politische Internetwahlen in ihrer Forschung in einem weltweiten Vergleich analysiert. Das einzige Land, das Online-Wahlen bei politischen Wahlen für die Gesamtbevölkerung nutze, sei Estland. Nur die Hälfte der Länder, die es mit teilweisen Internetwahlen versuchen würden, seien Demokratien. Sie teile die Bedenken Brands zur Vereinbarkeit von Internetwahlen bei politischen Wahlen mit den Wahlrechtsgrundsätzen, so Ehrenberg-Silies. Ein großes ungelöstes Problem stelle vor allem die Langzeitsicherung des Wahlgeheimnisses dar. Die bisher eingesetzten Kryptographien seien zwar sicher, aber nicht quantencomputerresistent. Zudem gebe es für etwas, das immer als besonderer Vorteil von Online-Wahlen angeführt werde, nämlich die Steigerung der Wahlbeteiligung, keine allgemeine Evidenz. Weitere Nachteile einer Online-Wahl seien hohe Voraussetzungen bei den digitalen Bedienkompetenzen, die Abhängigkeit von einzelnen Technologieherstellern oder die Trivialisierung des Wahlakts. So kam auch sie zu dem Schluss:
Die Risiken von Internetwahlen auf politischer Ebene übersteigen aktuell den Nutzen. Reale oder behauptete Angriffe auf sie könnten das Vertrauen in Wahlen im politischen Klima massiv untergraben – und uns fehlen noch die passenden Entkräftungsmechanismen.
Prof. Dr. Rüdiger Grimm, Informatiker und Fellow bei der GI, ist, was Online-Wahlen angeht, vom Forscher zum Praktiker geworden: Anfang der 2000er seien digitale Wahlen eine wichtige Forschungsaufgabe der Informatik gewesen. 2004 habe die GI dann die Entscheidung zur Einführung interner Online-Wahlen getroffen. Es sollte ein „Learning by doing“ mit offenem Ergebnis sein – ganz wie Dr. Brandt es eingangs gefordert hatte. Denn für Grimm war immer klar:
Es stellt sich grundsätzlich die Frage, ob die Informatik alles digitalisieren soll, was sie kann. Wir müssen immer hinterfragen, ob dadurch ein Mehrwert entsteht oder es nur ein Selbstzweck ist.
![Rüdiger Grimm am Redner*innenpult](https://initiatived21.de/uploads/05_Aktuelles/20240705_Tutzing/_contentSmall/53839325650_701ac7fd54_o.jpg)
Nach dem motivierten Beginn sei das Urteil des Bundesverfassungsgerichts zur Bundestagswahl 2005 (siehe im Absatz zum Impuls von Dr. Brand) zunächst ein Dämpfer gewesen, habe aber letztlich für einen weiteren Forschungsschub gesorgt. Es habe die Frage aufgeworfen, ob und wie man Nachvollziehbarkeit bei Online-Wahlen herstellen könne. Die Software-Integrität fordere zwar die Offenlegung des Quellcodes von Wahlsoftware, wie sie sie bei der GI genutzt haben, jedoch sei dieser nur für Expert*innen nachvollziehbar. Das Urteil habe allerdings zu einem Paradigmenwechsel geführt: Beim neuen System der individuellen Verifikation könne nun jede*r einzelne Wähler*in selbst nachprüfen, dass ihre*seine Stimme richtig in der Urne liege. Und über eine universelle Verifikation könne jede*r Wähler*in das gesamte Wahlergebnis nachprüfen. Dennoch sei sein Beitrag heute kein allgemeines Plädoyer für Online-Wahlen bei politischen Wahlen, sondern lediglich „ein Bericht darüber, was die GI aus der intensiven Beschäftigung mit dem Thema gelernt hat“.
Digitale Unternehmensverantwortung: Welche Rolle spielt die Wirtschaft, insbesondere Plattformen?
![Fabian Mehring spricht in ein Mikrofon](https://initiatived21.de/uploads/05_Aktuelles/20240705_Tutzing/_contentSmall/53839236094_d196202571_o.jpg)
Neben Wähler*innen und der Politik gibt es einen weiteren wirkmächtigen Akteur, der in Bezug auf Digitalisierung im Superwahljahr betrachtet werden muss: die Wirtschaft und insbesondere die Digitalwirtschaft rund um große Plattformen, die einen großen Einfluss auf Wahlkampf und öffentliche Meinungsbildung haben. Der Bayerische Staatsminister für Digitales Dr. Fabian Mehring, hat dafür in seinem Bundesland die „Bayern-Allianz gegen Desinformation“ ins Leben gerufen:
Wir haben uns mit der Frage beschäftigt, wie es gelingen kann, die Gütekriterien von Qualitätsjournalismus auch im digitalen Raum zu etablieren, um Desinformation – vom Global Risk Report zuletzt als größte Herausforderung unserer Zeit eingeordnet – entgegenzutreten.
Bei der Bayern-Allianz habe man sich entschieden, sich mit relevanten Akteur*innen zusammenzutun, um eine gemeinsame demokratische Antwort auf diese Gefahr zu finden. Dabei setze die Bayern-Allianz auf drei Säulen:
- Staatliche Maßnahmen: Medienkompetenz für alle Generationen unterstützen, gleichzeitig dafür sorgen, dass das Internet kein rechtsfreier Raum sein darf – Stichwort Regulierungen und Durchsetzung von Gesetzgebung.
- Medien: Medienpartnerschaften, mit denen wir versuchen wollen, gemeinsam Content, der mit journalistischem Handwerk entstanden ist, in den Algorithmen nach vorne zu bringen.
- Tech-Unternehmen: Plattformbetreiber ins Boot holen und ganz konkrete Maßnahmen auf den Plattformen etablieren, z. B. Prebunking-Kampagnen oder gute Meldeformulare
![Ulf Buermeyer, Friedrich Enders und Lajla Fetic mit Sandy Jahn auf dem Podium](https://initiatived21.de/uploads/05_Aktuelles/20240705_Tutzing/_contentSmall/53839325555_741554740f_o.jpg)
Um die Rolle dieser Tech-Unternehmen ging es dann auch in der anschließenden Abschlussdiskussion der Tagung: Dr. Ulf Buermeyer, Mitgründer und Vorstandsmitglied der Gesellschaft für Freiheitsrechte und Podcaster „Zur Lage der Nation“, Friedrich Enders, Public Policy & Government Relations Manager DACH bei TikTok, und Lajla Fetic, Expertin KI Ethik & KI Governance, diskutierten unter der Moderation von Sandy Jahn darüber, was digitale Unternehmensverantwortung (auch bekannt als Corporate Digital Responsibility – CDR) in Bezug auf die Bewahrung der Demokratie tatsächlich ist und was ihre Grenzen sind.
![Lajla Fetic an einem Mikrofon](https://initiatived21.de/uploads/05_Aktuelles/20240705_Tutzing/_contentSmall/53839143048_dd4994121c_o.jpg)
Fetic erklärte, dass CDR keine Ausweichstrategie sein dürfe, um sich nicht an bestimmte Regeln zu halten: Sie sei nicht „the cherry on top“, sondern etwas, das Unternehmen tun müssten, um zu beweisen, dass sie es gut meinten. Dazu seien an vielen Stellen noch deutlich mehr Investitionen nötig. So müssten Compliance-Abteilungen ausgebaut und Kompetenzen für die korrekte und glaubwürdige Umsetzung von (EU-)Regeln aufgebaut werden. Damit Unternehmen über die Umsetzung von Regeln hinaus positive Wirkungen erzielen und gesellschaftlich relevante Ziele verfolgen können, brauche es neben Spielregeln und Gesetzen auch gelebte Praktiken und Werte. Mit dem Digital Services Act und dem Digital Markets Act sowie dem AI Act seien allein in den letzten Monaten drei weitreichende und mächtige Regelwerke entstanden, die es nun effektiv umzusetzen gelte. Entscheidend werde sein, wie sich die Regeln im Handeln der Unternehmen widerspiegeln. Fetic sprach sich dafür aus, gemeinsam mit den Unternehmen herauszufinden, wie die Regeln am besten in die Praxis umgesetzt werden können. Deshalb freue sie sich, dass TikTok heute auf der Bühne sei und sich dieser Diskussion stelle.
![Ulf Buermeyer an einem Mikrofon](https://initiatived21.de/uploads/05_Aktuelles/20240705_Tutzing/_contentSmall/53839236014_b5f2e9c958_o.jpg)
Buermeyer gab zu bedenken, dass es derzeit vor allem Unternehmen seien, die den Umgang mit KI verhandeln und die meisten Entscheidungen treffen. Deren Verantwortung sei deshalb enorm. Ethisch-moralische Verantwortung sei aber nicht immer mit der marktwirtschaftlichen Realität vereinbar. Schließlich hätten Unternehmen auch eine (rechtlich bindende) Verantwortung gegenüber ihren Aktionär*innen, Gewinne zu erwirtschaften. Ethisch korrektes Verhalten müsse sich daher auch marktwirtschaftlich lohnen, wenn man auf die Eigenverantwortung der Unternehmen setzen wolle. Hier kämen Regulierungen ins Spiel:
Regulierung kann für Unternehmen auch etwas Befreiendes haben: Sie kann ethische Verantwortungen in Compliance übersetzen und macht es leichter, sich mit Mitbewerbern in einem klaren Korridor zu bewegen.
Diesen Punkt unterstützte Enders. Bei TikTok sei man erfreut über die europäische Gesetzgebung, an der man sich als Plattform europaweit einheitlich orientieren könne. Er sprach in diesem Zusammenhang von einem „level playing field“, was bedeutet, dass kein Unternehmen einen Wettbewerbsnachteil habe, wenn sich alle an die gleichen Regeln halten müssten. Bei TikTok sei man sich der großen Verantwortung bewusst – auch aufgrund der Reichweite, die man auf der Plattform generieren könne, so Enders. An einigen Beispielen zeigte er auf, wo das Unternehmen bereits versuche, dieser Verantwortung gerecht zu werden: beim Schutz der Daten der Nutzer*innen oder beim Schutz der Gesellschaft vor schädlichen Akteur*innen und Inhalten:
Falsch- und Desinformationen werden bei uns in Zusammenarbeit mit Fact-Checking-Netzwerken aufgespürt und entfernt. Wir identifizieren außerdem Netzwerke, die versuchen, Einfluss auf politische Prozesse zu nehmen, und blockieren sie. Und auch der Zugang für unsere Nutzer*innen zu verlässlichen Inhalten, zum Beispiel im Vorfeld von Wahlen, fällt unter diese Maßnahmen.
![Friedrich Enders spricht in ein Mikrofon](https://initiatived21.de/uploads/05_Aktuelles/20240705_Tutzing/_contentSmall/53839236184_e18d86bbd8_o.jpg)
Er betonte aber auch, dass TikTok der politischen Neutralität verpflichtet sei. So könne man keine politischen Parteien grundlos von der Plattform ausschließen, da sonst Klagen drohten. Man könne aber politische Akteur*innen und Parteien dazu anhalten, sich an die Regeln zu halten und rechtswidrige Inhalte zu löschen. Grundlage der Moderationsregeln sei es, schädliche Inhalte zu entfernen, aber nicht, bestimmte parteipolitische Werte zu befördern oder zu verbieten.
Die Gründe für die Popularität der AfD auf der Plattform sieht Enders darin, dass die Partei die Plattform ernst nehme und sie frühzeitig strategisch genutzt habe – sie habe mehr Accounts, mehr Inhalte, mehr „Volumen“ als alle anderen. Und ihre Inhalte seien auch so gestaltet, dass sie auf der Plattform „gut funktionieren“ und die Zielgruppe ansprechen. Aufgrund der Funktionsweise des Algorithmus sei es aber für die anderen Parteien möglich, diesen „Vorsprung“ aufzuholen. Zudem könnten die Nutzer*innen den Algorithmus ein Stück weit dadurch „trainieren“, welche Inhalte sie sich ansehen.
Fetic widersprach dem:
Es kann keine neutralen Plattformen geben. Sobald ein Inhalt mehr oder weniger häufig angezeigt wird als ein anderer, geht die Neutralität verloren. Was auch nicht unbedingt schlimm ist, aber eben nicht anders behauptet werden sollte.
Buermeyer ergänzte, dass es keine rechtliche Verpflichtung für TikTok gebe, alle Inhalte gleichberechtigt zu verbreiten. So gebe es in Deutschland keinen Rechtsgrundsatz, dass alle politischen Parteien auf einer Plattform gleich behandelt werden müssten. Das Problem sei vielmehr, dass TikTok versuche, weltweit einheitliche Maßstäbe anzulegen. Man müsse sich als Unternehmen fragen, ob dies der richtige Weg sei. Fetic plädierte an dieser Stelle für einen breiten gesellschaftlichen Diskurs mit den Plattformen darüber, was gute und teilenswerte Inhalte seien. Ziel müsse eine Gesellschaft sein, in der vielfältige Stimmen gehört werden. Berichte über die gezielte Drosselung von Inhalten etwa über Menschen mit Behinderungen, wie sie bei TikTok 2019 bekannt wurden, seien daher ein ernstzunehmendes Problem. Auch wenn TikTok Fehler in seinen Moderationsregeln zur Vermeidung von Mobbing einräumt, brauche es hier eine Aufarbeitung und glaubwürdige Maßnahmen, die für mehr Transparenz sorgen und Nutzer*innen wie Beobachter*innen die Möglichkeit geben würden, solches Verhalten zu melden und dagegen vorzugehen.
Algorithmus-Transparenz sei auch darüber hinaus ein wichtiges Stichwort, so Buermeyer: Für ihn als Nutzer sei nicht klar, warum er bestimmte Inhalte angezeigt bekomme und andere nicht, dementsprechend wisse er auch nicht, wie er den Algorithmus „trainieren“ könne. Außerdem würden die Ergebnisse einer Studie zeigen, dass die AfD nicht nur aktiver auf TikTok sei, sondern dass ein AfD-Video im Schnitt rund 400.000 Menschen erreiche, während die Videos anderer Parteien im Schnitt nur 80.000 sogenannte Views hätten. Der Algorithmus scheine also diese Videos deutlich häufiger zu spielen. Auch hier sei nicht nachvollziehbar, welches Nutzer*innen-Verhalten letztlich dazu führe.
![Der Starnerber See vom Steg in Tutzing aus fotografiert. Rechts ein kleines Bootshaus](https://initiatived21.de/uploads/05_Aktuelles/20240705_Tutzing/_contentSmall/bafkreieyphsebz6vuovyo4oysxbdciarmk2d55hre6dmatn6nm7gpzph74.jpg)
Am Ende waren sich alle drei einig, dass der gemeinsame Austausch nicht trotz, sondern gerade wegen der kontroversen Diskussionspunkte eine gewinnbringende Erfahrung war, die unbedingt fortgesetzt werden sollte.