Die heutige Episode von Degitalisierung muss politisch werden. Leider. Denn Gleichgültigkeit ist keine Lösung. Vor allem nicht nach den politischen Ereignissen der letzten Wochen. Nach den Landtagswahlen in Sachsen und Thüringen, nach den Messerattacken in Solingen und der sich abzeichnenden autoritären Zeitenwende, gesteigert durch digitale Überwachungsfantasien.

Doch der Reihe nach. Das Grundthema dieser Kolumne ist ja – seit den ersten mühsam gefundenen Worten – schon immer die Frage, inwieweit schlecht gemachte Digitalisierung das Gegenteil von dem bewirken kann, was gut gemachte Digitalisierung eigentlich bewirken könnte. In dieser Ausgabe müssen wir uns wohl etwas näher mit dem Gedanken beschäftigen, was Digitalisierung unter anderen politischen Rahmenbedingungen tun könnte. Unter autoritären oder faschistischen Regierungen etwa. Das ist insofern wichtig, als eine Gleichgültigkeit heute die Schrecken einer möglichen faschistischen Zukunft immens beschleunigen könnte.

Dass unsere Gleichgültigkeit heute ein Problem für die Zukunft sein kann, ist aber nicht immer allen bewusst. Und damit beginnen die Schwierigkeiten in der Auseinandersetzung mit dem, wie wir heute sinnvolle und resiliente digitale Lösungen schaffen können.

Dann kannste auch nichts machen?

In den vergangenen Jahren habe ich einige öffentliche Vorträge gehalten. Oftmals ging es um … Digitalisierung. Nach einem dieser Vorträge, es ging wohl um Digitalisierung der Verwaltung oder des Gesundheitswesens – es ist für den Punkt, den ich machen möchte, nicht wichtig –, kam eine etwas ältere Person auf mich zu. Sie meinte, dass ich das alles zu kritisch sähe. Das mit der massenhaften zentralisierten Datenspeicherung von persönlichen Daten und der IT-Sicherheit und dem Datenschutz müsse ich entspannter betrachten. Nach längerer Diskussion kamen wir dann irgendwann auf den folgenden Punkt zu sprechen: Es ist aus meiner Sicht fatal, heute Systeme zu bauen, die in irgendeiner Art und Weise digitale Allmacht über Einzelpersonen oder über Teile der Bevölkerung oder die ganze Bevölkerung ermöglichen würden.

Dann kam die Antwort, die bei uns allen die Alarmglocken schrillen lassen sollte: „Na ja, wenn eine faschistische Regierung kommt, dann kannste da auch nichts machen.“

Ganz egal, was in baldiger oder längerfristiger Zukunft passieren sollte: Seid nicht diese Person. Seid niemals nie eine Person, der irgendwas gleichgültig ist. Seid nicht gleichgültig. Vor allem, wenn es um Politik oder Technik oder andere Dinge geht, die euch erst mal vermeintlich nicht betreffen, andere Menschen aber schon.

Marian Turski, Überlebender des Konzentrationslagers Auschwitz, bezeichnete das 2020 als das elfte Gebot. Seid nicht gleichgültig. Seid nicht gleichgültig.

Noch mal: Seid nicht gleichgültig.

Wenn wir das elfte Gebot jetzt verinnerlicht haben, was sind die Konsequenzen für die Art, wie wir kritisch und konstruktiv zugleich mit Digitalisierung umgehen müssen? Zunächst einmal sollten wir ein Gefühl dafür entwickeln, wann uns Menschen aus welchen Gründen auch immer in eine Gleichgültigkeit gegenüber einem bestimmten Thema treiben möchten – auch wenn die Motive nicht immer die gleichen sein mögen. Speziell im Digitalen.

Rise of the Machine Overlord

Nun kann es verschiedene Motive haben, bei Menschen entweder fanatische Begeisterung – oder zumindest keinen Widerstand – gegen das eigene Handeln auslösen zu wollen. Nicht selten hat das aber stumpfe, kapitalistische Beweggründe.

Rechtsextreme Kräfte sind auf dem Vormarsch.

Wir halten mit unserer Arbeit dagegen.

Der aktuell immer noch anhaltende KI-Hype wird nicht selten von dem reinen Glauben an irgendeine Art von mystischer Wirkmächtigkeit der Technologie in der Zukunft getrieben. Diese vermeintliche Wirkmächtigkeit dient als Rechtfertigung dafür, bisherige gesellschaftlich vereinbarte Grenzen zu überschreiten.

Dabei gibt es grob zwei unterschiedliche Geisteshaltungen, um am Ende nichts gegen den Einsatz von Techniken der sogenannten Künstlichen Intelligenz zu tun, ganz im Gegenteil: AI-Doomer und AI-Accelerationisten.

Die Doomer, die an den baldigen Untergang durch Künstliche Intelligenz glauben und arbeiten dennoch auch an der Weiterentwicklung von KI, nur mit dem Ziel, den prophezeiten Untergang zu verhindern. Dann sind da die AI-Accelerationisten, die auch an der schnellen Weiterentwicklung von Künstlicher Intelligenz arbeiten, um möglichst bald irgendeinen Zustand von Artificial General Intelligence (AGI) zu erreichen, weil dann irgendeine Utopie möglich wäre.

Doomer schreiben manchmal öffentlichkeitswirksam Briefe, um auf den drohenden Untergang hinzuweisen, machen dann aber auch nichts weiter dagegen.

Beiden gemein ist das Versprechen einer größeren mythischen Macht durch künstliche Intelligenz, für oder gegen die man jetzt ganz schnell alles tun müsse. Das trägt Züge faschistischer Ideologie.

Große Probleme wie Bias, digitaler Kolonialismus, immenser Ressourcen- und Energieverbrauch, hohe Machtkonzentration, ungehemmter Datenkonsum, Plagiarismus und Desinformation werden dabei im Sinne des größeren Ziels eher totgeschwiegen. Bei der Entwicklung von vielen KI-Systemen werden alle diese erheblichen Probleme bewusst ignoriert.

Am Ende geht es dann meist nur um die Entwicklung des 102. großen Sprachmodells mit drei Prozent besseren Werten in irgendwelchen Benchmarks oder den 53. Bild- oder Videogenerator für Bilder oder Videos, die keinen tieferen Sinn haben. Nur selten geht es um tiefergehende Probleme wie medizinische Forschung, die Bekämpfung des Klimawandels oder das Verhindern des Artensterbens. Das wären die Probleme, die uns nicht gleichgültig sein sollten.

Seid nicht gleichgültig. Speziell wenn euch irgendwer eine geradezu mystische Wirkmächtigkeit einer bestimmten Technologie vorpredigt, um dann am Ende nur Texte zu erzeugen, die kein Mensch liest und Bilder zu erstellen, die keine Aura haben.

Überwachung ohne Überwachung

Nach schrecklichen Ereignissen wie den Messerattacken in Solingen wird oftmals eine wohlbekannte Forderung gestellt: mehr Überwachung, mehr Befugnisse für Sicherheitsbehörden, mehr Durchgriffsmöglichkeiten.

Nicht selten werden hier lange vorbereitete politische Forderungen wie die Vorratsdatenspeicherung wieder aus der Mottenkiste geholt. Anlasslose Kontrollen gehören auch zum Forderungskatalog. Was oftmals nicht so laut gesagt wird: Dass viele Gewalttaten sehr häufig schon eine Vorgeschichte haben. Dass viele Gewalttaten eher die mangelnde Durchsetzungsfähigkeit bereits bestehender rechtlicher Rahmenbedingungen zeigen, sei es wegen schlechter Ausstattung, fehlender Fähigkeiten oder schlicht zu wenig Personal.

Bemerkenswert an der aktuellen Diskussion sind die leisen sofortigen Widersprüche auf politische Impulshandlungen, etwa zu Waffenverbotszonen. So folgte auf die Ankündigung von Waffenverbotszonen in Berlin prompt der Hinweis der Berliner Gewerkschaft der Polizei, dass Messerverbotszonen nicht kontrollierbar seien.

×

20 Euro für 20 Jahre

Einigkeit herrscht derweil bei dem Thema Videoüberwachung mit KI, allerdings, so die Berliner Innensenatorin Spranger: „Ob wir dies zur Identifizierung von Straftätern nutzen können, werden wir prüfen.“ Klingt eher nicht nach einer ausgereiften Technologie, die nachweisbar mehr Sicherheit bringt, sondern eher nach einem Experiment mit Problemen mit allerlei Grundrechten und europäischer Gesetzgebung.

Das ist aber auch nicht so wichtig in dem Kontext, denn seltsamerweise herrscht zumindest fast immer Einigkeit darüber, dass „eine überhöhte Interpretation des notwendigen Datenschutzes nicht wieder die innere Sicherheit gefährden und Menschenleben kosten“ dürfe, so der Berliner Landes-Chef der Gewerkschaft der Polizei, Stephan Weh.

Sicherheitspolitik ist prinzipiell etwas, was nicht von Impulshandlungen geprägt sein sollte. Vor allem dann nicht, wenn die mythische Lösung mittels Technik als solche nach wie vor nicht ausgereift ist, Minderheiten diskriminiert und schlicht grundrechtswidrig ist. Jede Form von geplanter Überwachung braucht selbst konsequente Überwachung, um nicht in einem möglicherweise faschistischen Überwachungsstaat zu münden.

Es darf uns nicht gleichgültig sein, wenn jemand Scheinlösungen fordert, die letztlich nur einem möglichen Überwachungsstaat helfen, ohne wirklich mehr Sicherheit zu bieten. Seid nicht gleichgültig, auch dann nicht, wenn es eure Grundrechte erst mal nicht direkt zu betreffen scheint.

Findet Verbündete, bildet Netze

In dieser Zeit von aufkommendem Faschismus, Überwachungsfantasien und Techbros mit Maschinenallmachtsfantasien müssen wir uns bewusst sein, dass wir nie alleine den Gefahren unserer Zeit gegenüberstehen. Wir haben Verbündete.

Haltet euch nicht an die, denen es gleichgültig ist. Findet Verbündete. Bildet Banden. Bildet Netze.

Dazu vielleicht zwei Hoffnung machende Anekdoten, dass ihr Verbündete, zumindest im Geiste, manchmal an ganz ungewöhnlichen Stellen finden könnt.

Die Doktorin etwa, die ihren flammenden Vortrag für die Digitalisierung in der Medizin, den dafür notwendigen Datenaustausch und Forschung mit der inständigen Bitte an die Politik schloss, sich noch stärker gegen den aufkommenden Faschismus einzusetzen. Menschen, denen die möglichen negativen Konsequenzen ihres Handelns selbst bewusst sind, sind ideale Verbündete für bessere digitale Lösungen.

Manchmal hilft auch ein Gespräch mit Menschen aus der Zivilgesellschaft von anderen Kontinenten: Irgendwie drehte sich unser Gespräch um digitale Identitätssysteme. Bereits die zweite Frage lautete, wie wir in Europa mit so umfassenden digitalen Systemen und faschistischen Regierungen umgehen würden, welche Fehler wir besser nicht machen sollten. Räumlich eigentlich sehr weit entfernt, gedanklich aber so nah. Es wäre schwer, in ihrem Land offen darüber zu sprechen, aber hier in Europa sollten wir das konstruktiv und kritisch jetzt diskutieren, bevor wir es nicht mehr tun können.

Es gibt nicht überall nur Gleichgültigkeit, auch wenn es gerade so wirkt. Seid nicht gleichgültig. Dann seid ihr schon gemeinsam.