Theorie contra Wirklichkeit 2026

Die Manipulation der Massen durch Medien, Algorithmen und künstliche Intelligenz

Im Dezember 2005 habe ich in meiner Abiturarbeit einen Satz geschrieben, den ich heute kaum ändern müsste.

„Sich komplett vor Manipulation zu schützen ist meiner Ansicht nach unmöglich.“

Ich habe mich damals mit der Manipulation der Massen durch Medien und Technik beschäftigt und über Pressezensur in China geschrieben, über überwachte E-Mails, George Orwells 1984, Neil Postmans Wir amüsieren uns zu Tode, Vance Packards Die geheimen Verführer, über Machiavelli und Maurice Joly, über Fotomanipulation, Computerhacker, Datenbanken und das Wachstum des Internets.

Vieles davon wirkte damals spekulativ und manches klang nach Science-Fiction. Ich habe in der Arbeit geschrieben, dass sich Fiktion und Realität immer mehr vermischen und dass es eines Tages schwer sein könnte, beides auseinanderzuhalten. Und genau das ist heute passiert.

2005 bin ich von etwa 1,07 Milliarden Internetnutzern weltweit ausgegangen. Für 2025 hat die Internationale Fernmeldeunion schon sechs Milliarden Menschen im Internet geschätzt, das sind ungefähr drei Viertel der Weltbevölkerung, so steht es bei der ITU.

Die Manipulation hat dadurch viel mehr Reichweite bekommen, aber sie hat auch ihre Form verändert. Sie ist persönlicher geworden, sie ist schneller geworden und sie ist unsichtbarer geworden.

Die Arbeit hieß damals Theorie contra Wirklichkeit und war der Versuch, die theoretischen Möglichkeiten der Manipulation mit der Wirklichkeit zu vergleichen, die oft so unglaubwürdig wirkte. Heute steht die Theorie der Wirklichkeit gar nicht mehr gegenüber. Sie ist ein Teil unserer technischen Infrastruktur geworden.

1. Manipulation muss keine Lüge sein

In meiner Arbeit habe ich Manipulation als bewusste, aber verdeckte Beeinflussung eines Menschen definiert, und die Definition passt bis heute.

Eine wichtige Sache hat sich aber verändert. Um Menschen zu manipulieren, muss man ihnen heute gar keine falschen Informationen mehr geben. Es reicht, zu entscheiden, welche richtigen Informationen sie zuerst sehen, welche später und welche sie nie zu sehen bekommen. So wird die Reihenfolge zur Botschaft, die Wiederholung wird zur Wahrheit und das, was man nie sieht, wird bedeutungslos.

Früher hat eine Zeitungsredaktion entschieden, welche Nachricht auf die Titelseite kommt. Später hat ein Fernsehsender entschieden, welche Bilder in den Abendnachrichten laufen. Heute entscheidet ein maschinelles System das für jeden einzelnen Nutzer neu.

Meta sagt selbst, dass der Facebook-Feed für mehr als zwei Milliarden Nutzer mit maschinellem Lernen individuell sortiert wird. Und TikTok beschreibt, wie Videos nach den Interessen und Reaktionen jedes Nutzers bewertet und in einer eigenen Reihenfolge ausgespielt werden, das steht im TikTok Newsroom.

Das allein beweist noch keine Manipulation, denn jede Zeitung muss Artikel sortieren und jeder Fernsehsender muss sein Programm planen. Der Unterschied ist nur, dass früher Millionen Menschen dieselbe Titelseite gesehen haben, und heute sieht jeder seine eigene Wirklichkeit.

2. Von der chinesischen E-Mail zum unsichtbaren Ranking

Angefangen hat meine Arbeit mit einer Reise nach China.

Auf dem Tian’anmen-Platz habe ich mich mit den Ereignissen vom 4. Juni 1989 beschäftigt und mit der Frage, wie ein Staat ein historisches Ereignis unterdrücken und es sogar aus dem Bewusstsein großer Teile seiner Bevölkerung entfernen kann.

Besonders beeindruckt hat mich eine Geschichte aus dem Augenzeugenbericht von Jan Wong. Ein chinesischer Küchenchef hat Journalisten während der gewaltsamen Niederschlagung der Proteste mit Essen versorgt und das mit diesen Worten begründet.

„Sie werden der Welt berichten, was geschehen ist.“

In diesem einen Satz steckt die ganze Bedeutung freier Medien. Etwas ist passiert und Menschen haben es gesehen, aber erst wenn jemand darüber berichtet und andere den Bericht auch erreichen können, wird es ein Teil der öffentlichen Wirklichkeit.

Als ich zurück in Berlin war, habe ich mit meinem chinesischen Gastgeber versucht, E-Mails mit Begriffen wie „democracy“ und „human rights“ nach China zu schicken. Die Nachrichten kamen nie an. Als wir die Begriffe rausgenommen haben, ging der Versand wieder. Das war für mich damals ein erschreckendes Beispiel für automatisierte Zensur.

Heute muss man eine Nachricht technisch gar nicht mehr blockieren. Sie kann verschickt, veröffentlicht und gespeichert werden und trotzdem praktisch unsichtbar bleiben. Ein Beitrag ist online und bekommt kaum Reichweite, ein Suchergebnis existiert und steht auf Seite 20, ein Video wird hundert Menschen gezeigt statt zehn Millionen. Und niemand muss es verbieten. Die moderne Zensur löscht also oft gar nichts, sie sortiert.

Die Europäische Union versucht inzwischen, wenigstens einen Teil dieser Macht sichtbar zu machen. Der Digital Services Act verpflichtet sehr große Plattformen unter anderem dazu, die wichtigsten Parameter ihrer Empfehlungssysteme offenzulegen und eine Auswahl anzubieten, die ohne das persönliche Profil des Nutzers auskommt, so beschreibt es Digital Strategy Europe.

Dass so ein Gesetz überhaupt nötig geworden ist, zeigt schon, wie viel politische und gesellschaftliche Macht in einem Empfehlungsalgorithmus steckt.

3. Machiavelli brauchte keine künstliche Intelligenz

Oft heißt es, moderne Manipulation sei erst mit dem Internet entstanden, und das ist falsch.

Maurice Joly hat in Macht contra Vernunft Machiavelli und Montesquieu in ein fiktives Gespräch gesetzt. Jolys Machiavelli erklärt darin, wie man ein demokratisches System fast unbemerkt in eine autoritäre Herrschaft umbauen kann.

Er will die Presse dabei gar nicht einfach verbieten, weil ein Verbot zu offensichtlich wäre. Stattdessen sollen Lizenzen, Steuern, wirtschaftlicher Druck und eigene Zeitungen dafür sorgen, dass kritische Stimmen theoretisch existieren dürfen, aber praktisch an Bedeutung verlieren.

Besonders aktuell ist die Stelle über Rechte, die bewusst ungenau formuliert werden. Jolys Machiavelli sagt sinngemäß, dass er die modernen Grundrechte allgemein anerkennen will, sie aber eben einzeln und eindeutig nirgends festschreibt.

„Wenn ich sie gar nicht im Einzelnen anführe, scheint es so, als ob ich sie alle anerkenne, und im besonderen Falle erkenne ich keins an.“

So behält der Herrscher die Freiheit, einzelne Rechte später mit einer Notverordnung einzuschränken.

Heute braucht man dafür meistens keine staatliche Presselizenz mehr, man braucht ein Nutzerkonto. Eine App muss in einen App-Store aufgenommen werden, ein Kanal muss monetarisiert bleiben, ein Unternehmen muss die Regeln einer Plattform befolgen, ein Händler braucht Zugang zu einem Marktplatz, ein Entwickler braucht eine API und ein Journalist braucht Reichweite.

Die neuen Lizenzen heißen nur anders, sie heißen Account, Ranking, Verifizierung, Monetarisierung und Zugang.

Eine Plattform kann behaupten, sie habe niemandem verboten zu sprechen. Vielleicht hat sie nur die Verbreitung eingeschränkt, die Werbeeinnahmen beendet oder den Zugang zur technischen Infrastruktur entzogen, und der Effekt kann derselbe sein.

Dafür braucht es noch nicht mal eine große Verschwörung. Ein Geschäftsmodell, das Aufmerksamkeit maximiert, kann zu ähnlichen Ergebnissen führen wie ein politisches System, das Zustimmung maximieren will.

4. Wir amüsieren uns nicht mehr gemeinsam zu Tode

Neil Postman hat in Wir amüsieren uns zu Tode die These aufgestellt, dass das Fernsehen bestimmt, worüber wir etwas wissen, und auch, wie wir darüber denken. Informationen mussten als Unterhaltung funktionieren. Ein kompliziertes politisches Problem hatte es schwer gegen einen Skandal, eine Katastrophe oder eine prominente Person, und was nicht unterhaltsam genug war, ist aus dem Programm verschwunden.

Ich habe Postman damals nicht in allen Punkten zugestimmt, denn auch geschriebene Medien können manipulieren. Seine Hauptaussage war aber erstaunlich weitsichtig. Was Postman unterschätzt hat, ist das, was nach dem Fernsehen kam.

Das Fernsehen hat dasselbe Programm an Millionen Zuschauer gesendet. Der Feed von heute baut für jeden Menschen ein eigenes Programm. Er schaut, wie lange wir ein Video ansehen, was wir überspringen, was wir liken, worüber wir uns aufregen und zu welchem Beitrag wir zurückkommen. Der Nutzer trainiert das System und das System trainiert den Nutzer.

Der Algorithmus braucht dafür auch gar keine politische Absicht. Er muss nur vorhersagen, welcher Inhalt am wahrscheinlichsten dafür sorgt, dass wir noch ein paar Sekunden länger auf der Plattform bleiben.

Das Ergebnis ist eine Medienwelt, in der Empörung oft besser funktioniert als Differenzierung, Angst besser als Unsicherheit und eine eindeutige Behauptung besser als eine ehrliche Frage.

Wir amüsieren uns also nicht mehr gemeinsam zu Tode. Jeder bekommt seine eigene Form der Unterhaltung, seine eigenen Gegner, seine eigenen Ängste und seine eigene Wahrheit.

5. Orwells Teleschirm passt heute in die Hosentasche

George Orwell hat in 1984 den Teleschirm beschrieben. Der hat staatliche Informationen gezeigt und gleichzeitig den Bürger beobachtet, und versteckte Mikrofone, die Gedankenpolizei und das Ministerium für Wahrheit haben das System komplett gemacht.

Als ich 2005 darüber geschrieben habe, waren Überwachungskameras, die akustische Wohnraumüberwachung und die Kontrolle von Arbeitscomputern meine wichtigsten Vergleiche.

Heute tragen wir den Teleschirm freiwillig mit uns rum. Er kennt unseren Standort, er hat unsere Nachrichten, Kontakte, Bilder, Termine, Suchanfragen und teilweise auch unsere Gesundheitsdaten. Wir benutzen ihn zum Bezahlen, zur Navigation, zur Partnersuche, zur Arbeit und für politische Diskussionen.

Der Unterschied zu Orwell ist dabei nicht, dass weniger Daten gesammelt werden. Der Unterschied ist, dass wir das Gerät selbst kaufen, es regelmäßig aufladen und es auch noch darum bitten, uns noch persönlichere Empfehlungen zu geben.

Die US-amerikanische Federal Trade Commission kam 2024 in einem Bericht zu dem Ergebnis, dass große soziale Netzwerke und Videoplattformen eine riesige Menge persönlicher Daten gesammelt und zu Geld gemacht haben. Die Behörde hat die Praktiken ausdrücklich „vast surveillance“ genannt, also umfassende Überwachung, nachzulesen bei der Federal Trade Commission.

Andere Verfahren der FTC haben gezeigt, dass Datenhändler genaue Standortdaten verkauft haben, mit denen man Besuche in medizinischen Einrichtungen, in Gotteshäusern oder in Schutzunterkünften nachverfolgen konnte. Mehreren Unternehmen wurde der Verkauf solcher sensiblen Standortdaten verboten, auch das steht bei der Federal Trade Commission.

Big Brother muss also gar nicht mehr jeden Menschen rund um die Uhr persönlich beobachten, ein statistisches Profil reicht. Das System muss auch gar nicht wissen, was ein Mensch denkt. Es reicht, wenn es mit hoher Wahrscheinlichkeit vorhersagen kann, was er als Nächstes anklickt, kauft, wählt oder fürchtet.

6. Die geheimen Verführer kennen heute unsere Reaktion

Vance Packard hat in Die geheimen Verführer beschrieben, wie Werbung Psychologie nutzt, um Wünsche, Ängste und Sehnsüchte anzusprechen.

Ein wichtiges Element war das „Mitmachprinzip“. Der Mensch sollte mitmachen, also kaufen, wählen, sammeln oder sich einer Bewegung anschließen. Die Werbung hat so viel mehr verkauft als ein Produkt, sie hat Zugehörigkeit verkauft.

Heute ist das Mitmachen in die Oberfläche selbst eingebaut. Gefällt mir, teilen, folgen, abonnieren, bewerten, eine Serie weiterlaufen lassen und eine tägliche Aktivität fortsetzen. Der Nutzer soll eben mehr tun als konsumieren, er soll Signale produzieren.

Jedes dieser Signale macht das Profil besser. Das System lernt, welche Farbe, welche Formulierung, welche Person, welche politische Haltung oder welche Angst bei einem bestimmten Menschen funktioniert.

Packards Werbeleute mussten allgemeine Annahmen über Gruppen treffen. Die Systeme von heute können Millionen Varianten testen und aus den Reaktionen lernen. Die Werbung fragt also längst mehr als nur, welche Botschaft junge Männer zwischen 25 und 35 Jahren überzeugt. Sie fragt, welche Botschaft genau diesen einen Menschen heute Abend überzeugt, nachdem er schlecht geschlafen, nach Geldproblemen gesucht und drei wütende Videos angeschaut hat.

Die politische Werbung hat dieselben Werkzeuge übernommen. Deshalb sieht Propaganda heute oft gar nicht mehr wie Propaganda aus, sie sieht aus wie „Content für dich“.

7. Die wahren Profis und die Macht der Möglichkeiten

In meiner alten Arbeit habe ich mich mit Boris F., bekannt als Tron, mit Karl Koch und mit Kevin Mitnick beschäftigt.

Es ging mir dabei weniger darum, jede Theorie über diese Personen als bewiesen hinzustellen. Mich hat eine andere Frage interessiert. Was kann eine einzelne Person mit technischem Talent erreichen, und welche Möglichkeiten müssen dann erst Staaten, Geheimdienste und große Unternehmen haben?

Über Kevin Mitnick habe ich einen Satz aus der Zeit zitiert.

„Die wahren Profis fängt man nicht.“

Heute sind viele frühere Hackertechniken ein professioneller Wirtschaftszweig. Ehemalige Angreifer arbeiten als Sicherheitsexperten, Unternehmen beschäftigen Red Teams, die gezielt versuchen, in die eigenen Systeme einzudringen, und Staaten haben eigene Cyberabteilungen.

Die Begriffe haben sich geändert und aus dem Hacker wird ein Sicherheitsforscher, ein Geheimdienstmitarbeiter, ein Auftragnehmer oder ein Entwickler. Die Grundfrage ist aber dieselbe geblieben. Wer hat die Fähigkeit, ein System zu überwachen, zu verändern oder abzuschalten, wer kontrolliert diese Person und wer kann überprüfen, was da wirklich passiert?

Dass es eine technische Möglichkeit gibt, beweist noch keinen Missbrauch, aber es schafft Macht.

Mit künstlicher Intelligenz kommt eine weitere Stufe dazu. Die Maschine beobachtet jetzt mehr als nur, sie kann Inhalte produzieren, Entscheidungen vorbereiten und mit angeschlossenen Werkzeugen auch Dinge tun. Sie kennt unsere Wünsche und sie kann immer mehr auch in unserem Namen handeln.

Damit wird die Frage der Berechtigungen ganz wichtig. Darf ein System nur lesen, darf es schreiben, darf es Nachrichten verschicken, Zahlungen auslösen, Verträge abschließen oder öffentlich in unserem Namen sprechen? Die politische Philosophie der nächsten Jahre wird zum Teil in technischen Zugriffsrechten geschrieben werden.

8. Wag the Dog braucht kein Filmstudio mehr

Im Film Wag the Dog wird ein Krieg erfunden, um von einem Skandal des Präsidenten abzulenken. Ein Hollywood-Produzent macht die Bilder, eine Schauspielerin wird vor einem künstlichen Hintergrund gefilmt, und Musik, Nachrichten und emotionale Geschichten machen die erfundene Realität komplett.

Als ich 2005 über den Film geschrieben habe, war so etwas technisch möglich, aber aufwendig. Man brauchte Studios, Fachleute, Schauspieler und Zugang zu den großen Medien. Heute kann eine einzelne Person realistische Bilder, Stimmen und Videos erzeugen.

Vor der US-Vorwahl in New Hampshire wurden 2024 Telefonanrufe mit einer künstlich erzeugten Stimme von Joe Biden verbreitet, und die Stimme hat die Leute aufgefordert, nicht an der Vorwahl teilzunehmen. Die amerikanische Kommunikationsbehörde FCC hat KI-generierte Stimmen in automatisierten Anrufen danach ausdrücklich als künstliche Stimmen im Sinne des geltenden Rechts eingestuft, das steht in den FCC Docs.

Die wichtigste Frage aus meiner Arbeit war damals diese.

„Wie klar muss und kann angezeigt werden, wenn Wirklichkeit verändert wird?“

Die Frage ist heute noch wichtiger. Ab dem 2. August 2026 gelten in der Europäischen Union bestimmte Transparenzpflichten aus dem AI Act. Die Menschen sollen unter anderem erkennen können, wenn sie direkt mit einem KI-System sprechen oder wenn bestimmte Inhalte künstlich erzeugt oder manipuliert wurden, und Anbieter generativer Systeme müssen außerdem maschinenlesbare Kennzeichnungen möglich machen, so beschreibt es Digital Strategy Europe.

Technische Standards wie C2PA sollen dazu die Herkunft und die Bearbeitungsgeschichte digitaler Inhalte kryptografisch dokumentieren. Aber auch C2PA sagt selbst, dass solche Herkunftsdaten nichts darüber sagen, ob der Inhalt wahr ist. Sie zeigen vor allem, ob die angegebenen Herkunftsdaten technisch intakt sind und vertrauenswürdig signiert wurden, so steht es in der C2PA Specification.

Das ist ein Fortschritt, aber es löst das Problem nur zum Teil. Eine Kennzeichnung kann fehlen, Metadaten kann man entfernen, ein echtes Video kann man aus dem Zusammenhang reißen und eine echte Aufnahme kann man falsch beschreiben.

Und es entsteht ein neues Problem, denn sobald perfekte Fälschungen möglich sind, kann man auch echte Aufnahmen als künstlich abstempeln. Die Frage ist dann eben mehr als nur, ob dieses Bild verändert wurde. Die Frage ist, ob diese Szene überhaupt jemals stattgefunden hat.

9. Das Ministerium für Wahrheit ist dezentral geworden

In Orwells 1984 gab es ein Ministerium für Wahrheit, das die historischen Aufzeichnungen ständig an die aktuelle Parteilinie angepasst hat.

Heute gibt es dafür viele. Es gibt Staaten, Nachrichtensender, soziale Netzwerke, Suchmaschinen, Influencer, PR-Agenturen, KI-Systeme und Millionen einzelne Nutzer, die alle gleichzeitig an der öffentlichen Wirklichkeit arbeiten.

Manche verbreiten bewusst falsche Informationen und andere wiederholen sie aus Überzeugung. Manche schneiden ein Video manipulativ und andere teilen nur einen Ausschnitt, weil er besser zur eigenen politischen Haltung passt.

Die Informationswelt von heute ist also eher beides zugleich, zentralisiert und chaotisch. Wenige Plattformen kontrollieren die technische Verteilung, Millionen Menschen produzieren die Inhalte und automatisierte Systeme entscheiden, was sichtbar wird. Und diese Struktur schützt eben auch nicht automatisch vor Zensur.

Freedom House kam 2025 zu dem Ergebnis, dass die Internetfreiheit weltweit im fünfzehnten Jahr hintereinander zurückgegangen ist, und hat das Internet als so stark kontrolliert und manipuliert wie noch nie beschrieben. Reporter ohne Grenzen hat 2026 gleichzeitig von einem 25-Jahres-Tief der Pressefreiheit berichtet, das kann man bei Freedom House nachlesen.

Man darf dabei nicht jedes Land und jedes System gleichsetzen. Wenn ein Journalist ins Gefängnis kommt, ist das etwas anderes, als wenn ein Beitrag wegen eines Verstoßes gegen Plattformregeln gelöscht wird, und ein staatlich blockiertes Internet ist etwas anderes als ein schlecht erklärtes Empfehlungssystem.

Hinter allen Beispielen steht aber dieselbe politische Grundfrage. Wer entscheidet, welche Informationen sichtbar werden, und welche Möglichkeiten hat der Betroffene, sich gegen diese Entscheidung zu wehren?

Der Digital Services Act verlangt inzwischen Erklärungen, wenn Plattformen Inhalte entfernen oder ihre Sichtbarkeit einschränken, und die Begründungen werden in einer öffentlichen Transparenzdatenbank gesammelt, so beschreibt es Digital Strategy Europe. Auch das zeigt, dass die technische Moderationsentscheidung längst ein politischer Vorgang geworden ist.

10. Eine politische Macht ist immer auch eine Medienmacht

In meiner Arbeit habe ich geschrieben.

„Eine politische Macht, die nicht gleichzeitig Medienmacht ist, existiert wohl in keinem Land auf dieser Welt.“

Ich habe mich damals mit den Zeitungsbeteiligungen politischer Parteien beschäftigt, mit staatlichen Rundfunksendern, dem Volksempfänger, der chinesischen Nachrichtenagentur Xinhua und der russischen Kontrolle unerwünschter Berichterstattung.

Heute muss eine politische Macht nicht unbedingt eine Zeitung besitzen. Sie braucht Zugang zu den Plattformen, sie muss verstehen, wie die funktionieren, und sie braucht genug Geld oder Unterstützer, um die Algorithmen mit Inhalten zu füttern.

Gleichzeitig sind die Plattformen selbst politische Mächte geworden, und ihre Entscheidungen beeinflussen Wahlkämpfe, gesellschaftliche Debatten, Proteste, die Wirtschaft und Krieg. Ein Staat kann ein Gesetz beschließen, und eine Plattform kann über Nacht verändern, wie Millionen Menschen an Informationen kommen.

Natürlich sind Plattformen keine Regierungen, sie haben weder dieselbe Legitimation noch dieselben staatlichen Gewaltmittel. Und gerade deshalb ist ihre Macht ein Problem, denn sie erfüllen zum Teil öffentliche Aufgaben und bleiben dabei private Unternehmen.

11. Von der Post zu eBay und von eBay zur künstlichen Intelligenz

Am Ende meines Kapitels über den technischen Fortschritt habe ich 2005 geschrieben.

„Zu Beginn war eBay auf die Post angewiesen, jetzt ist die Post auf eBay angewiesen.“

Der Satz sollte zeigen, wie schnell sich Machtverhältnisse durch neue Technik umdrehen können. Erst braucht eine neue Plattform die vorhandene Infrastruktur, und später wird die alte Infrastruktur von der Plattform abhängig.

Genau das ist auch mit den sozialen Netzwerken passiert. Am Anfang brauchten sie unsere Freunde, Bilder, Texte und Diskussionen, denn ohne Nutzer gab es da weder Inhalt noch Wert. Heute sind Unternehmen, Künstler, Politiker und teilweise ganze gesellschaftliche Debatten von diesen Plattformen abhängig.

Bei der künstlichen Intelligenz zeichnet sich etwas Ähnliches ab. Erst brauchen die Systeme menschliche Texte, Bilder, Programme und Rückmeldungen, und später könnten immer mehr Menschen von den Antworten, Entscheidungen und Werkzeugen dieser Systeme abhängig werden.

Die Suchmaschine hat uns verschiedene Quellen gezeigt, das KI-System schreibt eine Antwort, und das ist ein großer Unterschied. Wer nur eine Antwort bekommt, sieht seltener, was weggelassen wurde, welche Quellen sich widersprechen und wie unsicher das Ganze ist.

Die neue Medienmacht besteht also darin, Informationen zu verbreiten, und auch darin, sie zusammenzufassen und damit schon vorher zu entscheiden, was der Nutzer überhaupt noch selbst nachprüft.

12. Eigentum ist auch eine politische Frage

Meine alte Arbeit hat sich vor allem mit Informationen beschäftigt. Heute sehe ich das Problem größer. Wer unsere Kommunikation, unsere Identität, unsere künstliche Intelligenz und unser Geld kontrolliert, der besitzt jeweils einen Teil unserer Handlungsfreiheit.

Deshalb arbeite ich heute an Themen wie Open Source, Selbstverwahrung und digitalem Bargeld. Ich habe es in einem anderen Zusammenhang so gesagt.

„Financial Freedom. Nuri lets you control and own digital cash with your own keys and without a bank.“

Und noch kürzer.

„Own your bitcoin, use it like cash.“

Die Sätze klingen erstmal wie Produktbeschreibungen. Für mich steckt darin aber dieselbe politische Frage wie in meiner Arbeit von 2005, und das ist die Frage, wem die Infrastruktur gehört.

Bei Bargeld kann kein Unternehmen ein Konto einfrieren, eine Schnittstelle abschalten oder im Nachhinein bestimmen, wofür das Geld ausgegeben werden darf. Digitales Geld verliert diese Eigenschaft schnell, wenn es nur als Eintrag in einer zentralen Datenbank existiert. Deshalb ist Selbstverwahrung für mich mehr als eine technische Funktion, sie begrenzt Macht.

Das Gleiche gilt für künstliche Intelligenz. Mein Wunsch nach „all open source only“ kommt eben auch aus mehr als technischem Interesse. Ein offenes System kann man untersuchen, verändern und unabhängig betreiben, und ein geschlossenes System verlangt Vertrauen. Open Source garantiert weder Wahrheit noch Sicherheit, aber es schafft wenigstens die Möglichkeit der Kontrolle.

Deshalb heißt der wichtige Satz für mich auch mehr als nur „Privacy is not a crime.“ Er heißt auch „Owning cash is not a crime.“

Privatsphäre heißt nicht, etwas Illegales zu verstecken. Eigentum heißt nicht, sich der Gesellschaft zu entziehen. Und Dezentralisierung heißt nicht, jede Institution abzulehnen. Es heißt, Macht so zu verteilen, dass eine einzelne Institution nicht alles entscheiden kann.

13. Wo sind die Grenzen der kreativen Wirklichkeit?

Ein Kapitel meiner Arbeit hieß „Kreative Wirklichkeit, wo sind die Grenzen?“

2005 waren die Grenzen größtenteils technisch. Ein Bild zu manipulieren brauchte Erfahrung, ein Video zu fälschen war teuer, Millionen Menschen einzeln zu analysieren brauchte riesige Computersysteme und eine überzeugende künstliche Stimme gehörte zu den Spezialeffekten.

Diese technischen Grenzen verschwinden gerade, und was bleibt, sind die gesellschaftlichen, rechtlichen und moralischen Grenzen. Was dürfen Plattformen wissen und was dürfen Staaten verlangen? Wie muss man künstliche Inhalte kennzeichnen? Darf ein Algorithmus politische Nachrichten personalisieren? Wer haftet, wenn ein KI-System im Namen eines Menschen handelt, wer kontrolliert die Trainingsdaten und wer kann ein Modell unabhängig überprüfen? Und hat ein Mensch noch eine echte Wahl, wenn fast alle wichtigen Kommunikationswege von wenigen technischen Systemen abhängen?

Nicht jede Personalisierung ist Manipulation, nicht jede Moderation ist Zensur, nicht jede Datensammlung ist Überwachung und nicht jede künstliche Intelligenz ist eine Gefahr. Aber die wirksamste Manipulation war schon immer die, die aussieht wie eine nötige, harmlose oder bequeme Dienstleistung.

Was bleibt

In meiner alten Arbeit habe ich geschrieben.

„Für mich steht fest: Die Manipulation der Massen durch Medien findet statt.“

Daran hat sich nichts geändert. Ich würde heute nur ergänzen, dass die Manipulation inzwischen mehr ist als Manipulation durch Medien. Sie läuft über die technische Auswahl der Medien, also über Ranking, Profile, Schnittstellen, Identitätssysteme, Zahlungswege und künstliche Intelligenz.

Früher hat man gefragt, wem die Zeitung gehört, und heute muss man fragen, wem der Algorithmus gehört. Früher wollte man wissen, wer einen Artikel geschrieben hat, und heute muss man auch wissen, mit welchen Daten er erzeugt wurde, wie er verändert wurde und warum er gerade uns gezeigt wird. Früher konnte ein manipuliertes Bild eine falsche Geschichte erzählen, und heute kann eine komplett künstliche Person mit künstlicher Stimme in einer künstlichen Umgebung über ein Ereignis sprechen, das es nie gegeben hat.

Die Antwort darauf kann nicht ein einziges staatliches oder privates Ministerium für Wahrheit sein. Die Antwort muss aus nachvollziehbarer Herkunft, unabhängigen Quellen, offenen Systemen, persönlicher Kontrolle und echter Wahlfreiheit bestehen.

Sich komplett vor Manipulation zu schützen ist immer noch unmöglich. Aber man kann Strukturen bauen, in denen Manipulation schwieriger, sichtbarer und weniger mächtig wird.

Die wichtigste Frage unserer Zeit ist deshalb auch gar nicht mehr, ob wir manipuliert werden. Die wichtigste Frage ist, wem die Maschine gehört, die entscheidet, was wir sehen, was wir glauben und was wir als Nächstes tun.