Buchrezension: Warum Prognosen vor allem Macht bedeuten

Die Oxforder Philosophin Carissa Véliz hat ein Buch geschrieben, das zur rechten Zeit erscheint. In „Prophecy: Prediction, Power, and the Fight for the Future, from Ancient Oracles to AI" greift sie unsere heutige Abhängigkeit von Vorhersagealgorithmen frontal an. Ihr zentrales Argument: Bei der menschlichen Praxis der Vorhersage geht es nicht darum, die Wahrheit zu erkennen, sondern Macht auszuüben.

Das Buch erscheint bei Swift Press für 22 britische Pfund beziehungsweise bei Doubleday für 35 US-Dollar und umfasst 384 Seiten. Die Financial Times hat das Werk in ihrem wöchentlichen Buchkolumnen-Newsletter besprochen – ausgewählt von FT-Chefredakteurin Roula Khalaf.

Bazalgette als Lehrmeister der Bescheidenheit

Der Rezensent eröffnet seinen Text mit einer aufschlussreichen Anekdote: Ein Freund wurde damit beauftragt, beim Bau des Thames Tideway Tunnel mitzuwirken – Londons neuem „Super-Abwasserkanal", der im vergangenen Jahr das Original von Sir Joseph Bazalgette aus dem Jahr 1875 ersetzte. Als der Freund die Pläne des viktorianischen Ingenieurs studierte, stellte er fest, dass Bazalgette seine mathematisch berechneten Maße schlicht verdoppelt hatte – eine pragmatische Absicherung gegen die Ungewissheit der Zukunft.

Genau dieses Prinzip destilliert Véliz in einem ihrer zentralen Leitsätze: „Um widerstandsfähig zu sein, bereiten Sie sich vor, statt vorherzusagen." Bazalgette hatte diese Weisheit offenbar intuitiv verinnerlicht, lange bevor sie philosophisch formuliert wurde.

Algorithmen als Machtinstrumente

Im Zeitalter des maschinellen Lernens verlassen wir uns auf algorithmische Prognosen, um Entscheidungen in der öffentlichen Ordnung, der Unternehmensführung und im Privatleben zu treffen. Véliz sieht darin ein grundlegendes Problem: Vorhersagen sind von Natur aus probabilistisch, werden aber als Aussagen über feststehende Tatsachen akzeptiert. Der Grund liegt in ihrer psychologischen Funktion – sie lindern die angeborene Angst der Menschheit vor einer ungewissen Zukunft.

Daraus folgt laut Véliz, dass Prognosen unaufhaltsam anfällig für Ausbeutung sind. „Algorithmen", warnt sie, „sind oft die Auftragsmörder, die von Unternehmen ausgesandt werden, um ihren Willen zur Macht durchzusetzen." Besonders prägnant fasst sie die Ökonomie des Überwachungskapitalismus zusammen: „Das Versprechen der Vorhersage ist das, was Überwachung wirtschaftlich wertvoll macht."

Véliz identifiziert zudem einen Minsky-Effekt bei der Künstlichen Intelligenz: Je mehr es Vorhersagealgorithmen gelingt, bestehende soziale und wirtschaftliche Strukturen aufzubrechen, desto weniger vorhersehbar wird die Welt insgesamt. Ein Paradox, das die Grenzen algorithmischer Kontrolle aufzeigt.

Performativität und Vertrauensverlust

Besonders tiefgreifend sind Véliz' Überlegungen zur Verwechslung von Modellergebnissen mit echtem wissenschaftlichem Wissen. Diese Verwechslung befeuere eine Epidemie der Performativität, die das öffentliche Vertrauen in die demokratische Regierungsführung untergrabe. „Bürokraten lassen sich Wege einfallen, alles zu quantifizieren", nicht weil sie glauben, dass es tatsächlich etwas lösen wird, sondern „weil sie den Bürgern nicht trauen und ihnen im Gegenzug von den Bürgern nicht getraut wird", zitiert der Rezensent aus dem Buch.

Der Stil des Werkes ist bewusst grenzüberschreitend. Die Zitate reichen von Thales von Milet bis zur Fernsehserie Ted Lasso. Der Ton wechselt zwischen politischem Aktivismus, Selbsthilfe und Metaphysik. Sogar Andrew „The Jackal" Wylie – Véliz' eigener Literaturagent – tritt auf, um über das Scheitern von Prognosen im Verlagswesen zu referieren.

Kritik an der zentralen These

Der FT-Rezensent lobt das Buch für seine verblüffenden Einsichten, hält die zentrale These jedoch für zu einseitig. Véliz kommt zu dem Schluss, dass „präzise Prognosen über Einzelpersonen keine gute Nachricht sind; sie sind kein wissenschaftlicher Fortschritt, sondern ein Symptom von Tyrannei". Dem hält der Rezensent entgegen: Was ist mit Patienten, deren Leben durch genauere Prognosen verlängert wurde? Oder mit Passagieren, die dank besserer Wettervorhersage sicher gelandet sind?

Das zugrunde liegende Dilemma hat der Oxforder Philosoph Isaiah Berlin am präzisesten formuliert: Besteht wahre Freiheit in der „negativen" Freiheit von sozialer Kontrolle durch Vorhersagealgorithmen – oder in der „positiven" Freiheit, verbesserte Gesundheit und Wohlstand durch eben diese Techniken zu genießen? Diese Spannung, so der Rezensent, verbirgt sich hinter vielen heutigen politischen Gräben – etwa zwischen libertären und progressiven Ansätzen zur Technologie in den USA oder zwischen den amerikanischen und chinesischen Visionen für KI.

„Prophecy" schließt mit einer epikureischen Aufforderung, auf übermäßige Sorge um die Zukunft zu verzichten und auf „Philosophie als Gegenmittel zur Vorhersage" zu vertrauen. Der Rezensent zieht ein anderes Fazit: Er ist froh, dass Bazalgette bei der Londoner Kanalisation einen pragmatischeren Weg gewählt hat – und an der Vorhersage dort festhielt, wo sie half, während er gleichzeitig für Reserven sorgte.