„Das KI-Dilemma: Wachstum versus existenzielles Risiko“

Berlin, BRD (Weltexpress). Künstliche Intelligenz ist eine Frage der Macht.

1. Ein Zug, der mehr wert ist als tausend Erklärungen

Am 30. Juni 2026 wird einer der weltweit meistzitierten Wachstumsökonomen seine Professur an der Stanford University vorübergehend aufgeben, um dem Unternehmen beizutreten, das die Technologie entwickelt, deren Bedrohungen er seit Jahren analysiert. Charles I. Jones – Chad Jones, Inhaber des STANCO 25-Lehrstuhls an der Stanford Graduate School of Business – wird dem Anthropic Institute beitreten, dem Thinktank des Unternehmens, das die „Claude“-Modelle entwickelt und dessen Wert im Mai 2026 auf rund 965 Milliarden US-Dollar geschätzt wurde – das wertvollste „reine“ KI-Unternehmen der Welt. Darüber informiert das kommunistische Magazon Contropian“ am 1, Juli 2026 in einem ausführlichen Beitrag.

Der Mann, der ein mathematisches Modell entwickelt hat, um zu ermitteln, wie „rational“ es ist, eine Wahrscheinlichkeit des Aussterbens der Menschheit im Austausch für außergewöhnliches Wachstum zu akzeptieren, betritt als interner Berater das Labor derjenigen, die diese Variable erzeugten.

Dies ist kein biografisches Detail. Es ist eine kurze Fabel über unsere Zeit, denn sie erklärt besser als jede Aussage, wie technologische Macht heute funktioniert: Sie produziert nicht nur Maschinen, sondern ruft auch die Wissenschaftler auf, die damit beauftragt sind, die Bedeutung dieser Maschinen zu erklären.

Wer das Instrument entwirft, finanziert auch denjenigen, der dessen moralische Gebrauchsanweisung verfasst. Und wenn der Richter vom Angeklagten angeheuert wird, ist der Prozess bereits vor seinem Beginn entschieden.

2. Wenn das Aussterben zu einer Variablen wird

Der Aufsatz, der Jones zu einem Bezugspunkt in dieser Debatte gemacht hat, trägt den Titel „Das KI-Dilemma: Wachstum versus existenzielles Risiko“ und wurde 2023 vom National Bureau of Economic Research als Arbeitspapier veröffentlicht und anschließend in der Zeitschrift der American Economic Association publiziert.

Die Frage, mit der er beginnt, erweckt den Anschein kühler wissenschaftlicher Neutralität: Wenn künstliche Intelligenz eine beispiellose Beschleunigung des Wachstums verspricht, wie viel Katastrophenrisiko – bis hin zum Aussterben der Arten – ist es vertretbar, in Kauf zu nehmen, um dieses Ziel zu erreichen?

Die Antwort hängt im Modell von drei Faktoren ab: dem erwarteten Wachstumsnutzen, dem Ausmaß der Bedrohung und vor allem der gewählten mathematischen Methode zur Messung des Nutzens menschlichen Wohlergehens. Hier entfaltet die Argumentation ihre ganze Wirkung.

Wenn wir eine unbegrenzte Nutzenfunktion annehmen und uns ein Szenario explosiven Wachstums, eine ökonomische „Singularität“, vorstellen, gelangt die Rechnung zu einem erschreckenden Schluss: Fast jede Wahrscheinlichkeit des Aussterbens, solange sie nicht sicher ist, kann „rational“ sein, da die Wohlfahrtsgewinne gegen unendlich tendieren.

Jones selbst weist auf das Unbehagen des Übergangs hin: Der Planer, der die „Nutzeneinheiten“ addiert, behandelt eine zehnprozentige Wahrscheinlichkeit des Aussterbens der gesamten Menschheit wie eine zehnprozentige Wahrscheinlichkeit des individuellen Todes, während der Instinkt vieler sagt, dass die beiden überhaupt nicht gleichwertig sind.

Genau in dieser Lücke liegt das Problem. Nicht etwa, weil das Modell formal fehlerhaft wäre, sondern weil es die Natur des zugrundeliegenden kulturellen Paradigmas offenbart. Das Aussterben der Menschheit wird zur Variable. Das Überleben der Art wird Teil einer Nutzenfunktion. Leben wird zur Wahrscheinlichkeit, der Mensch zum Parameter.

Es ist der Höhepunkt jener instrumentellen Vernunft, die die Frankfurter Schule bereits im 20. Jahrhundert diagnostiziert hatte: eine Rationalität, die alles auf messbare Größen reduziert und dabei die Fähigkeit verliert, zwischen Mitteln und Zwecken zu unterscheiden. Das wahre anthropologische Risiko liegt also nicht in der Maschine selbst, sondern in der Art und Weise, wie eine bestimmte Wirtschaftskultur gelernt hat, über die Welt nachzudenken.

3. Die Ideologie des existenziellen Risikos

Es gibt einen konkreten politischen Grund, warum das Thema „existenzielle Gefahr“ so viel Raum im öffentlichen Diskurs einnimmt. Die Verlagerung der Aufmerksamkeit auf ferne Szenarien – die Superintelligenz, die in wenigen Jahrzehnten außer Kontrolle gerät und die Menschheit auslöscht – erlaubt es uns, die materiellen Konflikte der Gegenwart in den Hintergrund zu rücken.

Während wir mit einer Flut von Gleichungen über das Ende der Welt im Jahr 2060 diskutieren, schenken wir dem, was digitale Plattformen bereits heute tun, viel weniger Aufmerksamkeit: Sie restrukturieren die Arbeit, drücken die Löhne, konzentrieren den Reichtum, schreiben Informationssysteme neu und definieren das Machtverhältnis zwischen denen, die besitzen, und denen, die arbeiten, neu.

Es geht nicht darum, was künstliche Intelligenz morgen tun könnte, sondern darum, was sie heute tut. Es gibt keine Anzeichen dafür, dass eine bewusste Maschine die Weltherrschaft an sich reißen wird. Im Gegenteil, es gibt zahlreiche Belege dafür, dass einige wenige Unternehmen Infrastruktur, Daten, Rechenleistung und die Fähigkeit, das kollektive Leben zu lenken, an sich reißen.

Die apokalyptische Erzählung wirkt paradoxerweise beruhigend auf diejenigen, die diese Macht innehaben: Sie verwandelt eine Frage des Eigentums und der Demokratie in eine Frage des technologischen Schicksals und verlagert das Urteil vom politischen Tribunal auf das der Zukunftsforschung.

4. Künstliche Intelligenz ist eine Schwerindustrie

In der öffentlichen Debatte wird die Frage fast immer so gestellt: „Wird künstliche Intelligenz gefährlich sein?“ Das ist die falsche Frage. Die richtige lautet: „ Wer wird die künstliche Intelligenz kontrollieren? “ Der Unterschied ist kein bloßer Nuancenunterschied. Im ersten Fall erscheint das Problem technischer, fast natürlicher Natur; im zweiten Fall wird es sofort politisch.

Modelle der künstlichen Intelligenz entstehen nicht aus dem Nichts, sie sprießen nicht wie Pilze nach dem Regen. Sie erfordern gewaltige Investitionen, Rechenzentren von der Größe ganzer Stadtviertel, enorme Mengen an Strom, hochmoderne Mikrochip-Produktionslinien, Cloud-Infrastruktur und eine in der jüngeren Geschichte beispiellose Kapitalkonzentration.

Die Zahlen rund um Anthropic sprechen schon für sich: ein Vertrag mit Google über den Zugriff auf bis zu eine Million dedizierte Prozessoren und über ein Gigawatt Rechenleistung; erwartete Investitionen von bis zu fünfzehn Milliarden Dollar von Nvidia und Microsoft; dreißig Milliarden Dollar für Rechenkapazität, die auf Azure erworben wurden; ein Börsengang, der für Herbst 2026 angekündigt wurde.

Künstliche Intelligenz ist kein immaterielles Gebilde: Sie ist Schwerindustrie, sie ist Energie, sie ist Privateigentum, sie ist konzentriertes Kapital und sie ist mittlerweile mit dem Staats- und Militärapparat verschmolzen, wie selbst das Tauziehen zwischen Anthropic und dem Pentagon über den Einsatz ihrer Systeme für interne Überwachung und autonome Waffensysteme gezeigt hat.

Der grundlegende theoretische Fehler besteht also darin, künstliche Intelligenz als autonome Einheit zu betrachten, quasi als eine neue Spezies, die dazu bestimmt ist, mit dem Menschen zu konkurrieren. Es handelt sich um dieselbe Vorgehensweise, die ich andernorts als technologischen Fetischismus bezeichnet habe: Maschinen Handlungsfähigkeit zuzuschreiben, um die Handlungsfähigkeit ihrer Besitzer zu verschleiern.

Nicht der Algorithmus regiert. Jemand regiert durch den Algorithmus. Und dieser Jemand hat einen Namen, einen Firmensitz, einen Vorstand und eine Börsenbewertung.

5. Die Fabrik der Legitimität

Hier kommt das Anthropic Institute ins Spiel. Das am 11. März 2026 angekündigte und dem Mitbegründer Jack Clark anvertraute Zentrum – der mit einem vielsagenden Titel zum „Manager für öffentliches Wohl“ befördert wurde – entstand aus dem Zusammenschluss dreier interner Teams: eines, das die Modelle testet, eines, das ihre sozialen Auswirkungen untersucht, und eines, das ihre wirtschaftlichen und beschäftigungspolitischen Effekte misst.

Führende Wissenschaftler strömten an das Institut – der Ökonom Anton Korinek, beurlaubt von der University of Virginia, Zoë Hitzig von OpenAI und Matt Botvinick, der mit der Leitung der Arbeiten zum Verhältnis von künstlicher Intelligenz und Recht beauftragt wurde – und nun gesellt sich Jones hinzu. Das Institut beansprucht offen ein Privileg: Zugang zu „ Informationen, die nur die Entwickler zukunftsweisender Systeme besitzen “.

Anders ausgedrückt: Das Unternehmen, das die Technologie entwickelt, produziert auch die Daten, mit denen deren Auswirkungen gemessen werden, und – durch seine Wissenschaftler – die Kategorien, mit denen diese Auswirkungen interpretiert, diskutiert und eines Tages reguliert werden. Ökonomen erhalten Fördermittel, Indizes werden veröffentlicht, Narrative konstruiert und akademische Allianzen geschmiedet – wie beispielsweise die mit dem Becker Friedman Institute der Universität Chicago, das die „Claude“-Modelle über zweihundert Ökonomen zugänglich gemacht hat.

All dies kann ohne Weiteres als verantwortungsvolle Forschung präsentiert werden. Es gibt jedoch eine zweite, nicht weniger legitime Interpretation: Die Unternehmen, die die Infrastruktur kontrollieren, werden gleichzeitig zu den Haupttreibern des Wandels, den sie selbst herbeiführen.

Das ist nichts Neues in der Geschichte des Kapitalismus. Die großen Zentren wirtschaftlicher Macht haben nie bloß Güter produziert: Sie haben Konsens, Wissen und Legitimität geschaffen. Das ist Gramscis Lehre über Hegemonie: Herrschaft beruht nicht allein auf Gewalt, sondern auf der Fähigkeit, die bestehende Ordnung als natürlich, vernünftig, ja sogar tugendhaft erscheinen zu lassen.

Die entscheidende Frage ist daher nicht, ob Anthropic in gutem oder bösem Glauben handelt; es ist eine strukturelle, keine moralische Frage. Kann ein privates Unternehmen gleichzeitig die Technologie entwickeln, die Daten zur Messung ihrer Auswirkungen erheben und die Theorien erstellen, anhand derer sie beurteilt werden soll?

Wer Fabrik, Labor und Gerichtssaal gleichzeitig kontrolliert, braucht nicht zu lügen: Er muss lediglich die Verfahrensregeln festlegen.

6. Wessen Wachstum?

Einer der aufschlussreichsten Aspekte von Jones’ Arbeit betrifft das Wachstum. Die implizite Frage lautet stets: Wenn künstliche Intelligenz die Produktivität steigert, wer profitiert dann von diesem Anstieg? Hier zeigen sich die Grenzen des vorherrschenden Ansatzes, der Wachstum als aggregierte Größe betrachtet, als eine Art Flut, die alle mitnimmt. Die Geschichte lehrt uns etwas anderes. Wachstum ist niemals neutral: Entscheidend ist, wer es kontrolliert, wer davon profitiert und wie es verteilt wird.

In den vergangenen vierzig Jahren haben wir einen außerordentlichen Produktivitätsanstieg erlebt, der mit einer zunehmenden Konzentration des Reichtums und stagnierenden Reallöhnen einherging. Es gibt kein Naturgesetz, das technologischen Fortschritt automatisch in kollektives Wohlergehen umwandelt; ohne politische Maßnahmen verstärkt der Fortschritt tendenziell bestehende Ungleichheiten.

Künstliche Intelligenz bildet da keine Ausnahme. Bleibt die Infrastruktur in den Händen weniger privater Unternehmen, wird das durch KI generierte Wachstum vor allem zu Monopolrenten, weiterer Kapitalkonzentration und einem neuen Machtungleichgewicht zwischen Arbeitnehmern und Maschinenbesitzern führen. Die Frage ist daher nicht, wie stark die Wirtschaft wachsen wird, sondern wer dieses Wachstum kontrollieren wird.

7. Die falsche Alternative

Der öffentliche Diskurs bietet uns eine verzerrte Alternative. Auf der einen Seite die Begeisterung für Technologie, die Überfluss und Erlösung verspricht; auf der anderen die Angst vor Superintelligenz, die die Apokalypse heraufbeschwört. Sie scheinen gegensätzlich, doch sie teilen dieselbe Prämisse: Sie betrachten Technologie als Subjekt der Geschichte, als Akteur, der über sein eigenes und unser Schicksal entscheidet. Es ist eine verzerrte Perspektive.

Das Thema bleibt Politik. Nicht die künstliche Intelligenz entscheidet über ihre Verwendung, sondern Menschen, Institutionen, Machtverhältnisse und Eigentumsverhältnisse.

Deshalb ist die entscheidende Frage nicht, ob KI intelligent genug wird, um uns zu ersetzen. Sie lautet vielmehr, ob demokratische Gesellschaften klug – und mutig – genug sein werden, sie zu steuern, anstatt sie vorgefertigt einigen wenigen Privatunternehmen und ihren Aktionären zu überlassen. Es geht nicht um das Bewusstsein von Maschinen, sondern um die Souveränität der Menschen.

8. Von existenziellem Risiko zu sozialem Konflikt

Charles Jones wirft auf seine Weise eine wichtige Frage auf. Doch er formuliert sie falsch. Die eigentliche Frage ist nicht, wie viel Artensterben wir im Austausch für enormes Wachstum in Kauf nehmen wollen. Die eigentliche Frage ist, warum eine Technologie, die auf kollektivem Wissen, öffentlichen Geldern, jahrzehntelanger staatlich finanzierter Forschung und Daten aus dem Leben von Milliarden von Menschen basiert, letztendlich unter die Kontrolle einer immer kleiner werdenden Anzahl privater Eigentümer geraten muss.

Künstliche Intelligenz ist kein Schicksal. Sie ist keine Gottheit. Sie ist keine Naturgewalt. Sie ist ein Produkt der Geschichte, und wie jedes Produkt der Geschichte trägt sie die Spuren der Machtverhältnisse, die sie hervorgebracht haben. Deshalb sollte die Debatte nicht mit der Frage „Wie intelligent ist die Maschine?“ beginnen, sondern mit einer viel älteren und viel politischeren Frage: Wem gehört die Maschine?

Die Antwort auf diese Frage entscheidet darüber, wer gewinnt und wer verliert, wer herrscht und wer gehorcht, welche Zukunft möglich ist und welche von vornherein ausgeschlossen ist.

Die Alternative existiert und hat einen Namen: öffentliche technologische Souveränität. Sie bedeutet, Computerinfrastruktur, Daten und Modelle aus dem privaten Monopol zu befreien und sie wieder einer demokratischen, transparenten und kollektiven Kontrolle zu unterstellen.

Es bedeutet, gemeinsam zu entscheiden – nicht in den Vorstandsetagen des Silicon Valley oder anhand von Nutzenfunktionen der Ökonomen –, wozu diese Macht dient und wem sie zugutekommen soll.

Die Zukunft der künstlichen Intelligenz spielt sich nicht in den Laboren von San Francisco ab. Sie entfaltet sich im uralten und sich stetig wandelnden Konflikt zwischen denen, die Macht konzentrieren, und denen, die für deren Demokratisierung kämpfen. Dort, und nirgendwo sonst, wird die Entscheidung fallen, ob diese Technologie ein weiteres Instrument der Herrschaft oder letztlich ein Gemeinwohl sein wird.

Quellen

• Charles I. Jones, Das KI-Dilemma: Wachstum versus Existenzrisiko, NBER Working Paper Nr. 31837, 2023; American Economic Review: Insights, Bd. 6, Nr. 4, Dezember 2024.
• Anthropic, Vorstellung des Anthropic Institute, offizielle Erklärung, 11. März 2026.
• Anthropic kündigt Denkfabrik zur Untersuchung der Auswirkungen von KI auf Wirtschaft und Gesellschaft an, CIO, März 2026.
• Anthropic gründet Institut zur Untersuchung der Auswirkungen von KI auf Arbeitsplätze, Sicherheit und Gesellschaft, eWeek, März 2026.
• Anthropic engagiert den Stanford-Ökonomen Chad Jones zur Bewertung der KI-Risiken, CryptoBriefing, Juni 2026.
• Becker Friedman Institute for Economics, University of Chicago, Pressemitteilung zur Partnerschaft mit Anthropic, 2025.
• American Enterprise Institute, Wie ein Ökonom über das KI-Dilemma nachdenkt: Wachstum vs. Existenzielles Risiko, 2023.
• Eintrag „Anthropologie“, Wikipedia (Daten zu Bewertung, Infrastrukturvereinbarungen und Rechtsstreitigkeiten mit dem Verteidigungsministerium, 2025–2026)

Anzeige:

Reisen aller Art, aber nicht von der Stange, sondern maßgeschneidert und mit Persönlichkeiten – auch Bildungs- und Studienreisen mit Themen aus Politik, Wirtschaft (Politische Ökonomie und Geopolitik) und Geschichte und so weiter und so fort in einer Welt im (Wirtschafts-)Krieg, zudem kulturelle und kulinarische Reisen auf der Suche nach dem Wahren, Schönen und Guten –, bietet Retroreisen an. Bei Retroreisen wird kein Etikettenschwindel betrieben, sondern die Begriffe Sustainability, Fair Travel und Slow Food werden großgeschrieben.