KI ist die zweite soziale Frage

Papst Leo XIV hat mit Magnifica Humanitas eine Enzyklika über Künstliche Intelligenz veröffentlicht. Das wäre nur eine weitere Stimme in der KI-Debatte, wenn er die Sache nicht ausdrücklich in eine ältere Reihe stellen würde: Leo XIII, Rerum Novarum, 1891, Kapital und Arbeit. Schon seine Namenswahl als Papst hat darauf hingedeutet.

Damit steht KI hier nicht einfach neben den üblichen Tool-Fragen. Sie steht neben der alten sozialen Frage: Wer gewinnt Macht, wer verliert Schutz, und wer trägt die Folgen?

Leo XIII schrieb damals über die Verwerfungen der Industrialisierung: neue Machtverhältnisse zwischen Besitzenden, Arbeitenden und Staat, neue Abhängigkeiten, neue Klassen, neue politische Bewegungen. Die erste industrielle Revolution hatte nicht nur Maschinen hervorgebracht. Sie hatte Gesellschaften neu sortiert.

Am Ende waren diese Verwerfungen nicht nur Sozialgeschichte. Sie wurden Teil des Bodens, auf dem die größten Kriege der Menschheit wachsen konnten. Nicht allein, natürlich. Geschichte ist selten so ordentlich. Aber industrielle Macht, Massenarbeit, Nationalstaat, Imperialismus, Klassenkonflikt und technischer Fortschrittsglaube bildeten eine ziemlich brennbare Mischung.

Genau deshalb ist die Leo-XIII-Anspielung schärfer, als sie vielleicht auf den ersten Blick wirken mag.

Die neue soziale Frage heißt nicht mehr nur Lohnarbeit gegen Kapital. Sie heißt Daten, Rechenleistung, Modellzugang, Plattformmacht, Automatisierung und die Frage, wer noch widersprechen kann, wenn eine Entscheidung technisch aussieht.

Die Enzyklika formuliert das erstaunlich direkt. KI sei nie nur eine technische Angelegenheit, sobald sie in Prozesse eingreift, die über Rechte, Chancen, Status und Freiheit entscheiden. Ein System, das Bewerbungen sortiert, Kredite bewertet, Leistungen zuteilt oder Reputation misst, ist kein neutrales Werkzeug. Es trägt Annahmen darüber in die Welt, was zählt, was ignoriert wird und wer als Risiko gilt.

Das ist der stärkste Punkt des Textes: Die Frage ist nicht nur, ob KI richtig funktioniert. Die Frage ist, welche Gesellschaftslogik sie stabilisiert, wenn sie richtig funktioniert.

Viele Unternehmen reden bei KI-Governance noch so, als ginge es primär um Fehlerraten, Datenschutz und Freigabeprozesse. Das ist nicht falsch. Es ist nur zu klein. Bias klingt wie ein Fehler im Datensatz. Halluzination klingt wie ein Fehler im Output. Fehlende Transparenz klingt wie ein Problem für die Dokumentation.

Die Enzyklika geht eine Ebene tiefer. Sie fragt nach Macht.

Wer Daten besitzt, wer Infrastruktur kontrolliert, wer Modelle trainieren kann, wer Standards setzt und wer die finanziellen Mittel hat, diese Systeme großflächig einzusetzen, baut nicht nur Software. Er baut Default-Wirklichkeit. Was früher Gesetz, Prozess oder Führungsentscheidung war, kann nun als Modellantwort, Scoring, Ranking oder automatisierter Vorschlag erscheinen.

Das macht Entscheidungen nicht automatisch schlechter. Aber es macht sie schwerer angreifbar.

Ein schlechter Manager kann Widerspruch bekommen. Ein schlechter Prozess kann sichtbar gemacht werden. Eine schlechte Regel kann politisch diskutiert werden. Ein Modell, das auf tausend Signalen eine scheinbar objektive Empfehlung ausspuckt, hat eine andere Aura. Man widerspricht nicht mehr einer Person. Man widerspricht dem System.

Und Systeme haben in Organisationen einen unfairen Vorteil: Sie wirken immer ein bisschen vernünftiger als Menschen.

Der zweite starke Gedanke betrifft simulierte Menschlichkeit. Leo XIV schreibt über die Leichtigkeit von Antworten, den Eindruck von Objektivität und die Imitation menschlicher Kommunikation. KI kann Rat, Empathie, Fürsorge und Nähe sprachlich nachbauen. Das heißt nicht, dass sie diese Dinge besitzt. Aber Sprache reicht oft, damit Menschen ihr mehr zuschreiben, als da ist.

Das ist nicht nur ein Problem für einsame Nutzer in Chatbots. Es ist auch ein Managementproblem. Ein sauber formulierter KI-Report kann Urteil simulieren. Eine automatisch erzeugte Empfehlung kann Verantwortung simulieren. Ein Executive Summary kann Verständnis simulieren. Je besser die Simulation wird, desto leichter fällt es, das fehlende menschliche Urteil nicht mehr zu vermissen.

Hier trifft die Enzyklika einen Nerv, den Unternehmen ungern anfassen. KI nimmt nicht nur Arbeit ab. Sie verschiebt Zurechnung. Wenn eine Entscheidung gut ausgeht, war man innovativ. Wenn sie schlecht ausgeht, war es der Prozess, das Tool, der Anbieter, der Prompt, der Datensatz.

Das ist praktisch. Und gefährlich.

Denn die gesellschaftliche Lage ist nicht stabiler als 1891. In vielen westlichen und nördlichen Gesellschaften wächst die Vermögenskonzentration. Der Gini-Koeffizient ist kein Naturgesetz, aber er zeigt eine Richtung. Demokratie-Barometer, Vertrauensumfragen und Polarisierungsbefunde zeigen ebenfalls keine gemütliche Landschaft. Institutionen verlieren Bindekraft, während technische und finanzielle Macht sehr konzentriert wachsen.

In so einer Lage ist eine Technologie, die Macht weiter skaliert, kein neutrales Upgrade.

Man muss dafür keine Maschinenangst haben. Die Enzyklika hat sie auch nicht. Sie ist nicht technikfeindlich. Sie sagt nicht: Schaltet das ab. Sie sagt eher: Verwechselt technische Fähigkeit nicht mit dem Recht zu regieren.

Das ist der Kern von „disarming AI“. Nicht KI verbieten. Sondern ihr die Logik von Wettlauf, Dominanz und Alternativlosigkeit nehmen. Das ist etwas anderes als Compliance. Regulierung fragt: Was darf das System? Entwaffnung fragt: Welche Machtform soll es nicht normalisieren?

Für Unternehmen ist das unbequem, weil es die Frage verschiebt.

Nicht: Haben wir eine KI-Policy?

Sondern: Welche Entscheidungen haben wir an Systeme abgegeben, ohne neu zu klären, wer dafür politisch, fachlich und menschlich verantwortlich bleibt?

Vielleicht ist das die eigentliche Qualität dieses Dokuments. Eine alte Institution denkt langsam genug, um Geschwindigkeit nicht automatisch für Fortschritt zu halten. Das ist nicht immer angenehm. Aber in einer Zeit, in der fast jeder Fortschrittsbegriff nach Kapitalbedarf, GPU-Zugang und Plattformstrategie riecht, ist ein langsamer Widerspruch kein schlechter Dienst.

Die erste industrielle Revolution hat gezeigt, dass Technik Gesellschaft nicht einfach modernisiert. Sie sortiert sie neu. Manchmal produktiv. Manchmal brutal.

Die zweite soziale Frage beginnt deshalb nicht bei der Frage, welches Modell besser ist. Sie beginnt dort, wo technische Systeme Menschen sortieren, Verantwortung verschieben und Macht konzentrieren, während Unternehmen so tun, als sei das alles nur Tool-Einführung.