Irgendwo in diesem Moment sitzt jemand in einem Wartezimmer. Nicht vor einem Arzt, sondern vor einem Bildschirm. Ein Algorithmus hat die Bilder gelesen, Muster erkannt, Wahrscheinlichkeiten berechnet. Die Diagnose erscheint als saubere Zahl, als Risiko, als Empfehlung. Kein Gesicht. Keine Stimme, die zögert. Kein Blick, der kurz den Raum sucht, bevor er spricht.
Trotzdem wird der Satz gelsen, als hätte ihn jemand mit Autorität gesprochen.
Niklas Luhmann hat zwischen persönlichem Vertrauen und Systemvertrauen unterschieden. Das eine braucht Begegnung, Wiederholung, ein Gesicht, das du kennst. Das andere braucht eine Funktion. Du steigst in ein Flugzeug, ohne den Piloten zu kennen und überweist Geld, ohne je einen Bankangestellten zu sehen, weil du nicht einer Person vertraust, sondern dem Umstand, dass das System irgendwie hält, solange es hält.
Künstliche Intelligenz macht dieses Systemvertrauen alltagstauglich und zugleich unsichtbar. In der Medizin liest sie Röntgenbilder, sortiert Befunde und schlägt Therapien vor. In Gerichts- und Verwaltungsverfahren bewertet sie Akten, berechnet Rückfallrisiken und priorisiert Fälle. Die Entscheidung kommt nicht mehr mit einem Namen daher, sondern als Output.
Anthony Giddens hat das Gefühl beschrieben, das moderne Gesellschaften zusammenhält, jene ontologische Sicherheit, das leise und meist unbemerkte Vertrauen, dass die Welt morgen noch ungefähr so funktioniert wie heute. Expertensysteme waren dafür zentral. Ärzte, Richter, Beamte. Menschen, die stellvertretend für ein Wissen standen, das du selbst nicht hast.
Jetzt tritt an ihre Stelle etwas, das Wissen simuliert, ohne Person zu sein.
Das verändert nicht nur die Technik der Entscheidung, sondern die Form der Autorität selbst. Ein Arzt kann irren und trotzdem tragen. Ein Richter kann zweifeln und trotzdem urteilen. Ein System irrt anders, weil es selten begründet, sich selten erklärt und ein Ergebnis liefert, das dir nur noch die Frage überlässt, ob du ihm folgen willst oder ob du überhaupt noch eine echte Alternative hast.
Aber wer haftet, wenn die Diagnose falsch war? Wer trägt die Verantwortung, wenn ein automatisiertes Verfahren einen Fall vorsortiert und der Mensch am Ende nur noch abnickt? Systemvertrauen funktioniert, solange niemand genauer nachfragt, wie das System eigentlich entscheidet. Sobald du nachfragst, zeigt sich die Leere hinter der Autorität, in der es weder Körper noch Zweifel noch Scham gibt.
Viele empfinden das als Entlastung, als endlich eine Entscheidung ohne Laune, ohne Vorurteil, ohne den müden Nachmittag. Andere spüren den Verlust. Nicht den Verlust von Genauigkeit, denn oft ist das System präziser, sondern den Verlust einer Stelle, an die sich Widerspruch, Bitte oder Zweifel überhaupt noch richten lassen. Einem Gesicht kannst du widersprechen. Einem Score begegnest du anders, oder du begegnest ihm gar nicht mehr.
Luhmann würde vermutlich nüchtern feststellen, dass das System lediglich seine Funktion erfüllt hat. Giddens dagegen würde fragen, was mit unserer Sicherheit passiert, wenn die Experten verschwinden und nur noch die Expertise bleibt – anonym und geschlossen wie eine Black Box.
Was bleibt von Autorität, wenn niemand mehr da ist, dem man sie zuschreiben kann?
Hinweis: Das Beitragsbild in diesem Artikel wurde mit Gemini generiert.