KI 2026: Soziale Halluzination und Kontrollverlust?

Einige Thesen zu Herausforderungen, Chancen und Ambivalenzen

1. Der unbestreitbare Nutzen der KI als einer neuen Alltagstechnik und als Werkzeug der Effizienzsteigerung blendet einige ihrer dunklen Schatten und ungelösten Ambivalenzen aus. Dazu gehören der Umgang mit Eigentum, die Einhegung von Datenmacht, generell der Umgang mit ethischen Werten und deren Missbrauch, aber auch der Einsatz von KI als militärischer Waffe zur Erzielung von Überlegenheit in den Machtkämpfen zwischen Staaten, Gesellschaften und Unternehmen.
2. Zu jeder neuen Technik gehören Regulierungsschübe wie etwa Geschwindigkeitsregelungen für Kraftfahrzeuge. Die rasante Geschwindigkeit der KI-Entwicklung führt aber in besonderem Maße zu einem regulatorischen Paradox. Dieses besteht darin, dass Regulierung nötig erscheint, aber nur mit einem Zeitverzug zu haben ist. Das digitale Regulierungsparadox rund um KI lautet daher: Regulierung ist nötig, aber sie kommt stets zu früh oder zu spät, und sie ist im Licht weiterer Entwicklungen stets zu streng oder zu lax.
3. KI-Regulierung muss daher als ein kollektiver und globaler Lern- und Suchprozess begriffen werden. Die Balance zwischen der Suche nach raschem Fortschritt und deren Verhinderung durch überstrenge Auflagen einerseits und der ungebremsten Anwendung mit teilweise ganz erheblichen sozialen und politischen Folgen wird die Agenda der globalen Community in den nächsten 10-20 Jahren bestimmen. In diesem Zusammenhang wird es von entscheidender Bedeutung sein, sich auf gemeinsame ethische Werte und Mindeststandards zu einigen, auch unter Berücksichtigung der Erfahrungen aus der Inspiration religiöser Traditionen und von Initiativen wie den globalen Weltethos-Werten.
4. Die erhebliche Leistungsfähigkeit von Large Language Modellen wie ChatGPT, Claude, Perplexity und anderen führt zu alltagstauglichen kognitiven Abkürzungen, die das Leben erheblich erleichtern. Ihre Kehrseite ist ein schleichender Verlust kognitiver Leistungsfähigkeit im Sinn von „cognitive deskilling“, weil der Aufwand eigenen Lernens im Verhältnis zu raschen KI-Antworten unverhältnismäßig hoch erscheint. Dies gilt beispielsweise beim Erlernen von Fremdsprachen und beim Aufwand von Zeit für komplexe persönliche Lernprozesse. Neben der kognitiven Kompetenzsimulation findet auch eine Entwertung professioneller Fähigkeiten statt, weil beispielsweise die Lösung von Programmieraufgaben kein jahrelanges Training, sondern „nur“ einige wenige Eingabebefehle benötigt. Für die Zukunft bedeutet dies aber: Kritische KI-Kompetenz wird immer stärker zur Fähigkeit kritischer Distanzierung vor den möglichen Verzerrungen von KI-Tools, denen keine falsche Normativität zukommen sollte.
5. Über das kognitive De-Skilling hinaus kommt eine emotionale Schlagseite in den Blick. Denn die emotionale Alltagstauglichkeit von KI in der Anwendung als persönlicher Freund, als Therapeut und Lebensbegleiter kann als Folgewirkung den Verlust ethischer Urteilskraft („moral deskilling“) nach sich ziehen, weil das Vertrauen in die KI stärker ist als das Vertrauen in fehlbare Mitmenschen. Die Fehlbarkeit der KI wird dabei leicht übersprungen, so dass KI zu einem Artefakt der sozialen Halluzination führt. Dann wird die KI wie ein Mensch wahrgenommen, während reale Menschen zunehmend wie eine defizitäre KI wirken. Die Folge daraus kann eine gesellschaftlich abnehmende Empathiefähigkeit mit einer Zunahme von Einsamkeit und sozial unangepasstem Verhalten sein.
6. Die Verfügbarkeit von KI führt außerdem zu sozialen und politischen Folgefragen des KI-Zugangs. Da auch KI-Unternehmen Geld verdienen müssen, bieten sie frei zugängliche und entgeltliche Premium-Versionen an. Dies führt zu einem Qualitätsunterschied zwischen KI-Leistungsangeboten, mit der naheliegenden Folge eines „social divide“, also einer Kluft zwischen finanziell stärkeren und schwächeren Bevölkerungsgruppen. Im Bereich der Bildung kann diese Art der digitalen Ungleichheit zu starken Verzerrungen führen. Da darüber hinaus die Kaufkraft in unterschiedlichen Ländern erheblich variiert, kann die ökonomische Zugangsschwelle zu KI nicht nur die Kluft zwischen „Arm und Reich“, sondern auch die Kluft zwischen wirtschaftlich starken und ärmeren Ländern verbreitern, mit erheblichen politischen Auswirkungen.
7. Die universelle Verbreitung von KI-Anwendungen wie den Large Language Modellen zieht ungeklärte juristische Folgen nach sich, etwa zum Urheberrecht und zum Recht geistigen Eigentums. Länderübergreifende Gerichte gibt es noch nicht. Die Anwendung geltenden Rechts auf den digitalen Raum geht mit Unsicherheiten und Unklarheiten einher. Gerade die besonders kreativen Menschen in Kunst und Wissenschaft werden de facto enteignet, haben aber keine kollektive Stimme zur weltweiten Durchsetzung ihrer Interessen.
8. Die ökologischen Folgen rasant zunehmender KI-Anwendungen werden häufig übersehen, obwohl der Strom- und Wasserverbrauch für Rechenzentren rasch zunimmt. Angesichts der aktuellen Wasser- und Energiekrise ist transparente Rechenschaft über den Wasser- und Energieverbrauch von KI bei jeder Anwendung einzufordern. Diese ökologische Seite der KI ist auch politisch hoch relevant, weil sie schnell zu einem Teil gesellschaftlicher Verteilungskämpfe geraten kann und bisweilen schon geworden ist.
9. Der Anfangsimpuls zur Herstellung einer KI ist zwangsläufig mit definierten Zielen, Perspektiven und Interessen verbunden. Sowohl in kommerziellen wie auch in öffentlichen Anwendungen gerät dabei oft das Verhältnis von Regel und Ausnahme aus dem Blick. Das Ausblenden von Ausnahmen ist allerdings im Grunde kein KI-Problem, sondern eine Frage der verantwortlichen Programmierung und Steuerung. Denn menschliche und soziale Situationen sind häufig deutlich komplexer als jede KI-Anwendung. Daher ist grundsätzlich eine analoge Fallback-Funktion für Ausnahmen vorzusehen, beispielsweise durch definierte Instanzen der Ausnahmebearbeitung in Firmen und Behörden. Dies gilt auch dann, wenn persönliche Kontakte und Nachfragen teurer sein können.
10. KI verändert das Verhältnis von Menschen zur Technik, weil Menschen sich gegenüber einer scheinbar allwissenden und allmächtigen Technik ohnmächtig statt wirkmächtig empfinden können. Obwohl KI ungeheure Möglichkeiten eröffnet, befördert sie eben auch Ohnmachts- und Frustrationsgefühle, weil KI häufig mit einem Mangel an Selbstwirksamkeitsempfinden einhergeht und die Wahrnehmung einer problematischen Objektivität und Normativität auslöst. Dies gilt nicht nur für Wissensfragen, sondern auch für die Identitätserfahrung und das Selbstbild von Menschen, etwa weil bearbeitete Bilder zu Zweifeln am eigenen Körperbild führen. Noch viel stärker als heute müssen daher Empathie- und Selbstwirksamkeitserfahrungen Teil von Bildung und Erziehung werden.
11. Digitale Sicherheitsfragen werden durch KI und KI-gestützte Verschlüsselungsverfahren auch in Verbindung mit Quantentechnik immer komplexer und teurer. Dies führt zur Privilegierung kleiner Macht-Eliten, die über entsprechende Mittel verfügen, um beispielsweise Satelliten zu steuern, unterschiedliche KI-Modelle gegeneinander antreten zu lassen (AI Battles) oder Zugänge zu Informationen zu steuern. KI-Anwendungen führen daher zu neuen ethischen, sozialen und politischen Fragen.
12. Die Verwendung von KI zur Kriegsführung kann zu einer KI-gestützten Dehumanisierung führen, die weit hinter die Genfer Kriegsrechtskonvention vom 12. August 1949 zurückfällt. Außergerichtliche Hinrichtungen durch die gezielte und KI-gestützte Tötung einzelner Personen wirken ethisch höchst fragwürdig und müssen im Blick auf neue internationale Regulierungen breit erörtert werden, etwa mit dem Ziel der Ausweitung des ABC-Vertrags mit dem Verbot atomarer, biologischer und chemischer Waffen hin zu einem internationalen ABCD-Vertrag, der automatisierte, KI-gestützte Waffen vom Planeten verbannt.
13. KI führt u.a. in der Medizin und Genetik, aber auch in zahlreichen anderen Disziplinen zu einer ungeheuren Wissensexplosion der Menschheit, so dass die Kunst des Navigierens und der bewusste Umgang mit den Grenzen eigenen Wissens (digitale Ignoranzkompetenz) zum Schlüssel für erfolgreiches Leben und Überleben einzelner und großer Gruppen wird. Die Navigation rund um das eigene Nichtwissen wird zu einer Schlüsselfähigkeit der Zukunft, weil Einsicht in eigene Wissensgrenzen kooperatives Verhalten ermöglicht, nicht zuletzt durch die Bitte um Hilfe oder die konkrete Kooperation bei der Erfüllung von Aufgaben. Die Grenzen des eigenen Nichtwissens zu überspringen, kann zu unerkannten und z.T. neuen Risiken führen, weil beispielsweise irreversible Handlungsketten angestoßen werden, die niemand mehr kontrollieren kann.
14. Größere individuelle und kollektive Handlungsmacht und Kontrollverlust durch KI sind zwei Seiten einer Medaille. Sie sprechen dafür, den gesellschaftlichen Suchprozess rund um KI mit starken Elementen zivilgesellschaftlicher Beteiligung zu gestalten. Eine möglichst breite globale Kooperation und Kommunikation legt daher die Ausgestaltung offener KI-Formate für das Zusammenleben in der globalen Zivilgesellschaft nahe, weil nur so die Vielfalt sinnvoller Perspektiven berücksichtigt werden kann. Umgekehrt benötigen wir auf der Ebene der nationalen und der internationalen Politik neue Wege demokratischer Checks and Balances, um eine politische oder kommerzielle Machtkonzentration in wenigen Händen zu vermeiden. Auf internationaler Ebene gehört zur Realisierung dieser Aufgabe die Schaffung gemeinsamer Standards des KI-Zugangs und der KI-Nutzung inklusive eines möglichst durchsetzungsmächtigen internationalen Digitalgerichtshofs. Dazu sind Reformen der internationalen Ordnung nötig, beginnend beispielsweise mit einer EU-eigenen AI-Agency.
15. Nur wenn der beschriebene große gesellschaftliche Lern- und Suchprozess auf menschliche Werte Rücksicht nimmt und so gut wie möglich die Fallstricke dominant asymmetrischer Machtkonzentration rund um KI vermeidet, können wir den Umgang mit KI in einer letztlich menschenfreundlichen Art und Weise im Sinn des humanistischen Imperativs „Nutzt oder schadet eine Applikation der Menschlichkeit?“ (Ulrich Hemel 2020) gestalten!