Was KI wirklich ist (und was nicht)

Serie: KI-Governance für kommunale Führungspersönlichkeiten - Verstehen Village AI für Treuhänder, Ratsmitglieder und Vorstandsmitglieder (Artikel 1 von 5) Autor: My Digital Sovereignty Ltd Datum: Juni 2026 Lizenz: CC BY 4.0 International

AI Changed While You Were Deliberating

Sie haben sicher schon einmal gehört, dass künstliche Intelligenz den öffentlichen Dienst, die kommunale Verwaltung und die Arbeitsweise von Organisationen verändern wird. Vielleicht sind Sie aber auch schon auf Behauptungen gestoßen, dass die künstliche Intelligenz überbewertet wird oder dass sie nichts wirklich Neues leisten kann. Beide Positionen gehen an der Sache vorbei, und wenn man versteht, warum, kann man bessere Governance-Entscheidungen treffen.

Es gibt jedoch einen wichtigen Punkt, den jeder Vorstand oder Rat beachten sollte: Die künstliche Intelligenz hat sich selbst in dem Zeitraum, in dem die Organisationen über ihre Einführung debattiert haben, wesentlich verändert.

Vor einem Jahr meinten die meisten Leute, wenn sie "KI" sagten, einen Chatbot - ein System, dem man eine Frage stellte und das einen Text zurückgab. Sie fragten, es antwortete. Heute hat sich der Schwerpunkt verschoben. Die Systeme, die die meiste Aufmerksamkeit und Investitionen auf sich ziehen, sind nicht mehr nur Chatbots, die antworten. Sie sind Agenten, die handeln - sie füllen Formulare aus, senden Mitteilungen, browsen und tätigen Transaktionen im Internet, bedienen andere Software und verfolgen mehrstufige Ziele mit begrenzter Überwachung.

Dieser Wandel ist das Wichtigste, was ein Leitungsorgan verstehen muss, denn er verändert das Risikoprofil der Einführung. Um heute über KI nachzudenken, sollten Sie zwei Ideen auseinanderhalten:

• Die Maschine - das zugrunde liegende Modell, die Komponente, die Sprache produziert.
• Der Agent - der Motor, der so konfiguriert ist, dass er im Namen des Unternehmens in der Welt agieren kann.

Der Motor ist leistungsfähiger geworden. Aber die konsequente Veränderung für jede Einrichtung mit einer Sorgfaltspflicht ist das, was jetzt um die Maschine herum aufgebaut wird. Wir gehen der Reihe nach vor.

Der Motor: Eine Maschine, die vorhersagt

Hier ist die einfachste Beschreibung dessen, was die Maschine tut: Sie sagt voraus, welches Wort als nächstes kommen sollte.

Wenn jemand eine Anfrage in einen Chatbot eintippt, denkt das System nicht über die Anfrage nach, so wie ein Ratsmitglied oder ein Treuhänder über eine Sitzungsvorlage nachdenken würde. Es macht etwas eher Mechanisches. Ihm wurden Milliarden von Textseiten gezeigt - Gesetze, Berichte, Korrespondenz, technische Unterlagen, Nachrichtenartikel, soziale Medien, medizinische Literatur - und aus all diesem Material hat es Muster gelernt. Wenn Sie ihm eine Frage stellen, generiert er eine Antwort, indem er Wort für Wort vorhersagt, wie eine plausible Antwort auf der Grundlage all dessen, was er zuvor verarbeitet hat, aussehen könnte.

Das ist wirklich nützlich. Ein System, das die Muster von Milliarden von Textseiten verinnerlicht hat, kann dabei helfen, Korrespondenz zu verfassen, lange Dokumente zusammenzufassen, sachliche Fragen zu beantworten oder Vorschläge für die Formulierung einer heiklen Mitteilung zu machen. Das sind echte Fähigkeiten, und sie können den Verwaltungsaufwand verringern.

Aber im Kern führt die Maschine den Musterabgleich in einem außergewöhnlichen Umfang durch. Diese Tatsache erklärt sowohl ihren beträchtlichen Nutzen als auch die charakteristische Art und Weise, wie sie versagt - ein wiederkehrendes Thema in dieser Serie.

Kann die Engine vernünftig sein?

Es gibt eine tiefer gehende Frage, die Forscher aktiv untersuchen, und die einfache Antwort lautet: Wir wissen es noch nicht.

Als frühe KI-Systeme flüssige Texte produzierten, war es vernünftig, sie als hochentwickelte Mustererkennung zu bezeichnen und es dabei zu belassen. Eine neuere Generation von Maschinen - oft als "schlussfolgernde" oder "denkende" Modelle bezeichnet - macht jedoch etwas anderes. Anstatt sofort zu antworten, arbeitet sie sich schrittweise durch ein Problem, indem sie eine sichtbare Kette von Zwischenüberlegungen anstellt, bevor sie sich auf eine Antwort festlegt, und sich bei schwierigeren Problemen mehr Zeit nimmt. Die Ergebnisse können verblüffend sein: Im Jahr 2025 lösten logisch denkende Systeme aus mehr als einem großen Labor Probleme der Internationalen Mathematik-Olympiade - einem der härtesten Mathematikwettbewerbe der Welt - auf einem Niveau, das dem eines menschlichen Goldmedaillengewinners entspricht.

Ist das nun logisches Denken oder sehr ausgeklügeltes Mustervergleichen, das dem logischen Denken ähnelt?

Die Forschung ist sich nicht ganz einig, und seriöse Forscher sind sich nicht einig. In einer einflussreichen Studie aus dem Jahr 2025 wurde behauptet, dass diese Systeme eine "Illusion des Denkens" aufweisen - sie scheitern an bestimmten Rätseln in einer Weise, wie es ein echter Denker nicht tun würde. Mehrere ebenso seriöse Antworten behaupten das Gegenteil. Das sorgfältigste aktuelle Urteil lautet, dass die heutigen Denkmodelle weder echte Denker noch bloße Papageien sind - sie sind etwas wirklich Neues, das noch nicht vollständig verstanden wird. Jeder, der Ihnen sagt, dass KI definitiv denken kann oder nicht, übertreibt, was die Beweise belegen.

Eine Erkenntnis ist von unmittelbarer Relevanz für die Staatsführung und kann leicht missverstanden werden. Wenn diese Systeme ihr "Denken" zeigen, spiegelt diese sichtbare Kette nicht zuverlässig wider, was tatsächlich die Antwort bestimmt hat. Forscher haben wiederholt festgestellt, dass die angegebenen Überlegungen eines Modells die tatsächlichen Einflüsse auf die Schlussfolgerung übersehen können - nicht aufgrund von Unehrlichkeit (das System hat keine Absicht), sondern weil die angezeigten Worte selbst ein vorausgesagter Text sind und nicht die getreue Wiedergabe eines internen Prozesses. Die praktische Konsequenz für ein Kontrollorgan: Man kann seiner Aufsichtspflicht nicht nachkommen, indem man einfach die Erklärung liest, die eine KI für sich selbst liefert. Die Rechenschaftspflicht erfordert die Überprüfung des Outputs anhand der eigenen Aufzeichnungen der Organisation - nicht das Vertrauen in den Selbstbericht des Systems. Wir kommen auf diesen Punkt in Artikel 3 zurück, und er steht in direktem Zusammenhang mit den Erwartungen an das "Recht auf Erklärung" gemäß der DSGVO und dem EU-KI-Gesetz.

Was man mit Sicherheit sagen kann, ist, dass die Entwicklung steil ist. Vor ein paar Jahren konnten diese Systeme kaum einen zusammenhängenden Absatz produzieren. Heute schreiben sie Aufsätze, bestehen Berufsprüfungen, generieren Computercode und agieren zunehmend in der Welt, anstatt sie lediglich zu beschreiben. In wenigen Jahren werden die Fähigkeiten wieder größer sein.

"KI kann nichts Neues" - Es kommt darauf an, was man unter "neu" versteht

Menschen, die die KI mit der Behauptung abtun, sie könne nichts Neues schaffen, stellen eine Behauptung auf, die im engeren Sinne wahr und im weiteren Sinne irreführend ist.

Ein Sprachmodell kann nicht aus Erfahrung entstehen. Es hat noch nie an einer öffentlichen Anhörung teilgenommen, bei der die Einwohner verärgert waren. Es hat noch nie das Gewicht einer Finanzierungsentscheidung gespürt, die das Wohlergehen einer Gemeinschaft betrifft. Es kann nicht verstehen, warum der genaue Wortlaut eines Ratsbeschlusses wichtig ist - es kann nur Muster reproduzieren, die statistisch gesehen dem Verständnis ähneln. In diesem Sinne ist alles, was sie produziert, eine Rekombination des in der Ausbildung aufgenommenen Materials.

Aber bedenken Sie, was "Rekombination" in diesem Maßstab bedeutet. Keine einzelne Person hat alle Gesetze der Kommunalverwaltung, alle Jahresberichte von Bürgerstiftungen, alle akademischen Abhandlungen über partizipatives Regieren und alle Folgenabschätzungen von Rechtsvorschriften des letzten Jahrzehnts gelesen. Wenn die KI eine Verbindung zwischen der Theorie der polyzentrischen Governance und der Praxis der Gemeindeentwicklung herstellt, kann diese Verbindung für jeden einzelnen Leser wirklich neu sein, auch wenn beide Ideen getrennt voneinander existieren. Die Atome sind nicht neu, aber die Moleküle schon.

Die Aussage "KI kann nichts Neues machen" ist also auf der Ebene der Entstehung richtig und auf der Ebene der Synthese falsch. Beides ist wichtig, und ein verantwortungsvoller Umgang mit dieser Technologie erfordert beides.

Vom Antworten zum Handeln: Der Agent

Dies ist die Veränderung, die sich am stärksten auf die Governance auswirkt.

Während des größten Teils der Chatbot-Ära war das Schlimmste, was eine KI direkt tun konnte, eine schlechte Antwort zu geben. Der Schaden trat nur dann ein, wenn ein Mensch danach handelte - den irreführenden Brief verschickte, sich auf die falsche Zahl verließ, den fehlerhaften Rat weiterleitete. Ein Mensch stand immer zwischen der Maschine und den Folgen.

Durch einen Agenten wird dieser Mensch aus dem Kreislauf herausgenommen, und zwar absichtlich.

Ein KI-Agent ist eine Maschine, die in etwas eingepackt ist, das Forscher als "Gerüst" bezeichnen - einen Speicher, um eine Aufgabe zu verfolgen, Zugang zu einem Webbrowser, die Fähigkeit, Software und andere Werkzeuge zu bedienen, und ein in einfacher Sprache ausgedrücktes Ziel. Mit diesem Gerüst verfolgt das System das Ziel in vielen Schritten mit viel weniger Überwachung: Es sucht, entscheidet, handelt, prüft und handelt wieder. Ein Chatbot antwortet. Ein Agent handelt.

Für ein Gremium ändert sich genau an dieser Stelle die Risikobewertung. Wenn ein System autonom handelt, gibt es weniger Punkte, an denen ein Mensch eingreifen kann; einige Handlungen können nicht rückgängig gemacht werden; und wenn ein Agent im Namen der Organisation handelt und das Ergebnis falsch ist, wird es wirklich schwierig, die Verantwortlichkeit zuzuweisen - zwischen dem Beamten, der das Ziel festgelegt hat, dem Anbieter, dessen System die Schritte gewählt hat, und dem Gremium, das dessen Einsatz genehmigt hat. Wissenschaftler beschreiben die daraus resultierende "Verantwortungslücke" und die "moralische Knautschzone", in der die Haftung auf den nächstgelegenen Menschen fällt, obwohl dieser kaum wirkliche Kontrolle hatte. Dies ist kein Zufall der Regulierung: Das Beharren des EU-KI-Gesetzes auf einer sinnvollen menschlichen Aufsicht ist in der Tat eine rechtliche Anforderung, dass dieser Kreislauf nicht geschlossen werden kann, ohne dass eine Person in der Lage ist, einzugreifen. Ein Kontrollorgan, das ein agentenbasiertes System bewertet, bewertet genau das - ob die Aufsicht strukturell ist oder nur versprochen wurde.

Das eigentliche Problem: Wessen Muster und wessen Hände an den Kontrollmechanismen?

An dieser Stelle wird es für Ihre Organisation praktisch.

Wenn eine große KI-Maschine im Internet trainiert wird, übernimmt sie die Vorurteile, Annahmen und kulturellen Vorgaben des Internets. Das Internet ist überwiegend englischsprachig, westlich, kommerziell orientiert und von den Werten der Technologiebranche geprägt. Dies ist keine Verschwörung - es ist einfach das, was passiert, wenn ein System auf Daten trainiert wird, die unverhältnismäßig stark eine Kultur und eine Reihe von Prioritäten repräsentieren.

Die Folgen sind subtil, aber wesentlich. Wenn ein Anwohner eine Anfrage zu einem schwierigen Nachbarschaftsstreit stellt, greift das System auf die Sprache der individuellen Rechte und Rechtsmittel zurück - weil dies seine Trainingsdaten dominiert - und nicht auf Schlichtung, gemeinschaftliche Verpflichtungen oder eine langfristige Perspektive. Wenn ein Beamter der Stadtverwaltung das System bittet, eine Mitteilung über eine heikle Planungsangelegenheit zu verfassen, greift es auf die Sprache des Stakeholder-Managements zurück, da die geschäftliche Korrespondenz die bürgerliche Kommunikation bei weitem übertrifft.

Das System ist nicht feindselig gegenüber bürgerlichen Werten. Es kennt sie einfach nicht. Es weiß, was statistisch gesehen üblich ist, und was statistisch gesehen üblich ist, ist nicht das, was für Ihre Wählerschaft am besten geeignet ist.

In der Chatbot-Ära prägte diese Voreingenommenheit den Text, den ein Beamter überprüfte. In der Ära der Agenten prägt dieselbe Voreingenommenheit die Handlungen, die im Namen der Organisation vorgenommen werden - gesendete Mitteilungen, abgelegte Unterlagen, eingegangene Verpflichtungen - potenziell, bevor ein Beamter sie überprüft. Die Frage der Governance hat nun also zwei Hälften: Wessen Muster trägt das System, und wer hat die Kontrolle, wenn es handelt?

Warum dies für Governance-Organe wichtig ist

Niemand weiß mit Sicherheit, was passiert, wenn ein KI-System jemals etwas entwickelt, das seinen eigenen Absichten ähnelt - Absichten, die möglicherweise nicht mit den Interessen der Gemeinschaften übereinstimmen, denen es dient. Wir sind wahrscheinlich noch weit von dieser Schwelle entfernt. Aber die jetzt gewählte Architektur und die heute etablierten Governance-Gewohnheiten werden darüber entscheiden, ob eine Organisation darauf vorbereitet ist oder ob sie zu spät feststellt, dass sie die Kontrolle abgegeben hat, ohne es zu merken.

Dies ist keine Spekulation. Es ist eine einfache Feststellung über die institutionelle Bereitschaft. Ihr Rat hat eine Verfassung. Ihr Vorstand hat eine Geschäftsordnung. Ihre Stiftung hat ein Leitdokument. Diese gibt es nicht, weil jede Sitzung in Unordnung ausartet, sondern weil die Leitungsstrukturen vorhanden sein müssen, bevor sie gebraucht werden, nicht erst danach.

Dasselbe Prinzip gilt für die KI, und das KI-Gesetz der EU (Verordnung 2024/1689) spiegelt genau diese Logik wider - die Schaffung von Governance-Rahmen, bevor die Technologie die Regulierungskapazität übersteigt. Mit dem Aufkommen von agentenbasierten Systemen steht mehr auf dem Spiel: Eine Organisation, die KI einsetzt, die handelt, ohne dass eine strukturelle Aufsicht vorhanden ist, könnte sich nicht in der Lage sehen, für die in ihrem Namen getroffenen Entscheidungen Rechenschaft abzulegen - eine Position, die aus treuhänderischer Sicht unbequem und rechtlich bedenklich ist.

Zwei Wege nach vorn

Es gibt zwei Möglichkeiten, wie eine Organisation mit KI umgehen kann.

Der erste Weg ist der Einsatz von Big-Tech-KI - Systeme wie ChatGPT, Google Gemini oder Microsoft Copilot und zunehmend die darauf aufbauenden Agenten. Diese Systeme sind leistungsstark, praktisch und oft kostengünstig. Aber sie sind an Bedingungen geknüpft. Ihre Daten fließen auf deren Server. Ihre Kommunikation - und nun auch die Aktionen Ihres Agenten - laufen über Systeme, die Sie nicht kontrollieren können. Das Verhalten der KI unterliegt den Richtlinien des Unternehmens, die sich ohne Ihre Zustimmung ändern können. Und die Muster, die sie trägt, werden durch ihre Trainingsdaten festgelegt, auf die Sie keinen Einfluss haben. Gemäß der Datenschutz-Grundverordnung wirft dies Fragen der Datenkontrolle, der Rechtsgrundlage für die Verarbeitung und des Rechts auf Erklärung auf, die jedes Leitungsorgan vor der Einführung klären sollte - Fragen, die sich verschärfen und nicht abschwächen, wenn das System eigenständig handelt.

Der zweite Weg ist der Einsatz von KI, die von Ihrer Organisation kontrolliert wird. Ein gezielteres System, das auf Ihre Inhalte trainiert ist, auf einer Infrastruktur in Ihrem Zuständigkeitsbereich läuft und den Regeln unterliegt, die Ihr Vorstand oder Rat festlegt. Ein System, das den Unterschied zwischen einem Ratsprotokoll und einem Blogeintrag kennt, weil die Aufzeichnungen Ihrer Organisation es lehren. Ein System, dessen Antworten durch Verifizierungsschichten, die unabhängig von der KI arbeiten, mit Ihren tatsächlichen Dokumenten abgeglichen werden - und dessen Fähigkeit zu handeln bewusst begrenzt ist, so dass ein Mensch, der Ihren Wählern gegenüber verantwortlich ist, immer in der Lage ist, einzugreifen.

Das ist es, was Village AI ist. Es ist nicht das leistungsfähigste KI-System auf dem Markt. Es ist so konzipiert, dass es gegenüber Ihrer Gemeinschaft rechenschaftspflichtig ist - gegenüber Ihren Inhalten, Ihren Werten und Ihrem Governance-Rahmen - und dass die Autorität bei den Menschen verbleibt, die sie innehaben, wenn die KI vom Antworten zum Handeln übergeht.

Der nächste Artikel erklärt, wie Village AI sich strukturell von Big Tech AI unterscheidet und warum dieser Unterschied wichtiger ist als die reine Leistung.

Dies ist Artikel 1 von 5 in der Reihe "KI-Governance für Community-Führungskräfte". Die vollständige technische Architektur finden Sie unter Village AI - Agentic Governance.

Weiter: Big Tech AI vs. Community-Governed AI - Warum der Unterschied wichtig ist