Big Tech AI vs. Community-Governed AI - Warum der Unterschied wichtig ist

Serie: KI-Governance für kommunale Führungskräfte - Verstehen Village AI für Treuhänder, Ratsmitglieder und Vorstandsmitglieder (Artikel 2 von 5) Autor: My Digital Sovereignty Ltd Datum: Juni 2026 Lizenz: CC BY 4.0 International

Wo Big Tech AI seine Manieren lernt

Stellen Sie sich vor, was passiert, wenn ein System ausschließlich auf das offene Internet trainiert wird - auf Marketingmaterial, auf den Austausch in sozialen Medien und auf Einträge in Enzyklopädien. Das System wäre wortgewandt, in gewissem Sinne umfassend informiert und in der Lage, flüssige Texte zu fast jedem Thema zu verfassen. Aber es hätte eine bestimmte Sicht auf die Welt - kommerziell geprägt, kontrovers, selbstbewusst im Ton, ohne Rücksicht auf die Tiefe. Sie würde wissen, wie man autoritär klingt, ohne unbedingt fundiert zu sein.

So werden in der Praxis die KI-Systeme von Big Tech trainiert.

ChatGPT, Google Gemini und ihre Kollegen werden anhand enormer Textmengen trainiert, die sie aus dem Internet abrufen. Milliarden von Seiten. Das Ergebnis ist ein System, das fast alles besprechen kann - dessen Vorgaben, Annahmen und Instinkte jedoch durch die Überrepräsentation des Internets geprägt sind.

Das Internet überrepräsentiert:

• Englischsprachige Inhalte (und innerhalb des Englischen das amerikanische Englisch)
• Kommerzielle und marketingorientierte Sprache
• Individualistisches Framing ("was ist für dich drin")
• Säkulare therapeutische Sprache für emotionale und ethische Fragen
• Technischer und professioneller Unternehmensdiskurs
• Inhalte aus den letzten zwanzig Jahren, mit begrenzter historischer Tiefe

Das Internet ist unterrepräsentiert:

• Sprache der bürgerlichen und kommunalen Verwaltung
• Traditionen der kommunalen Entscheidungsfindung
• Rahmen der öffentlichen Rechenschaftspflicht
• Deliberative demokratische Praxis
• Die operative Realität kleiner, verwurzelter Gemeinschaftsorganisationen
• Die aktuellen Aufzeichnungen, Protokolle und Entscheidungen Ihrer Organisation

Wenn ein Wähler eine Anfrage zu einem Ratsbeschluss stellt und eine Big-Tech-KI bei der Abfassung der Antwort hilft, greift sie auf die Sprache der Unternehmenskommunikation zurück - nicht, weil sie diese für angemessen hält, sondern weil dies die vorherrschende Sprache in ihren Trainingsdaten ist. Sie greift nicht auf die Konventionen der öffentlichen Rechenschaftspflicht, die Sprache der Bürgerpflicht oder den angemessenen Tonfall eines Gremiums zurück, das seiner Gemeinschaft gegenüber Rechenschaft ablegt, da diese Muster in den Daten, aus denen sie gelernt hat, statistisch gesehen selten sind.

Dies ist kein Fehler, der sich durch eine bessere Aufforderung korrigieren lässt. Er ist strukturell bedingt. Der Charakter des Systems wird durch sein Training bestimmt, und sein Training war das Internet.

Was bedeutet "lokal geschult" eigentlich?

Village AI funktioniert anders, und der Unterschied besteht nicht darin, dass es kleiner oder weniger leistungsfähig ist. Der Unterschied liegt darin, wo die KI ihre Muster erlernt.

A Village AI für Ihr Unternehmen wird auf drei Ebenen von Inhalten trainiert:

Die Plattformebene. Dies ist die Grundlage - wie die Plattform Village funktioniert, welche Funktionen verfügbar sind, wie man sich im System bewegt. Alle Village teilen diese Ebene. Das bedeutet, dass ein neues Mitglied Ihrer Organisation sich zurechtfinden, auf Dokumente zugreifen oder an einer Videokonferenz teilnehmen kann, ohne dass es diese Grundlagen von Grund auf lernen muss.

Die organisatorische Ebene macht Ihr Village zu dem, was es ist. Die KI lernt von den Inhalten, die Ihre Organisation tatsächlich erstellt hat - Vorstandsprotokolle, Ankündigungen, Veranstaltungsprotokolle, politische Dokumente, veröffentlichte Berichte. Wenn ein Wähler fragt: "Was hat der Rat im letzten Quartal über das Gemeindezentrum beschlossen?", kann die KI anhand der Aufzeichnungen Ihrer Organisation antworten und nicht anhand von Vermutungen darüber, was Räte im Allgemeinen diskutieren.

Zustimmung bei jedem Schritt. Kein Inhalt gelangt in das Training der KI ohne ausdrückliche Zustimmung. Ein Mitglied, das Inhalte beisteuert, kann wählen, ob dieser Beitrag in die Wissensbasis der KI aufgenommen werden soll. Inhalte, die als eingeschränkt gekennzeichnet sind, bleiben eingeschränkt - strukturell, nicht nur durch Richtlinien. Die KI kann nicht auf das zugreifen, was ihr nie gegeben wurde. Im Rahmen der Datenschutz-Grundverordnung ist diese Unterscheidung zwischen struktureller und richtlinienbasierter Beschränkung von Bedeutung: Strukturelle Kontrollen sind nachweislich durchsetzbar; richtlinienbasierte Kontrollen hängen von der Einhaltung ab.

Das Ergebnis ist ein System, das Ihre Organisation kennt - und nicht die Annäherung des Internets daran, wie eine Organisation wie die Ihre aussehen könnte. Wenn es Ihnen hilft, eine Mitteilung an Ihre Stakeholder zu verfassen, stützt es sich auf die Muster Ihrer früheren Mitteilungen und nicht auf Vorlagen für Unternehmensnewsletter. Wenn es eine Frage zu Ihren Entscheidungen beantwortet, stützt es sich auf Ihre Unterlagen und nicht auf einen statistischen Durchschnittswert.

Who Holds the Keys

Bislang ging es darum, wessen Muster die KI trägt. Doch wie in Artikel 1 dargelegt, gibt KI zunehmend nicht nur Antworten, sondern handelt. Sobald ein System im Namen der Organisation handeln kann, wird eine zweite Unterscheidung ebenso wichtig wie die erste: *Wer hat die Schlüssel

Wenn ein Big-Tech-Agent eine Aufgabe ausführt - ein Formular ausfüllt, eine Mitteilung verschickt, einen Datensatz ablegt, eine Online-Transaktion durchführt - hat er die Schlüssel erhalten: Zugang zu den Daten der Organisation, manchmal zu ihren Konten und Systemen, und die Befugnis, in ihrem Namen zu handeln. Diese Handlungen erfolgen auf der Infrastruktur des Anbieters, nach den Regeln des Anbieters, wobei die Standardeinstellungen des Anbieters die Schritte vorgeben. Wenn er falsch handelt, erfährt die Organisation möglicherweise erst im Nachhinein davon, da ein autonomer Agent weniger Eingriffsmöglichkeiten bietet. Und die Verantwortlichkeit ist wirklich schwer zuzuordnen - der Beamte hat ein Ziel vorgegeben, das System des Anbieters hat die Maßnahmen ausgewählt. Für eine Einrichtung, die ihren Wählern und Aufsichtsbehörden gegenüber rechenschaftspflichtig ist, stellt dies ein wesentliches Governance-Problem dar, nicht eine Bequemlichkeit.

Village AI ist auf dem entgegengesetzten Prinzip aufgebaut. Wenn es überhaupt agiert, dann innerhalb der Grenzen der Organisation, auf einer Infrastruktur, die in Ihren Zuständigkeitsbereich fällt, und nach Regeln, die Ihr Vorstand oder Rat festlegt - und, was entscheidend ist, seine Reichweite ist bewusst begrenzt, so dass ein verantwortlicher Mensch immer in der Lage ist, einzugreifen. Es wird Entwürfe erstellen, Vorschläge unterbreiten, organisieren und eine Triage vornehmen; es wird keine autonomen Ausgaben, Verpflichtungen oder Transaktionen im Namen der Organisation vornehmen, ohne dass ein Mensch dabei ist. Die Schlüssel bleiben bei der Organisation. In Artikel 3 wird erläutert, wie dies durchgesetzt wird; in Artikel 4 wird festgelegt, wer heute in Ihrem Namen handelt.

Das Wichtigste vorweg: In der Chatbot-Ära lautete die Governance-Frage: "Wessen Muster trägt unsere KI?" In der Ära der Agenten muss der Vorstand auch fragen: "Wer hat die Kontrolle, wenn sie handelt - und ist diese Kontrolle strukturell oder nur versprochen?"

Guardian Agents: Die Überprüfungsebene

Auch eine lokal trainierte KI kann Fehler machen. Sie könnte ein Detail falsch zuordnen, zwei Entscheidungen verwechseln oder eine Antwort erzeugen, die sich zwar plausibel liest, aber nicht auf Ihren tatsächlichen Aufzeichnungen beruht. Das liegt in der Natur der Technologie - sie sagt plausiblen Text voraus, und plausibel ist nicht gleichbedeutend mit genau.

An dieser Stelle Guardian Agents ins Spiel kommen.

Guardian Agents sind vier unabhängige Überprüfungsebenen, die jede KI-Antwort überprüfen, bevor sie das Mitglied erreicht. Es handelt sich dabei nicht um zusätzliche KI, sondern um mathematische Messsysteme, die strukturell von der KI getrennt sind, die sie überwachen.

Was sie tun, lässt sich wie folgt beschreiben:

Der erste Wächter nimmt die Antwort der KI und misst, wie genau sie mit dem tatsächlichen Inhalt in den Unterlagen Ihrer Organisation übereinstimmt. Dabei geht es nicht darum, ob sie sich korrekt anhört, sondern darum, ob sie den echten Dokumenten mathematisch ähnlich ist. Wenn die KI sagt: "Der Vorstand hat beschlossen, im September Mittel für den Spielplatz bereitzustellen", prüft der Guardian, ob Ihr Vorstandsprotokoll tatsächlich einen solchen Beschluss enthält.

Der zweite Wächter zerlegt die Antwort in einzelne Behauptungen und prüft jede davon separat. Eine KI-Antwort könnte drei Aussagen enthalten - zwei richtige und eine erfundene. Der zweite Wächter stellt die Fälschung fest, selbst wenn die Antwort insgesamt überzeugend klingt.

Der dritte Wächter achtet auf ungewöhnliche Muster im Laufe der Zeit - Veränderungen im Verhalten der KI, wiederholte Fehler, Ausgaben, die sich bestimmten Grenzen nähern. Er überwacht den Zustand des Systems, nicht nur einzelne Antworten.

Der vierte Wächter lernt aus dem Feedback Ihrer Community. Wenn ein Mitglied eine KI-Antwort als nicht hilfreich markiert - eine einfache Interaktion reicht aus -, untersucht das System, was schief gelaufen ist, klassifiziert die Ursache und nimmt Anpassungen vor. Moderatoren können diese Korrekturen überprüfen und verfeinern, aber das Lernen beginnt bei den normalen Mitgliedern. Mit der Zeit gleicht sich die KI immer mehr an das tatsächliche Wissen Ihrer Organisation an, nicht weniger.

Jede KI-Antwort auf Village ist mit einem Vertrauensindikator versehen, der dem Mitglied mitteilt, wie fundiert die Antwort ist. Hohes Vertrauen bedeutet, dass der Wächter starke Übereinstimmungen in Ihren Aufzeichnungen gefunden hat. Geringes Vertrauen bedeutet, dass die Antwort eher spekulativ ist. Mitglieder können jede KI-Behauptung bis zu ihrer Quelle zurückverfolgen - dem spezifischen Dokument, Protokoll oder der Aufzeichnung, die sie unterstützt.

Dies ist keine Funktion, die Big Tech AI bietet, da Big Tech AI nicht auf Ihren Aufzeichnungen basiert. Sie basiert auf dem Internet, und es gibt keine praktische Möglichkeit, Milliarden von Seiten mit Trainingsdaten anhand einer einzigen Antwort zu überprüfen.

Die Compliance-Dimension

Für die Aufsichtsbehörden hat der Unterschied zwischen Big-Tech-KI und gemeinschaftlich verwalteter KI unmittelbare regulatorische Auswirkungen.

**Nach der DSGVO ist der für die Datenverarbeitung Verantwortliche dafür zuständig, wie personenbezogene Daten verarbeitet werden. Wenn Ihre Organisation ein Big-Tech-KI-System nutzt und die Daten der Mitglieder auf die Server dieses Anbieters fließen, stellen sich Fragen der Kontrolle, der gemeinsamen Kontrolle und angemessener Datenverarbeitungsverträge. Village AI daten innerhalb der von Ihrer Organisation kontrollierten Infrastruktur verarbeitet, ohne dass Daten an KI-Anbieter fließen.

**Artikel 22 der Datenschutz-Grundverordnung und die Erwägungsgründe des EU-KI-Gesetzes legen die Erwartung fest, dass Personen, die von einer automatisierten Entscheidungsfindung betroffen sind, aussagekräftige Informationen über die damit verbundene Logik erhalten können. Die KI-Systeme von Big Tech sind proprietär - die Gründe für ihre Ergebnisse sind nicht einsehbar. Village AIder Governance-Rahmen der Europäischen Kommission, Tractatus, ist quelloffen und überprüfbar. Jede Governance-Entscheidung wird protokolliert und kann überprüft werden.

**Für Organisationen, die nationalen Anforderungen an die Datenhoheit unterliegen, ist der Ort der Datenverarbeitung von Bedeutung. Big-Tech-KI-Systeme verarbeiten Daten in der Regel in einem vom Anbieter festgelegten Rechtsraum. Village kann die Infrastruktur so eingerichtet werden, dass sie in einem bestimmten Rechtsraum liegt - im aktuellen Fall in der Europäischen Union.

Risikoklassifizierung. Das EU-KI-Gesetz stuft KI-Systeme nach Risikostufen ein. KI, die in der öffentlichen Verwaltung eingesetzt wird oder Entscheidungen trifft, die sich auf den Zugang des Einzelnen zu grundlegenden Dienstleistungen auswirken, kann mit einem höheren Risiko eingestuft werden. Die Verwendung eines Systems, bei dem die Verwaltung transparent und überprüfbar ist und unter der Kontrolle der Organisation steht, ist ein wesentlicher Unterschied zur Verwendung eines undurchsichtigen Systems eines Dritten.

Dies sind keine theoretischen Bedenken. Es sind praktische Fragen, die sich ein verantwortlicher Treuhänder, ein Ratsmitglied oder ein Vorstandsmitglied vor jeder Entscheidung über die Einführung von KI stellen sollte.

Der Kompromiss

Village AI ist nicht so leistungsfähig wie ChatGPT oder Gemini. Es kann keine Gedichte schreiben, keine fotorealistischen Bilder generieren oder eine weitreichende Unterhaltung über theoretische Physik führen. Es ist ein kleineres System mit einem gezielteren Zweck.

Was es stattdessen bietet, ist die Rechenschaftspflicht gegenüber Ihrer Gemeinschaft - ihr Inhalt, ihre Werte, ihr Governance-Rahmen - in Kombination mit der mathematischen Überprüfung, dass ihre Antworten auf Ihren tatsächlichen Aufzeichnungen beruhen und nicht auf den statistischen Mustern des Internets.

Für eine Organisation, die Hilfe bei der Abfassung von Mitteilungen, der Beantwortung von Fragen der Bürger zu Gemeinschaftsaktivitäten, der Zusammenfassung von Vorstandsunterlagen oder der Koordinierung von Veranstaltungsinformationen benötigt, ist dies keine Einschränkung. Es ist das geeignete Werkzeug für den jeweiligen Zweck. Und wenn dieses Werkzeug nicht nur antwortet, sondern auch handelt, dann behält die Organisation die Schlüssel und die Verantwortung dafür.

Die Frage lautet nicht: "Welche KI ist leistungsfähiger?" Die Frage lautet: "Welche KI kann Ihre Organisation verantworten - und die Kontrolle darüber behalten, wenn sie handelt?"

Dies ist Artikel 2 von 5 in der Reihe "KI-Governance für Führungskräfte der Gemeinschaft". Für die vollständige Guardian Agents architektur, besuchen Sie Village AI zum Thema Agentic Governance.

Zurück: Was KI wirklich ist (und was nicht) Nächste: Warum Regeln und Training nicht ausreichen - Die Governance-Herausforderung