Wer heute behauptet, AGI sei da, muss zuerst erklären, was mit AGI gemeint ist. Geht es um breite Problemlösefähigkeit, um Leistungen auf menschlichem Niveau, um autonome Zielverfolgung oder schlicht um ein Modell, das in vielen Tests beeindruckt? Ohne diese Trennung wird aus einer technischen Debatte ein Glaubenskampf. Die einen verkaufen Produktreife, die anderen diskutieren Bewusstsein, und am Ende redet niemand über dieselbe Sache.
Mein Gegenpool richtet sich deshalb gegen zwei bequeme Lager zugleich: gegen den Hype, der aus jeder starken Demonstration einen historischen Wendepunkt macht, und gegen die Blockade, die jede neue Fähigkeit reflexhaft als Täuschung oder Gefahr abtut. Beides nimmt uns die politische Gestaltung aus der Hand.
Ein Benchmark ist kein Thron
Die Studie „Levels of AGI“ schlägt vor, Fähigkeiten nach Leistungsniveau, Breite und Autonomie zu unterscheiden. Das ist brauchbarer als ein binäres Etikett. Ein System kann in einzelnen Bereichen übermenschlich sein und bei alltäglichen Aufgaben scheitern. Es kann Texte, Code oder Bilder erzeugen und dennoch keine belastbare Verantwortung für die Folgen übernehmen.
Auch METRs Forschung zu langen Aufgabenhorizonten misst eine konkrete Fähigkeit unter definierten Bedingungen. Solche Messungen sind wichtig. Sie beweisen aber weder Bewusstsein noch allgemeine Verlässlichkeit und schon gar nicht, dass ein System in einer realen Organisation unbeaufsichtigt handeln sollte.
Im Serveralltag ist der Unterschied leicht zu sehen. Ein Modell kann eine plausible Nginx-Konfiguration erzeugen. Ob sie zum vorhandenen TLS-Setup, zu Weiterleitungen und zu den tatsächlichen Diensten passt, zeigt erst der Test. Ebenso kann ein Assistent einen Synapse-Fehler erklären, aber einen falschen Homeserver, eine andere Paketversion oder einen unzutreffenden Installationsweg voraussetzen.
Ein beeindruckendes Ergebnis verdient Anerkennung. Es verdient nicht automatisch Root-Rechte.
Capability ist noch keine Verantwortung
Starke Fähigkeiten schaffen keine Haftung. Zwischen Können und verantwortlichem Einsatz liegen Zuständigkeiten, minimale Rechte, Protokolle, Verifikation und ein Rückweg. Genau darauf zielt auch das NIST AI Risk Management Framework mit seinen Bereichen Govern, Map, Measure und Manage.
Ein Agent mit Schreibzugriff auf eine WordPress-Instanz kann einen fertigen Artikel veröffentlichen. Daraus folgt nicht, dass er ohne eindeutige Freigabe veröffentlichen sollte. Ein Werkzeug mit Zugriff auf Matrix-Tokens kann Räume verwalten. Daraus folgt nicht, dass es alle Tokens sehen oder dauerhaft behalten muss.
Der vernünftige Weg ist unspektakulär:
- Aufgaben klar begrenzen;
- nur notwendige Rechte vergeben;
- Tokens trennen, befristen und widerrufbar halten;
- Ergebnisse vor hoher Wirkung vollständig prüfen;
- vor Änderungen Backup und Rollback festlegen;
- öffentliche Aktionen an eine eindeutige Freigabe binden.
Capability ohne Governance ist kein Fortschritt, sondern ein ungesicherter Beschleuniger.
Drei Lager und ihre blinden Flecken
Das Rendite-Lager will schnell skalieren und Kosten externalisieren. Es behandelt Beschäftigte, Daten, Energie und gesellschaftliche Risiken als nachgelagerte Probleme. Das Neugier-Lager erkennt reale Möglichkeiten, unterschätzt aber leicht, wie aus einem Experiment ein dauerhafter Prozess mit Zugängen, Abhängigkeiten und Haftungsfragen wird. Das Moralblock-Lager sieht berechtigte Gefahren, kann jedoch Entwicklung und eigenes Wissen so stark bremsen, dass am Ende wieder einige wenige Konzerne die Technik kontrollieren.
Eine souveräne Position nimmt von allen drei Seiten etwas ernst: die Innovationskraft, die Notwendigkeit von Grenzen und die Frage, wer Kosten und Nutzen trägt. Sie verweigert sich aber ihren Absolutheiten.
Für eine kleine Community bedeutet das: Automatisierung darf Arbeit erleichtern, aber sie darf das Betreiberwissen nicht auffressen. Wenn ein Assistent jede Konfiguration erzeugt und nur noch ein Senior blind bestätigt, lernt der Nachwuchs weder DNS noch TLS noch Logauswertung. Wenn Moderation vollständig an Klassifikatoren ausgelagert wird, verliert die Community die Fähigkeit, Regeln zu begründen und Konflikte selbst zu bearbeiten.
Physical AI: Wenn ein Fehler Gewicht bekommt
Bei Physical AI verlässt der Fehler den Bildschirm. Ein Haushaltsroboter, ein Pflegesystem oder eine autonome Maschine bewegt Masse durch reale Räume. Eine falsche Klassifikation kann dann nicht nur einen unpassenden Text erzeugen, sondern eine Person verletzen, Eigentum beschädigen oder sensible Situationen aufzeichnen.
Damit verschmelzen Datenschutz, Produktsicherheit und Haftung. Ein System muss nicht bewusst sein, um gefährlich oder nützlich zu handeln. Die Bewusstseinsfrage ist philosophisch interessant; für den Betrieb sind Kräfte, Sensorgrenzen, Abschaltmöglichkeiten, Protokolle und Verantwortlichkeiten unmittelbarer.
Zwei Prüfungen gehören deshalb zusammen. Technisch muss geklärt werden, welche Zustände, Geschwindigkeiten und Kräfte erlaubt sind und wie ein sicherer Stopp funktioniert. Sozial muss geklärt werden, wer Daten sehen darf, wer Entscheidungen überprüft und wer für Schäden einsteht.
Sobald KI einen Körper bekommt, bekommt auch ihr Fehler Masse, Geschwindigkeit und Reichweite.
Europa und Silicon Valley: Die falsche Wahl
Europa wird gern vor eine falsche Alternative gestellt: entweder schnelles Silicon-Valley-Tempo oder Grundrechte und Regulierung. Tatsächlich braucht Europa beides – Entwicklungskraft und demokratische Kontrolle. Regeln ohne eigene Infrastruktur machen abhängig. Infrastruktur ohne Rechte reproduziert nur das Machtmodell anderer Anbieter unter europäischer Flagge.
Der AI Act folgt einem risikobasierten Ansatz. Das ist sinnvoll, wenn Regeln nicht beim Papier enden. Kleine Betreiber und Open-Source-Projekte brauchen verständliche Anforderungen, zugängliche Prüfwerkzeuge und klare Abgrenzungen. Große Anbieter dürfen Regulierung nicht als Markteintrittsbarriere benutzen, die sie selbst mit Rechtsabteilungen überwinden, während kleinere Alternativen verschwinden.
Digitale Souveränität entsteht außerdem nicht durch den Firmensitz allein. Entscheidend sind offene Standards, exportierbare Daten, dokumentierte Schnittstellen, kontrollierbare Schlüssel und eine realistische Wechselmöglichkeit. Ein europäisches Produkt mit geschlossenem Format kann unfreier sein als ein transparent betriebener offener Dienst.
Öffentliche Beschaffung könnte hier Macht verschieben: nicht nur Funktionen einkaufen, sondern Portabilität, Reproduzierbarkeit, Sicherheitspflege und Exit-Fähigkeit verlangen. Wer öffentliche Infrastruktur liefert, muss erklären können, wie sie ohne ihn weiterbetrieben werden kann.
Arbeit: Produktivität ist eine Verteilungsfrage
Die Internationale Arbeitsorganisation unterscheidet bei generativer KI zwischen Exposition, Transformation und vollständiger Ersetzung. Diese Unterscheidung ist zentral. Ein Beruf besteht aus vielen Tätigkeiten. Einige lassen sich automatisieren, andere verändern sich, wieder andere gewinnen an Bedeutung.
Der gesellschaftliche Ausgang ist nicht technisch vorbestimmt. Wenn Produktivität steigt, können Gewinne wachsen, mehr Leistungen produziert oder Arbeitszeiten verkürzt werden. Welche Mischung entsteht, ist eine Macht- und Verteilungsfrage.
Frühere Automatisierungswellen haben neue Berufe geschaffen. Das ist kein Trost für Menschen, deren Einkommen heute wegfällt und denen morgen der Zugang zu Qualifizierung fehlt. Übergänge brauchen Zeit, soziale Sicherung und Mitbestimmung. Sonst werden Gewinne privatisiert und Anpassungskosten auf Beschäftigte und öffentliche Haushalte verschoben.
Auch Bildung darf nicht auf Bedienkompetenz schrumpfen. Wer nur noch Prompts formuliert, ohne Quellen, Code, Logs oder Argumente beurteilen zu können, wird vom Werkzeug abhängig. Der bessere Lernpfad lautet: Vorschlag erklären lassen, im Testsystem ausführen, Ergebnis prüfen, Fehler begründen und erst dann übernehmen.
Automatisierung verteilt nicht von selbst Wohlstand. Sie verteilt zuerst Macht.
Sieben Leitlinien für souveräne KI
Aus der abstrakten AGI-Debatte lässt sich ein konkreter Handlungsrahmen ableiten:
- Begriffe vor Behauptungen: Wer AGI sagt, benennt Breite, Leistungsniveau und Autonomie.
- Aufgaben statt Magie: Jeder Einsatz erhält klare Ein- und Ausgaben, Grenzen und Erfolgskriterien.
- Minimale Rechte: Kein Agent bekommt mehr Zugriff, als die konkrete Aufgabe verlangt.
- Verifikation: Quellen werden geöffnet, Konfigurationen getestet und risikoreiche Ergebnisse vollständig geprüft.
- Rückweg: Vor Änderungen existieren Sicherung, Rollback und eine verantwortliche Person.
- Offene Alternativen: Datenexport, offene Protokolle und dokumentierte Schnittstellen werden vor dem Lock-in geplant.
- Gegenpool: Zu großen Behauptungen gehört eine belastbare Gegenposition; Tatsache, Quelle, Analyse und Meinung bleiben getrennt.
Diese Regeln verhindern weder Innovation noch Fehler. Sie machen Entscheidungen sichtbar und korrigierbar. Souveränität ist kein Alles-oder-nichts-Zustand. Sie wächst durch eigene Domains, getrennte Konten, kontrollierte Schlüssel, exportierbare Daten, dokumentierte Konfigurationen und getestete Backups.
Vielleicht werden wir später sagen, eine Form kompetenter AGI sei 2025 oder 2026 bereits vorhanden gewesen. Vielleicht werden wir feststellen, dass das Schlagwort mehr verdeckt als erklärt hat. Für die heutige Praxis ist entscheidend: Wir haben leistungsfähige, fehlerhafte Systeme, die Arbeit, Infrastruktur und Macht verändern.
Wir brauchen deshalb keine neue Religion – weder eine des Heils noch eine des Untergangs. Wir brauchen Betreiberwissen, demokratische Regeln, freie Alternativen und den Mut, einer beeindruckenden Maschine nicht blind die Schlüssel zu geben.
Quellen
- Meredith Ringel Morris et al., „Levels of AGI: Operationalizing Progress on the Path to AGI“:
https://arxiv.org/abs/2311.02462 - METR, „Measuring AI Ability to Complete Long Tasks“:
https://metr.org/blog/2025-03-19-measuring-ai-ability-to-complete-long-tasks/ - NIST, „Artificial Intelligence Risk Management Framework“:
https://www.nist.gov/itl/ai-risk-management-framework - Europäische Kommission, „Regulatory framework for AI“:
https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai - Internationale Arbeitsorganisation, „Generative AI and Jobs: A Refined Global Index of Occupational Exposure“:
https://www.ilo.org/publications/generative-ai-and-jobs-refined-global-index-occupational-exposure
CTA
Diskussion: https://treff.darknight-coffee.eu/@carrabelloy
Podcast: https://podcast.darknight-coffee.org/pages/startseite
Blog: https://carrabelloy.darknight-coffee.org/blog/
Wenn dir das Projekt hilft: Spendenlinks sind im Blog.
