Schlagwort: künstliche Intelligenz

Das KI-Label kommt – die Hochrisiko-Kontrolle wartet

Was am 2. August 2026 beim EU AI Act wirklich beginnt, warum Transparenz nicht Kontrolle ersetzt und weshalb Open Source weder Freibrief noch Feindbild ist.

Am 2. August bekommt die europäische KI-Regulierung ein sichtbares Gesicht. Menschen sollen erkennen können, wenn sie mit einem KI-System interagieren. Synthetische Ausgaben sollen maschinenlesbar markiert werden. Deepfakes und bestimmte automatisch erzeugte Texte zu Themen von öffentlichem Interesse müssen offengelegt werden.

Das ist ein Fortschritt. Aber die bequeme Schlagzeile „Jetzt gilt der AI Act“ ist falsch. Die Verordnung trat bereits am 1. August 2024 in Kraft und wird seitdem stufenweise anwendbar. Noch wichtiger: Während die Transparenzregeln jetzt greifen, hat der jüngste AI Omnibus zentrale Pflichten für Hochrisiko-Systeme verschoben. Das sichtbare Label kommt. Die schwierigere Kontrolle wartet.

Was am 2. August tatsächlich passiert

Ab dem 2. August 2026 wird Artikel 50 des AI Act anwendbar. Außerdem beginnt die Durchsetzung wichtiger bereits geltender Vorschriften auf europäischer und nationaler Ebene. Die Regeln für General-Purpose-AI-Modelle gelten schon seit dem 2. August 2025; nun stehen den zuständigen Stellen reale Untersuchungs- und Sanktionsbefugnisse zur Verfügung.

Das europäische AI Office kann laut der offiziellen Übersicht unter anderem Auskünfte verlangen, Zugang zu Modellen und Evaluationen fordern, Korrekturmaßnahmen anordnen und nötigenfalls die öffentliche Verfügbarkeit eines Modells beschränken. Für andere KI-Systeme sind grundsätzlich nationale Marktüberwachungsbehörden zuständig.

Die Kommission nennt je nach Verstoß Höchstgrenzen von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes für verbotene Praktiken sowie bis zu 15 Millionen Euro oder drei Prozent für andere Verstöße. Das sind Maximalwerte. Sie bedeuten nicht, dass jeder fehlerhafte Hinweis automatisch eine Millionenbuße auslöst.

Offen bleibt in der vorliegenden Recherche, welche deutsche Behörde am Stichtag für welchen Systemtyp praktisch zuständig ist, wie konkret Beschwerden eingereicht werden können und ob alle nötigen Fachstellen einsatzbereit sind. Wer dazu mehr behauptet, müsste es mit deutschen amtlichen Quellen belegen.

Artikel 50 ist genauer als das Schlagwort „KI-Kennzeichnung“

Artikel 50 verteilt unterschiedliche Pflichten auf Anbieter und Betreiber.

Anbieter direkt interagierender KI-Systeme müssen Menschen grundsätzlich darüber informieren, dass sie mit KI sprechen, sofern dies nicht ohnehin offensichtlich ist. Anbieter generativer Systeme müssen synthetische Audio-, Bild-, Video- und Textausgaben maschinenlesbar als künstlich erzeugt oder manipuliert erkennbar machen. Die technische Lösung soll wirksam, interoperabel, robust und zuverlässig sein – soweit dies technisch machbar ist.

Betreiber müssen bei Deepfakes offenlegen, dass Bild, Ton oder Video künstlich erzeugt oder verändert wurden. Für Texte, die die Öffentlichkeit über Angelegenheiten öffentlichen Interesses informieren sollen, gilt ebenfalls eine Offenlegungspflicht, wenn sie künstlich erzeugt oder manipuliert wurden.

Doch die Verordnung unterscheidet zwischen automatischer Publikation und verantworteter Redaktion: Hat ein Text einen menschlichen Prüf- oder Redaktionsprozess durchlaufen und übernimmt eine Person oder Organisation die redaktionelle Verantwortung, greift diese besondere Offenlegungspflicht nicht automatisch.

Ein Blogentwurf, den ein Sprachmodell strukturiert und den eine Redaktion anschließend vollständig anhand der Primärquellen prüft, umschreibt und verantwortet, ist damit nicht dasselbe wie ein Bot, der politische Meldungen ohne menschliche Prüfung veröffentlicht. Das ist keine Einladung, Werkzeuge zu verschleiern. Es ist eine notwendige Unterscheidung zwischen technischer Hilfe und ausgelagerter Verantwortung.

Für bestimmte Generatoren, die schon vor dem 2. August 2026 angeboten wurden, kann außerdem eine Übergangsfrist bis zum 2. Dezember 2026 relevant sein. Ein fehlender Marker am 3. August beweist deshalb nicht ohne Einzelfallprüfung einen Rechtsverstoß.

Das Wasserzeichen löst das Wahrheitsproblem nicht

Maschinenlesbare Markierungen können Herkunftsinformationen transportieren. Sie können anzeigen, dass ein System an einer Datei beteiligt war. Sie beweisen aber nicht, dass der Inhalt falsch ist. Sie beweisen auch nicht automatisch, wer ihn erstellt, verändert oder veröffentlicht hat.

In der Praxis werden Bilder komprimiert, Videos transkodiert, Audiodateien neu kodiert und Inhalte als Screenshot weitergereicht. Dabei können Metadaten oder andere Marker verloren gehen. Umgekehrt kann ein sichtbares Label den falschen Eindruck erzeugen, die gesamte Herkunftskette sei damit geprüft.

Die EU hat ergänzend einen freiwilligen Transparenzkodex geschaffen. Unterzeichner können dessen Maßnahmen als anerkannten Nachweisweg verwenden. Wer nicht unterzeichnet, handelt nicht automatisch rechtswidrig, sondern muss gleichwertige eigene Maßnahmen belegen. Ende Juli 2026 hatten sich laut Kommission rund 190 Organisationen angeschlossen. Diese Zahl ist veränderlich und muss vor einer Veröffentlichung erneut geprüft werden.

Redaktionelle Bewertung – von Andreas vor Veröffentlichung zu prüfen: Transparenz wird erst dann zu digitaler Souveränität, wenn die Prüfwerkzeuge offen und unabhängig nutzbar sind. Wenn nur große Plattformen maschinenlesbare Nachweise ausstellen und lesen können, entsteht ein neuer Lock-in. Dann gehört nicht nur das Modell einigen Konzernen, sondern auch die technische Definition von Glaubwürdigkeit.

Eine souveräne Infrastruktur braucht offene Spezifikationen, freie Prüfsoftware, mehrere unabhängige Validierer und die Möglichkeit, Nachweise selbst zu hosten. Ein proprietärer KI-Detektor darf nicht zum Wahrheitsministerium werden.

Der eigentliche politische Konflikt: Hochrisiko kommt später

Der AI Omnibus trat nach Angaben der EU-Kommission am 27. Juli 2026 in Kraft. Er verschiebt die Anwendung der Hochrisiko-Regeln für Systeme aus Anhang III auf den 2. Dezember 2027. Dazu gehören unter anderem Bereiche wie Biometrie, kritische Infrastruktur, Bildung, Beschäftigung, Migration und Justiz. Für KI als Bestandteil regulierter Produkte nach Anhang I ist nun der 2. August 2028 vorgesehen.

Die Kommission begründet die längeren Fristen mit fehlenden Standards, Unterstützungsinstrumenten und dem Bedarf an Rechtssicherheit. Das ist ein ernst zu nehmendes Argument. Uneinheitliche Prüfverfahren können gerade kleine Anbieter überfordern, während Konzerne ganze Rechts- und Compliance-Abteilungen finanzieren.

Aber daraus folgt nicht zwingend, dass breite Verschiebungen die einzige Lösung waren. Denkbar wären stufenweise Mindestpflichten, öffentliche Audit-Angebote, klare Beschaffungsregeln und gezielte Unterstützung kleiner und freier Projekte.

Gesichert ist die Verschiebung. Nicht gesichert ist, wie viele konkrete Systeme dadurch länger ohne eine bestimmte AI-Act-Pflicht betrieben werden. Dafür fehlen belastbare öffentliche Bestandszahlen und Einzelfallklassifikationen. Der Satz „Die EU hat Hochrisiko-KI freigegeben“ wäre daher ebenso falsch wie die Behauptung, ab 2. August sei die gesamte Regulierung fertig.

Redaktionelle Bewertung – von Andreas vor Veröffentlichung zu prüfen: Die zeitliche Asymmetrie ist politisch gefährlich. Labels sind sichtbar und leicht zu kommunizieren. Die Kontrolle von Systemen, die über Bildung, Arbeit, Migration oder Justiz mitentscheiden können, ist komplizierter – und wurde vertagt. Transparenz darf nicht als Ersatz für Grundrechtsschutz verkauft werden.

Open Source ist nicht pauschal ausgenommen

Auch bei Open Source lohnt der Blick in den Wortlaut. Artikel 2 Absatz 12 privilegiert Systeme unter freien und offenen Lizenzen grundsätzlich. Im selben Satz stehen jedoch klare Rückausnahmen: verbotene Praktiken, Hochrisiko-Systeme und Systeme, die unter Artikel 50 fallen.

Ein frei lizenzierter Chatbot oder Bildgenerator ist also nicht allein wegen seiner Lizenz von den Transparenzpflichten befreit. Wer ein Modell privat auf dem eigenen Rechner nutzt, befindet sich außerdem in einer anderen Lage als jemand, der einen öffentlichen Dienst betreibt oder Ausgaben automatisiert publiziert. „Selfhosting“ allein beantwortet die rechtliche Rollenfrage nicht.

Für Anbieter von General-Purpose-AI-Modellen enthält Artikel 53 eine engere Erleichterung. Wenn die Lizenz Zugriff, Nutzung, Veränderung und Weitergabe erlaubt und Parameter einschließlich Gewichten, Architektur- und Nutzungsinformationen öffentlich sind, können zwei Dokumentationspflichten entfallen. Die Urheberrechtsrichtlinie und eine öffentliche, hinreichend detaillierte Zusammenfassung der Trainingsinhalte bleiben jedoch Pflicht. Für Modelle mit systemischem Risiko greift die Ausnahme nicht.

Deshalb sind „Open Weights“ und „Open Source“ nicht dasselbe. Ein Download von Gewichten ohne ausreichende Nutzungsrechte und technische Informationen ist kein vollständiger Offenheitsnachweis.

Redaktionelle Bewertung – von Andreas vor Veröffentlichung zu prüfen: Open Source darf weder als Schlupfloch noch als Kollateralschaden behandelt werden. Offene Systeme ermöglichen unabhängige Prüfung, Anpassung und gemeinschaftlichen Betrieb. Offenheit macht riskante Anwendungen aber nicht harmlos. Die richtige Linie ist risikobasierte Verantwortung plus offene öffentliche Compliance-Infrastruktur – kein Freibrief, aber auch keine proprietäre Mautstelle.

Was Betreiber und Communities jetzt praktisch tun können

Für einen kleinen Server- oder Community-Betrieb sind fünf Schritte sinnvoll:

  1. Dokumentieren, wo KI-Systeme tatsächlich eingesetzt werden.
  2. Private Nutzung, internen Betrieb, öffentliches Angebot und automatische Veröffentlichung auseinanderhalten.
  3. Bot-Konten klar benennen, Tokens minimal berechtigen, regelmäßig rotieren und einer verantwortlichen Person zuordnen.
  4. Originaldateien, Quellen, Hashwerte und Prüfprotokolle in getesteten Backups erhalten.
  5. Vor jeder Veröffentlichung zu öffentlichen Themen einen echten menschlichen Freigabeschritt setzen.

Ein Beispiel: Taucht in einem Matrix-Raum ein angebliches Beweisvideo auf, reicht die Meldung eines proprietären Online-Detektors nicht. Belastbarer sind Originaldatei, dokumentierte Quelle, Hashwert, Metadatenprüfung und menschliche Kontextanalyse. Das Werkzeug liefert einen Hinweis. Die Redaktion trägt das Urteil.

Ein zweites Beispiel: Ein lokaler Textgenerator läuft hinter Nginx und wird von einem Synapse-Bot angesprochen. Entscheidend sind nicht die Schlagworte „lokal“ und „Open Source“, sondern Zugänglichkeit, Lizenz, Rolle, Kennzeichnung, Token-Rechte, Protokollierung und ein klarer Abschaltweg.

Fazit

Der 2. August 2026 ist ein wichtiger Stichtag, aber kein Schlusspunkt. Der AI Act macht Transparenz und Durchsetzung konkreter. Das ist gut. Gleichzeitig wurden zentrale Hochrisiko-Pflichten verschoben. Das ist die Lücke, über die politisch gesprochen werden muss.

Ein Label kann zeigen, dass eine Maschine beteiligt war. Es kann nicht erklären, wem das System dient, wie eine Entscheidung angefochten wird oder wer den Schaden trägt. Dafür braucht Europa offene technische Standards, unabhängige Prüfung, klare Zuständigkeiten und durchsetzbaren Grundrechtsschutz.

Transparenz und Kontrolle sind keine Gegensätze. Wir brauchen beides.

Quellen

  1. Europäische Kommission, AI Act – Überblick und Zeitplan: https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
  2. Europäische Kommission, „AI Omnibus enters into force“, 27. Juli 2026: https://digital-strategy.ec.europa.eu/en/news/ai-omnibus-enters-force
  3. EUR-Lex, Verordnung (EU) 2026/1744: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=OJ:L_202601744
  4. AI Act Service Desk, Umsetzungszeitleiste: https://ai-act-service-desk.ec.europa.eu/en/ai-act/timeline/timeline-implementation-eu-ai-act
  5. AI Act Service Desk, Artikel 50: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-50
  6. Europäische Kommission, Leitlinien zu Artikel 50: https://digital-strategy.ec.europa.eu/en/policies/guidelines-transparency-ai-generated-content
  7. Europäische Kommission, Transparenzkodex: https://digital-strategy.ec.europa.eu/en/policies/code-practice-ai-generated-content
  8. Europäische Kommission, Durchsetzungsrahmen: https://digital-strategy.ec.europa.eu/en/policies/enforcement-ai-act
  9. AI Act Service Desk, Artikel 2: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-2
  10. AI Act Service Desk, Artikel 53: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-53

Transparenz- und Prüfstatus

Dieser Entwurf wurde mit Crow/Codex auf Grundlage der lokalen Recherche vom 1. August 2026 und der dort dokumentierten EU-Primärquellen erstellt. Es wurden keine eigenen Praxistests behauptet. Tatsachen und vorgeschlagene redaktionelle Bewertungen sind getrennt. Fristen, Unterzeichnerstand, amtlicher Wortlaut und deutsche Zuständigkeiten müssen vor Veröffentlichung erneut geprüft werden. Die persönliche Position und Veröffentlichung verantwortet Andreas erst nach ausdrücklicher Freigabe.

CTA

Diskussion: https://treff.darknight-coffee.eu/@carrabelloy
Podcast: https://podcast.darknight-coffee.org/pages/startseite
Blog: https://carrabelloy.darknight-coffee.org/blog/
Wenn dir das Projekt hilft: Spendenlinks sind im Blog.

Freigabe erforderlich: ja. Veröffentlichung erfolgt: nein.

KI-Ethik oder Überwachungsstaat? Warum Palantir in jede Debatte über künstliche Intelligenz gehört

Wenn heute über künstliche Intelligenz gesprochen wird, klingt vieles erst einmal harmlos. Es geht um Chatbots, Schule, Texte, Bilder, Bildung, Effizienz und darum, ob Maschinen denken können oder nicht.

Aber genau da darf die Debatte nicht stehen bleiben.

Denn die wirklich gefährliche Frage lautet nicht nur:

Was kann KI?

Die wirklich gefährliche Frage lautet:

Wer benutzt KI — und wofür?

Frau Alke Martens spricht über KI, Ethik und Verantwortung. Das ist wichtig. Aber wenn wir ehrlich über Ethik reden wollen, dann müssen wir auch über Palantir, Polizeisoftware, staatliche Datenverknüpfung und Überwachungstechnik reden.

Ausgangspunkt: Reel von Alke Martens

Hinweis: Der folgende Link führt zu Instagram/Meta. Beim Öffnen können Daten an Meta übertragen werden.

Instagram-Reel von Alke Martens:
https://www.instagram.com/reel/DbIltCusyhV/?igsh=ZGUzMzM3NWJiOQ==

In dem Reel spricht Alke Martens sinngemäß darüber, dass Technik nie nur Technik ist und kein Selbstzweck sein darf. Entscheidend ist, welches Ziel mit Technik verfolgt wird, welche Folgen ihr Einsatz hat, welche Art von Leben wir anstreben und welches Wertesystem dahintersteht.

Genau an diesem Punkt setze ich an.

Denn wenn wir über KI-Ethik sprechen, dürfen wir nicht nur über Chatbots, Schule, Social Media oder schöne Theorie reden. Dann müssen wir auch über Palantir, Polizeisoftware, staatliche Datenverknüpfung, Chatkontrolle, digitale ID, EU-Wallet und Überwachungstechnik sprechen.

Denn dort wird KI nicht mehr nur als Werkzeug eingesetzt.

Dort wird KI Teil von Macht.

Denn dort wird KI nicht als Spielzeug eingesetzt. Dort wird KI nicht als netter Schreibhelfer genutzt. Dort wird KI Teil eines Machtapparats.

Und genau da wird es gefährlich.

## Welche Art von Leben wollen wir?

Für mich steht über allem eine einfache Frage:

Welche Art von Leben wollen wir in Europa haben?

Ein Leben als freie Bürger?

Oder ein Leben als Datensätze in einem System, das immer mehr über uns weiß, immer mehr verknüpft, immer mehr bewertet und immer mehr vorhersagen will?

George Orwell 1984 war einmal eine Warnung.

Heute wirkt manches wie eine technische Bauanleitung.

Chatkontrolle.
Digitale ID.
EU-Wallet.
Gesundheitsakte.
Finanzüberwachung.
Digital Services Act.
Palantir bei der Polizei.
KI in Sicherheitsbehörden.
Automatisierte Analyse.
Datenverknüpfung.

Das sind keine getrennten Baustellen.

Das ist ein Muster.

Der Bürger wird digital immer tiefer erfasst. Der Staat bekommt immer mehr Werkzeuge. Private Tech-Konzerne liefern die Systeme. Und am Ende wird alles als Sicherheit, Fortschritt oder Effizienz verkauft.

## KI allein ist nicht das Problem

Ich bin nicht gegen Technik.

Ich bin nicht gegen KI.

Ich bin nicht gegen Digitalisierung.

Im Gegenteil: Gute Technik kann helfen. KI kann Arbeit erleichtern, Wissen zugänglich machen, Bildung verbessern, Forschung beschleunigen und auch Behörden effizienter machen.

Aber Technik ist nie neutral, wenn sie in einem Machtverhältnis eingesetzt wird.

Eine KI, die einem Bürger hilft, einen Text zu schreiben, ist etwas anderes als eine KI, die Polizeidatenbanken verknüpft.

Eine KI, die eine Schule unterstützt, ist etwas anderes als eine KI, die Menschenprofile aus Daten baut.

Eine KI, die Open Source läuft und lokal kontrollierbar ist, ist etwas anderes als ein undurchsichtiges System eines privaten Konzerns, das tief in staatliche Sicherheitsstrukturen eingebaut wird.

Darum liegt die ethische Gefahr nicht nur in KI selbst.

Die Gefahr liegt im Zusammenspiel aus KI, Überwachung, Staat, Datenmacht und politischem Kontrollwillen.

## Palantir gehört ins Zentrum der Debatte

Wenn wir über KI-Ethik sprechen, müssen wir über Palantir sprechen.

Nicht irgendwann. Jetzt.

Denn Palantir steht für genau diese Verbindung: große Datenmengen, staatliche Sicherheitsbehörden, Analyseplattformen, Verknüpfung von Informationen und eine politische Erzählung, dass mehr Daten automatisch mehr Sicherheit bedeuten.

Aber stimmt das wirklich?

Mehr Daten bedeuten nicht automatisch mehr Rechtsstaat.

Mehr Analyse bedeutet nicht automatisch mehr Wahrheit.

Mehr Verknüpfung bedeutet nicht automatisch mehr Gerechtigkeit.

Und mehr Überwachung bedeutet nicht automatisch mehr Sicherheit.

Es kann auch das Gegenteil passieren:

Unbescholtene Bürger geraten in Datennetze.
Fehlerhafte Verknüpfungen erzeugen falsche Verdachtsmomente.
Ein System wird zur Blackbox.
Behörden verlassen sich zu stark auf technische Treffer.
Private Konzerne werden Teil staatlicher Macht.
Und der Bürger weiß am Ende nicht einmal mehr, wo seine Daten gelandet sind.

Das ist ethisch hochproblematisch.

## Die entscheidenden Fragen

Wenn Frau Martens über KI und Ethik spricht, würde ich genau diese Fragen stellen:

Wer kontrolliert die KI-Systeme?

Welche Daten werden eingespeist?

Wer entscheidet, was ein Risiko ist?

Wer prüft Fehler?

Wer haftet bei falschen Treffern?

Wie kann sich ein Bürger wehren?

Wie transparent ist das System?

Warum braucht Deutschland amerikanische Überwachungssoftware?

Warum setzen Länder wie NRW, Hessen oder Bayern auf solche Systeme?

Was passiert, wenn diese Technik später politisch ausgeweitet wird?

Und warum wird jeder Grundrechtseingriff inzwischen mit Sicherheit, Kinderschutz, Terrorabwehr oder Effizienz verkauft?

Das sind die Fragen, die in eine echte KI-Ethik-Debatte gehören.

Nicht nur: Ist KI schlau?

Sondern: Wer bekommt Macht durch KI?

## Berlin und Brüssel müssen Farbe bekennen

Europa und Deutschland reden gerne von digitaler Souveränität.

Aber gleichzeitig holen sie sich Systeme, Plattformen und Denkweisen ins Haus, die Bürger immer stärker erfassen und auswertbar machen.

Das passt nicht zusammen.

Wer digitale Souveränität will, muss Open Source stärken.
Wer Bürgerrechte schützen will, muss Überwachung begrenzen.
Wer KI ethisch einsetzen will, muss Macht kontrollieren.
Wer Vertrauen will, muss Transparenz schaffen.
Wer Sicherheit will, darf Freiheit nicht opfern.

Und genau daran scheitert Politik immer wieder.

Berlin und Brüssel fragen zu selten:

Wie schützen wir den Bürger vor dem Staat?

Stattdessen fragen sie immer öfter:

Wie bekommt der Staat mehr Zugriff auf den Bürger?

Das ist für mich der falsche Weg.

## Mein Fazit

KI darf nicht zum Selbstzweck mächtiger Einzelner werden.

Nicht zum Spielzeug von Konzernen.
Nicht zum Werkzeug eines Überwachungsstaates.
Nicht zur Blackbox für Polizeibehörden.
Nicht zum Vorwand für immer mehr digitale Kontrolle.

KI muss dem Menschen dienen.

Dem Bürger.

Der Freiheit.

Der Transparenz.

Dem Rechtsstaat.

Und wenn sie das nicht tut, dann ist sie ethisch nicht sauber, egal wie schön die Vorträge darüber klingen.

Darum gehört Palantir in jede ernsthafte Debatte über KI-Ethik.

Denn dort zeigt sich, ob wir wirklich über Verantwortung reden — oder nur über Technik, solange sie harmlos klingt.

AGI ist da? Gegen den Hype, gegen die Blockade – für souveräne KI

Die wahre Währung der KI ist Strom

AGI ist da? Gegen den Hype, gegen die Blockade – für souveräne KI

Wer heute behauptet, AGI sei da, muss zuerst erklären, was mit AGI gemeint ist. Geht es um breite Problemlösefähigkeit, um Leistungen auf menschlichem Niveau, um autonome Zielverfolgung oder schlicht um ein Modell, das in vielen Tests beeindruckt? Ohne diese Trennung wird aus einer technischen Debatte ein Glaubenskampf. Die einen verkaufen Produktreife, die anderen diskutieren Bewusstsein, und am Ende redet niemand über dieselbe Sache.

Mein Gegenpool richtet sich deshalb gegen zwei bequeme Lager zugleich: gegen den Hype, der aus jeder starken Demonstration einen historischen Wendepunkt macht, und gegen die Blockade, die jede neue Fähigkeit reflexhaft als Täuschung oder Gefahr abtut. Beides nimmt uns die politische Gestaltung aus der Hand.

Ein Benchmark ist kein Thron

Die Studie „Levels of AGI“ schlägt vor, Fähigkeiten nach Leistungsniveau, Breite und Autonomie zu unterscheiden. Das ist brauchbarer als ein binäres Etikett. Ein System kann in einzelnen Bereichen übermenschlich sein und bei alltäglichen Aufgaben scheitern. Es kann Texte, Code oder Bilder erzeugen und dennoch keine belastbare Verantwortung für die Folgen übernehmen.

Auch METRs Forschung zu langen Aufgabenhorizonten misst eine konkrete Fähigkeit unter definierten Bedingungen. Solche Messungen sind wichtig. Sie beweisen aber weder Bewusstsein noch allgemeine Verlässlichkeit und schon gar nicht, dass ein System in einer realen Organisation unbeaufsichtigt handeln sollte.

Im Serveralltag ist der Unterschied leicht zu sehen. Ein Modell kann eine plausible Nginx-Konfiguration erzeugen. Ob sie zum vorhandenen TLS-Setup, zu Weiterleitungen und zu den tatsächlichen Diensten passt, zeigt erst der Test. Ebenso kann ein Assistent einen Synapse-Fehler erklären, aber einen falschen Homeserver, eine andere Paketversion oder einen unzutreffenden Installationsweg voraussetzen.

Ein beeindruckendes Ergebnis verdient Anerkennung. Es verdient nicht automatisch Root-Rechte.

Capability ist noch keine Verantwortung

Starke Fähigkeiten schaffen keine Haftung. Zwischen Können und verantwortlichem Einsatz liegen Zuständigkeiten, minimale Rechte, Protokolle, Verifikation und ein Rückweg. Genau darauf zielt auch das NIST AI Risk Management Framework mit seinen Bereichen Govern, Map, Measure und Manage.

Ein Agent mit Schreibzugriff auf eine WordPress-Instanz kann einen fertigen Artikel veröffentlichen. Daraus folgt nicht, dass er ohne eindeutige Freigabe veröffentlichen sollte. Ein Werkzeug mit Zugriff auf Matrix-Tokens kann Räume verwalten. Daraus folgt nicht, dass es alle Tokens sehen oder dauerhaft behalten muss.

Der vernünftige Weg ist unspektakulär:

  • Aufgaben klar begrenzen;
  • nur notwendige Rechte vergeben;
  • Tokens trennen, befristen und widerrufbar halten;
  • Ergebnisse vor hoher Wirkung vollständig prüfen;
  • vor Änderungen Backup und Rollback festlegen;
  • öffentliche Aktionen an eine eindeutige Freigabe binden.

Capability ohne Governance ist kein Fortschritt, sondern ein ungesicherter Beschleuniger.

Drei Lager und ihre blinden Flecken

Das Rendite-Lager will schnell skalieren und Kosten externalisieren. Es behandelt Beschäftigte, Daten, Energie und gesellschaftliche Risiken als nachgelagerte Probleme. Das Neugier-Lager erkennt reale Möglichkeiten, unterschätzt aber leicht, wie aus einem Experiment ein dauerhafter Prozess mit Zugängen, Abhängigkeiten und Haftungsfragen wird. Das Moralblock-Lager sieht berechtigte Gefahren, kann jedoch Entwicklung und eigenes Wissen so stark bremsen, dass am Ende wieder einige wenige Konzerne die Technik kontrollieren.

Eine souveräne Position nimmt von allen drei Seiten etwas ernst: die Innovationskraft, die Notwendigkeit von Grenzen und die Frage, wer Kosten und Nutzen trägt. Sie verweigert sich aber ihren Absolutheiten.

Für eine kleine Community bedeutet das: Automatisierung darf Arbeit erleichtern, aber sie darf das Betreiberwissen nicht auffressen. Wenn ein Assistent jede Konfiguration erzeugt und nur noch ein Senior blind bestätigt, lernt der Nachwuchs weder DNS noch TLS noch Logauswertung. Wenn Moderation vollständig an Klassifikatoren ausgelagert wird, verliert die Community die Fähigkeit, Regeln zu begründen und Konflikte selbst zu bearbeiten.

Physical AI: Wenn ein Fehler Gewicht bekommt

Bei Physical AI verlässt der Fehler den Bildschirm. Ein Haushaltsroboter, ein Pflegesystem oder eine autonome Maschine bewegt Masse durch reale Räume. Eine falsche Klassifikation kann dann nicht nur einen unpassenden Text erzeugen, sondern eine Person verletzen, Eigentum beschädigen oder sensible Situationen aufzeichnen.

Damit verschmelzen Datenschutz, Produktsicherheit und Haftung. Ein System muss nicht bewusst sein, um gefährlich oder nützlich zu handeln. Die Bewusstseinsfrage ist philosophisch interessant; für den Betrieb sind Kräfte, Sensorgrenzen, Abschaltmöglichkeiten, Protokolle und Verantwortlichkeiten unmittelbarer.

Zwei Prüfungen gehören deshalb zusammen. Technisch muss geklärt werden, welche Zustände, Geschwindigkeiten und Kräfte erlaubt sind und wie ein sicherer Stopp funktioniert. Sozial muss geklärt werden, wer Daten sehen darf, wer Entscheidungen überprüft und wer für Schäden einsteht.

Sobald KI einen Körper bekommt, bekommt auch ihr Fehler Masse, Geschwindigkeit und Reichweite.

Europa und Silicon Valley: Die falsche Wahl

Europa wird gern vor eine falsche Alternative gestellt: entweder schnelles Silicon-Valley-Tempo oder Grundrechte und Regulierung. Tatsächlich braucht Europa beides – Entwicklungskraft und demokratische Kontrolle. Regeln ohne eigene Infrastruktur machen abhängig. Infrastruktur ohne Rechte reproduziert nur das Machtmodell anderer Anbieter unter europäischer Flagge.

Der AI Act folgt einem risikobasierten Ansatz. Das ist sinnvoll, wenn Regeln nicht beim Papier enden. Kleine Betreiber und Open-Source-Projekte brauchen verständliche Anforderungen, zugängliche Prüfwerkzeuge und klare Abgrenzungen. Große Anbieter dürfen Regulierung nicht als Markteintrittsbarriere benutzen, die sie selbst mit Rechtsabteilungen überwinden, während kleinere Alternativen verschwinden.

Digitale Souveränität entsteht außerdem nicht durch den Firmensitz allein. Entscheidend sind offene Standards, exportierbare Daten, dokumentierte Schnittstellen, kontrollierbare Schlüssel und eine realistische Wechselmöglichkeit. Ein europäisches Produkt mit geschlossenem Format kann unfreier sein als ein transparent betriebener offener Dienst.

Öffentliche Beschaffung könnte hier Macht verschieben: nicht nur Funktionen einkaufen, sondern Portabilität, Reproduzierbarkeit, Sicherheitspflege und Exit-Fähigkeit verlangen. Wer öffentliche Infrastruktur liefert, muss erklären können, wie sie ohne ihn weiterbetrieben werden kann.

Arbeit: Produktivität ist eine Verteilungsfrage

Die Internationale Arbeitsorganisation unterscheidet bei generativer KI zwischen Exposition, Transformation und vollständiger Ersetzung. Diese Unterscheidung ist zentral. Ein Beruf besteht aus vielen Tätigkeiten. Einige lassen sich automatisieren, andere verändern sich, wieder andere gewinnen an Bedeutung.

Der gesellschaftliche Ausgang ist nicht technisch vorbestimmt. Wenn Produktivität steigt, können Gewinne wachsen, mehr Leistungen produziert oder Arbeitszeiten verkürzt werden. Welche Mischung entsteht, ist eine Macht- und Verteilungsfrage.

Frühere Automatisierungswellen haben neue Berufe geschaffen. Das ist kein Trost für Menschen, deren Einkommen heute wegfällt und denen morgen der Zugang zu Qualifizierung fehlt. Übergänge brauchen Zeit, soziale Sicherung und Mitbestimmung. Sonst werden Gewinne privatisiert und Anpassungskosten auf Beschäftigte und öffentliche Haushalte verschoben.

Auch Bildung darf nicht auf Bedienkompetenz schrumpfen. Wer nur noch Prompts formuliert, ohne Quellen, Code, Logs oder Argumente beurteilen zu können, wird vom Werkzeug abhängig. Der bessere Lernpfad lautet: Vorschlag erklären lassen, im Testsystem ausführen, Ergebnis prüfen, Fehler begründen und erst dann übernehmen.

Automatisierung verteilt nicht von selbst Wohlstand. Sie verteilt zuerst Macht.

Sieben Leitlinien für souveräne KI

Aus der abstrakten AGI-Debatte lässt sich ein konkreter Handlungsrahmen ableiten:

  1. Begriffe vor Behauptungen: Wer AGI sagt, benennt Breite, Leistungsniveau und Autonomie.
  2. Aufgaben statt Magie: Jeder Einsatz erhält klare Ein- und Ausgaben, Grenzen und Erfolgskriterien.
  3. Minimale Rechte: Kein Agent bekommt mehr Zugriff, als die konkrete Aufgabe verlangt.
  4. Verifikation: Quellen werden geöffnet, Konfigurationen getestet und risikoreiche Ergebnisse vollständig geprüft.
  5. Rückweg: Vor Änderungen existieren Sicherung, Rollback und eine verantwortliche Person.
  6. Offene Alternativen: Datenexport, offene Protokolle und dokumentierte Schnittstellen werden vor dem Lock-in geplant.
  7. Gegenpool: Zu großen Behauptungen gehört eine belastbare Gegenposition; Tatsache, Quelle, Analyse und Meinung bleiben getrennt.

Diese Regeln verhindern weder Innovation noch Fehler. Sie machen Entscheidungen sichtbar und korrigierbar. Souveränität ist kein Alles-oder-nichts-Zustand. Sie wächst durch eigene Domains, getrennte Konten, kontrollierte Schlüssel, exportierbare Daten, dokumentierte Konfigurationen und getestete Backups.

Vielleicht werden wir später sagen, eine Form kompetenter AGI sei 2025 oder 2026 bereits vorhanden gewesen. Vielleicht werden wir feststellen, dass das Schlagwort mehr verdeckt als erklärt hat. Für die heutige Praxis ist entscheidend: Wir haben leistungsfähige, fehlerhafte Systeme, die Arbeit, Infrastruktur und Macht verändern.

Wir brauchen deshalb keine neue Religion – weder eine des Heils noch eine des Untergangs. Wir brauchen Betreiberwissen, demokratische Regeln, freie Alternativen und den Mut, einer beeindruckenden Maschine nicht blind die Schlüssel zu geben.

Quellen

  1. Meredith Ringel Morris et al., „Levels of AGI: Operationalizing Progress on the Path to AGI“:
    https://arxiv.org/abs/2311.02462
  2. METR, „Measuring AI Ability to Complete Long Tasks“:
    https://metr.org/blog/2025-03-19-measuring-ai-ability-to-complete-long-tasks/
  3. NIST, „Artificial Intelligence Risk Management Framework“:
    https://www.nist.gov/itl/ai-risk-management-framework
  4. Europäische Kommission, „Regulatory framework for AI“:
    https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
  5. Internationale Arbeitsorganisation, „Generative AI and Jobs: A Refined Global Index of Occupational Exposure“:
    https://www.ilo.org/publications/generative-ai-and-jobs-refined-global-index-occupational-exposure

CTA

Diskussion: https://treff.darknight-coffee.eu/@carrabelloy
Podcast: https://podcast.darknight-coffee.org/pages/startseite
Blog: https://carrabelloy.darknight-coffee.org/blog/
Wenn dir das Projekt hilft: Spendenlinks sind im Blog.