Wenn heute über künstliche Intelligenz gesprochen wird, klingt vieles erst einmal harmlos. Es geht um Chatbots, Schule, Texte, Bilder, Bildung, Effizienz und darum, ob Maschinen denken können oder nicht.
Aber genau da darf die Debatte nicht stehen bleiben.
Denn die wirklich gefährliche Frage lautet nicht nur:
Was kann KI?
Die wirklich gefährliche Frage lautet:
Wer benutzt KI — und wofür?
Frau Alke Martens spricht über KI, Ethik und Verantwortung. Das ist wichtig. Aber wenn wir ehrlich über Ethik reden wollen, dann müssen wir auch über Palantir, Polizeisoftware, staatliche Datenverknüpfung und Überwachungstechnik reden.
Ausgangspunkt: Reel von Alke Martens
Hinweis: Der folgende Link führt zu Instagram/Meta. Beim Öffnen können Daten an Meta übertragen werden.
Instagram-Reel von Alke Martens:
https://www.instagram.com/reel/DbIltCusyhV/?igsh=ZGUzMzM3NWJiOQ==
In dem Reel spricht Alke Martens sinngemäß darüber, dass Technik nie nur Technik ist und kein Selbstzweck sein darf. Entscheidend ist, welches Ziel mit Technik verfolgt wird, welche Folgen ihr Einsatz hat, welche Art von Leben wir anstreben und welches Wertesystem dahintersteht.
Genau an diesem Punkt setze ich an.
Denn wenn wir über KI-Ethik sprechen, dürfen wir nicht nur über Chatbots, Schule, Social Media oder schöne Theorie reden. Dann müssen wir auch über Palantir, Polizeisoftware, staatliche Datenverknüpfung, Chatkontrolle, digitale ID, EU-Wallet und Überwachungstechnik sprechen.
Denn dort wird KI nicht mehr nur als Werkzeug eingesetzt.
Dort wird KI Teil von Macht.
Denn dort wird KI nicht als Spielzeug eingesetzt. Dort wird KI nicht als netter Schreibhelfer genutzt. Dort wird KI Teil eines Machtapparats.
Und genau da wird es gefährlich.
## Welche Art von Leben wollen wir?
Für mich steht über allem eine einfache Frage:
Welche Art von Leben wollen wir in Europa haben?
Ein Leben als freie Bürger?
Oder ein Leben als Datensätze in einem System, das immer mehr über uns weiß, immer mehr verknüpft, immer mehr bewertet und immer mehr vorhersagen will?
George Orwell 1984 war einmal eine Warnung.
Heute wirkt manches wie eine technische Bauanleitung.
Chatkontrolle.
Digitale ID.
EU-Wallet.
Gesundheitsakte.
Finanzüberwachung.
Digital Services Act.
Palantir bei der Polizei.
KI in Sicherheitsbehörden.
Automatisierte Analyse.
Datenverknüpfung.
Das sind keine getrennten Baustellen.
Das ist ein Muster.
Der Bürger wird digital immer tiefer erfasst. Der Staat bekommt immer mehr Werkzeuge. Private Tech-Konzerne liefern die Systeme. Und am Ende wird alles als Sicherheit, Fortschritt oder Effizienz verkauft.
## KI allein ist nicht das Problem
Ich bin nicht gegen Technik.
Ich bin nicht gegen KI.
Ich bin nicht gegen Digitalisierung.
Im Gegenteil: Gute Technik kann helfen. KI kann Arbeit erleichtern, Wissen zugänglich machen, Bildung verbessern, Forschung beschleunigen und auch Behörden effizienter machen.
Aber Technik ist nie neutral, wenn sie in einem Machtverhältnis eingesetzt wird.
Eine KI, die einem Bürger hilft, einen Text zu schreiben, ist etwas anderes als eine KI, die Polizeidatenbanken verknüpft.
Eine KI, die eine Schule unterstützt, ist etwas anderes als eine KI, die Menschenprofile aus Daten baut.
Eine KI, die Open Source läuft und lokal kontrollierbar ist, ist etwas anderes als ein undurchsichtiges System eines privaten Konzerns, das tief in staatliche Sicherheitsstrukturen eingebaut wird.
Darum liegt die ethische Gefahr nicht nur in KI selbst.
Die Gefahr liegt im Zusammenspiel aus KI, Überwachung, Staat, Datenmacht und politischem Kontrollwillen.
## Palantir gehört ins Zentrum der Debatte
Wenn wir über KI-Ethik sprechen, müssen wir über Palantir sprechen.
Nicht irgendwann. Jetzt.
Denn Palantir steht für genau diese Verbindung: große Datenmengen, staatliche Sicherheitsbehörden, Analyseplattformen, Verknüpfung von Informationen und eine politische Erzählung, dass mehr Daten automatisch mehr Sicherheit bedeuten.
Aber stimmt das wirklich?
Mehr Daten bedeuten nicht automatisch mehr Rechtsstaat.
Mehr Analyse bedeutet nicht automatisch mehr Wahrheit.
Mehr Verknüpfung bedeutet nicht automatisch mehr Gerechtigkeit.
Und mehr Überwachung bedeutet nicht automatisch mehr Sicherheit.
Es kann auch das Gegenteil passieren:
Unbescholtene Bürger geraten in Datennetze.
Fehlerhafte Verknüpfungen erzeugen falsche Verdachtsmomente.
Ein System wird zur Blackbox.
Behörden verlassen sich zu stark auf technische Treffer.
Private Konzerne werden Teil staatlicher Macht.
Und der Bürger weiß am Ende nicht einmal mehr, wo seine Daten gelandet sind.
Das ist ethisch hochproblematisch.
## Die entscheidenden Fragen
Wenn Frau Martens über KI und Ethik spricht, würde ich genau diese Fragen stellen:
Wer kontrolliert die KI-Systeme?
Welche Daten werden eingespeist?
Wer entscheidet, was ein Risiko ist?
Wer prüft Fehler?
Wer haftet bei falschen Treffern?
Wie kann sich ein Bürger wehren?
Wie transparent ist das System?
Warum braucht Deutschland amerikanische Überwachungssoftware?
Warum setzen Länder wie NRW, Hessen oder Bayern auf solche Systeme?
Was passiert, wenn diese Technik später politisch ausgeweitet wird?
Und warum wird jeder Grundrechtseingriff inzwischen mit Sicherheit, Kinderschutz, Terrorabwehr oder Effizienz verkauft?
Das sind die Fragen, die in eine echte KI-Ethik-Debatte gehören.
Nicht nur: Ist KI schlau?
Sondern: Wer bekommt Macht durch KI?
## Berlin und Brüssel müssen Farbe bekennen
Europa und Deutschland reden gerne von digitaler Souveränität.
Aber gleichzeitig holen sie sich Systeme, Plattformen und Denkweisen ins Haus, die Bürger immer stärker erfassen und auswertbar machen.
Das passt nicht zusammen.
Wer digitale Souveränität will, muss Open Source stärken.
Wer Bürgerrechte schützen will, muss Überwachung begrenzen.
Wer KI ethisch einsetzen will, muss Macht kontrollieren.
Wer Vertrauen will, muss Transparenz schaffen.
Wer Sicherheit will, darf Freiheit nicht opfern.
Und genau daran scheitert Politik immer wieder.
Berlin und Brüssel fragen zu selten:
Wie schützen wir den Bürger vor dem Staat?
Stattdessen fragen sie immer öfter:
Wie bekommt der Staat mehr Zugriff auf den Bürger?
Das ist für mich der falsche Weg.
## Mein Fazit
KI darf nicht zum Selbstzweck mächtiger Einzelner werden.
Nicht zum Spielzeug von Konzernen.
Nicht zum Werkzeug eines Überwachungsstaates.
Nicht zur Blackbox für Polizeibehörden.
Nicht zum Vorwand für immer mehr digitale Kontrolle.
KI muss dem Menschen dienen.
Dem Bürger.
Der Freiheit.
Der Transparenz.
Dem Rechtsstaat.
Und wenn sie das nicht tut, dann ist sie ethisch nicht sauber, egal wie schön die Vorträge darüber klingen.
Darum gehört Palantir in jede ernsthafte Debatte über KI-Ethik.
Denn dort zeigt sich, ob wir wirklich über Verantwortung reden — oder nur über Technik, solange sie harmlos klingt.
AGI ist da? Gegen den Hype, gegen die Blockade – für souveräne KI
