Übernommen von Amnesty.de – Pressemeldungen:
Repression auf Knopfdruck: Mit Palantir und Babel Street treibt die US-Regierung eine automatisierte Abschiebepraxis voran. Der Einsatz der Systeme schränkt das Recht auf Protest ein und gefährdet Grundrechte und Rechtsstaat in den USA. Auch Deutschland sollte für die Technologien sensibilisiert sein.
Die US-Regierung setzt invasive KI-gestützte Überwachungstechnologien ein, die gezielt Nicht-US-Bürger*innen treffen – darunter Geflüchtete, Migrant*innen und internationale Studierende, die sich gegen Israels Kriegsführung in Gaza und für die Rechte von Palästinenser*innen einsetzen. Die Tools Babel X von Babel Street und Immigration OS von Palantir ermöglichen dauerhafte Massenüberwachung und automatisierte Datenanalysen für politisch motivierte Entscheidungsprozesse über den Aufenthaltsstatus von in den USA lebenden Personen.
Amnesty International wertete Dokumente des US-Heimatschutzministeriums, Beschaffungsunterlagen sowie Datenschutzfolgeabschätzungen aus. Sie zeigen, dass die automatisierte Datenanalyse nicht nur Daten aus staatlichen Quellen, sondern auch aus sozialen Netzwerken, IP-Adressen, Standortdaten und Kommunikationsmustern zusammenführt. Algorithmen werten dieses Material automatisiert aus, um Verhalten und vermeintliche „Gefährlichkeit“ von Menschen zu bestimmen – eine Praxis, die diskriminierend, fehleranfällig und hochgradig intransparent ist.
Brisant ist dies auch vor dem Hintergrund, dass das Unternehmen Palantir auch längst in Deutschland aktiv ist: Mit den Plattformen „HessenDATA“, „DAR“ und „VeRA“ beliefert das Unternehmen deutsche Polizeibehörden, derzeit wird eine Ausweitung des Einsatzes in weiteren Bundesländern sowie bundesweit diskutiert. 2023 erklärte das Bundesverfassungsgericht die gesetzlichen Grundlagen in Hessen und Hamburg für verfassungswidrig, weil sie zu weitgehende Eingriffe in Grundrechte erlaubten.
Amnesty zeigte bereits in einer Recherche 2020 und nun erneut, dass Palantir seine menschenrechtlichen Sorgfaltspflichten nach den UN-Leitprinzipien für Wirtschaft und Menschenrechte nicht erfüllt. Danach sind Unternehmen verpflichtet, die Menschenrechte bei ihrer Geschäftstätigkeit und in ihren Wertschöpfungsketten zu respektieren sowie die Beteiligung an Menschenrechtsverletzungen aktiv zu verhindern. Zudem sind die Staaten verpflichtet, verbindliche Regeln zur Einhaltung dieser Sorgfaltspflichten durch Unternehmen zu schaffen und bei der öffentlichen Auftragsvergabe die Achtung der Menschenrechte durch das Unternehmen sicherzustellen.
„Wenn deutsche Behörden mit Unternehmen Verträge abschließen, muss die Menschenrechtsbilanz dieser Firmen entscheidend berücksichtigt werden. Unsere Recherchen zeigen seit Jahren: Palantir wird seinen menschenrechtlichen Verpflichtungen nicht gerecht „, sagt Lena Rohrbach, Referentin für Menschenrechte im digitalen Zeitalter von Amnesty International Deutschland. „Es ist zutiefst besorgniserregend, dass die US-Regierung invasive Technologien von Palantir im Kontext einer Massendeportationsagenda und eines repressiven Vorgehens gegen Stimmen einsetzt, die den Krieg in Gaza kritisieren. Solche Systeme ermöglichen es, marginalisierte Gruppen in einem bislang ungekannten Ausmaß zu überwachen und willkürlich repressiven Maßnahmen auszusetzen. Sie schüchtern die Bevölkerung ein und halten sie davon ab, ihre Grundrechte wahrzunehmen, etwa an Protesten teilzunehmen. Das zeigt auch für Deutschland: Staaten müssen dem Einsatz automatisierter Datenanalysen sehr enge Grenzen setzen.“
Repressive Dynamik des „Catch and Revoke“-Programms
Im Zentrum steht das Programm „Catch and Revoke“ der Trump-Administration, das soziale Medien überwacht, Visa-Status verfolgt und automatisierte „Gefährlichkeitsanalysen“ erstellt. Auf Grundlage solcher Bewertungen können Visa widerrufen und Betroffene der Einwanderungsbehörde ICE gemeldet werden, die Festnahme und Abschiebung einleitet. Babel X von Babel Street, dass nach Amnesty-Informationen seit 2019 von der US-Behörde „Customs and Borders Protection (CBP)“ genutzt wird, scannt dabei soziale Netzwerke und kann Beschäftigungsverhältnisse von Personen nachvollziehen oder technische Geräte lokalisieren, um ein Aufgreifen der Person zu ermöglichen.
Durch „hartnäckige Suche“ überwacht es auch nach Abschluss eines Suchvorgangs kontinuierlich alle weiteren Informationen, die über eine Person online erscheinen. Immigration OS von Palantir bündelt eine Vielzahl sensibler Daten, beschleunigt und priorisiert Verfahren und ermöglicht so eine hochgradig automatisierte Abschiebepraxis. Es erlaubt zudem die „beinahe Echtzeit-Sichtbarkeit“ sogenannter „Selbstabschiebungen“.
Bereits im April 2025 erhielt Palantir dafür von der US-Behörde „Immigration and Customs Enforcement (ICE)“ einen neuen Vertrag im Umfang von 30 Millionen US-Dollar.
Die Folgen des Einsatzes solcher Technologien sind einschneidend: Aktuelle Recherchen zeigen, dass mindestens 1.800 und möglicherweise bis zu 4.000 Studierenden die Visa entzogen wurden. Viele der Betroffenen geben an, niemals an Protesten teilgenommen und auch keine Vorabinformation über den Widerruf ihrer Visa erhalten zu haben. Teils hatten sie lediglich geringfügigen Kontakt mit den Behörden, etwa wegen eines Strafzettels. Einer in Kalifornien eingereichten Klage zufolge wurden Studierende gezielt aufgrund ihrer Herkunft aus afrikanischen, arabischen, asiatischen und nahöstlichen Ländern sowie wegen ihres muslimischen Hintergrunds ins Visier genommen. Amnesty dokumentierte unter anderem den Fall des Columbia-Absolventen Mahmoud Khalil, der über drei Monate lang ohne rechtsstaatliche Grundlage von der ICE inhaftiert wurde.
KI-Überwachung als globale Gefahr für Grundrechte
Die aktuellen Vorgänge machen deutlich: KI-gestützte Überwachungssysteme wie Immigration OS und Babel X sind nicht nur ein Risiko für die Rechte von Geflüchteten, Migrant*innen und Studierenden in den USA – sie bedrohen weltweit die Grundrechte auf Privatsphäre, freie Meinungsäußerung und Versammlungsfreiheit. Palantir und Babel Street tragen dafür eine menschenrechtliche Verantwortung. Amnesty International fordert: Solange die Unternehmen nicht nachweisen können, dass sie ihren Einfluss als Zulieferer nutzen, um die schwerwiegenden Folgen der Politik ihrer Auftraggeber zu begrenzen, dürfen sie keine Werkzeuge bereitstellen, die dann zur politischen Unterdrückung missbraucht werden.
In Deutschland wiederum sollten Behörden im Einklang mit den UN-Leitprinzipien für Wirtschaft und Menschenrechte bei der Auftragsvergabe sicherstellen, dass die Unternehmen die Menschenrechte achten. Sie sollten keine Verträge mit Unternehmen abschließen, die systematisch in Menschenrechtsverletzungen involviert sind und nicht zeigen können, dass sie ihre eigenen menschenrechtlichen Sorgfaltspflichten gemäß den UN-Leitprinzipien umsetzen. Bereits 2020 hat Amnesty International in der Untersuchung „Failing to do right: The urgent need for Palantir to respect human rights“ gezeigt, dass Palantir diesen Pflichten nicht hinreichend nachkommt.
Quelle: Amnesty International
