EINS Innenministerium Aktivisten sagen, dass ein künstliches Intelligenztool, das Durchsetzungsmaßnahmen gegen erwachsene und minderjährige Migranten vorschlägt, es für Beamte zu einfach machen könnte, automatisierte, lebensverändernde Entscheidungen zu verhindern.
Als neue Details des KI-gestützten Einwanderungskontrollsystems bekannt wurden, nannten Kritiker es einen „Robo-Sachbearbeiter“, der „Ungerechtigkeiten kodieren“ könne, da ein Algorithmus an der Gestaltung von Entscheidungen, einschließlich der Rückführung von Menschen in ihre Heimatländer, beteiligt sei.
Die Regierung besteht darauf, durch die Priorisierung der Arbeit Effizienz zu erzielen und dass für jede Entscheidung ein Mensch verantwortlich bleibt. Es wird genutzt mitten in eine steigende Zahl von Asylbewerbern, gegen die ein Abschiebeverfahren läuft, derzeit rund 41.000 Personen.
Aktivisten für die Rechte von Migranten forderten das Innenministerium auf, das System zurückzuziehen, und behaupteten, es handele sich um „Technologie, die eingesetzt wird, um Grausamkeit und Schaden wirksamer zu machen“.
Ein Einblick in die Funktionsweise des weitgehend undurchsichtigen Systems ist nach einem einjährigen Kampf um die Informationsfreiheit möglich geworden, bei dem redigierte Handbücher und Folgenabschätzungen an die Kampagnengruppe Privacy International weitergegeben wurden. Sie enthüllten auch, dass Personen, deren Fälle vom Algorithmus verarbeitet werden, nicht ausdrücklich darüber informiert werden, dass KI im Spiel ist.
Das System ist eines von mehreren KI-Programmen, die britische Regierungsbehörden implementieren, da Beamte mehr Geschwindigkeit und Effizienz anstreben. Es gibt Forderungen nach mehr Transparenz beim Einsatz künstlicher Intelligenz durch die Regierung in Bereichen von der Gesundheit bis zum Wohlergehen.
Staatsminister für Wissenschaft, Peter Kyle, sagte KI habe „ein unglaubliches Potenzial, unsere öffentlichen Dienste zu verbessern … aber um die Vorteile voll auszuschöpfen, müssen wir Vertrauen in diese Systeme aufbauen“.
Aus den Offenlegungen des Innenministeriums geht hervor, dass das System „Identify and Prioritize Immigration Cases“ (IPIC) mit einer Reihe persönlicher Informationen über Personen gespeist wird, die potenziellen Durchsetzungsmaßnahmen unterliegen, darunter biometrische Daten, ethnische Zugehörigkeit und Gesundheitsmerkmale sowie Daten über strafrechtliche Verurteilungen.
Der Zweck besteht darin, „eine einfachere, schnellere und effizientere Möglichkeit für die Einwanderungsbehörde zu schaffen, die Dienste/Interventionen zu identifizieren, zu priorisieren und zu koordinieren, die zur Bewältigung der Fallzahl erforderlich sind“, heißt es in den Dokumenten.
Privacy International sagte jedoch, es befürchte, dass das System so eingerichtet sei, dass menschliche Beamte die Handlungsempfehlungen des Algorithmus für einen Fall „absegnen“ würden, „weil es so viel einfacher ist … als eine Empfehlung kritisch zu prüfen und abzulehnen.“ Es“.
Damit Beamte eine vorgeschlagene Entscheidung zur „Rückkehr“ – also zur Rückführung von Menschen in ihr Heimatland – ablehnen können, müssen sie eine schriftliche Begründung vorlegen und die entsprechenden Gründe ankreuzen. Aber um das Urteil des Computers zu akzeptieren, ist keine Erklärung erforderlich, und der Beamte klickt auf eine Schaltfläche mit der Aufschrift „Akzeptieren“ und bestätigt, dass der Fall auf anderen Home-Office-Systemen aktualisiert wurde, wie aus den Schulungshandbüchern hervorgeht.
Auf die Frage, ob dies zu einer Voreingenommenheit zugunsten der Annahme der KI-Entscheidung führe, lehnte das Innenministerium eine Stellungnahme ab.
Beamte beschreiben IPIC als ein regelbasiertes Workflow-Tool, das die Durchsetzung der Einwanderungsbestimmungen effizienter macht, indem es den Sachbearbeitern den nächsten Fall oder die nächste Maßnahme empfiehlt, die sie in Betracht ziehen sollten. Sie betonten, dass jede Empfehlung im IPIC-System von einem Fallmanager überprüft wurde, der sie nach ihren individuellen Vorzügen abwägen musste. Das System wird auch für EU-Bürger umgesetzt, die im Rahmen des EU-Abrechnungssystems im Vereinigten Königreich bleiben möchten.
Jonah Mendelsohn, Anwalt bei Privacy International, sagte, das Home-Office-Tool könne Auswirkungen auf das Leben von Hunderttausenden Menschen haben.
„Jeder, der das Migrationssystem durchläuft, hat derzeit keine Möglichkeit zu erfahren, wie das Tool in seinem Fall verwendet wurde und ob er dadurch dem Risiko einer unrechtmäßigen Durchsetzung ausgesetzt ist“, sagte er. „Ohne Änderungen zur Gewährleistung der algorithmischen Transparenz und Rechenschaftspflicht wird das Versprechen des Innenministeriums, bis 2025 „standardmäßig digital“ zu sein, die Ungerechtigkeiten im Einwanderungssystem weiter verstärken.“
Fizza Qureshi, die Geschäftsführerin des Migrants‘ Rights Network, forderte die Abschaffung des Tools und äußerte Bedenken, dass KI zu rassistischen Vorurteilen führen könnte.
„Es werden riesige Datenmengen in IPIC eingegeben, was einen verstärkten Datenaustausch mit anderen Regierungsabteilungen zum Sammeln von Gesundheitsinformationen bedeutet und darauf hindeutet, dass dieses Tool auch Migranten überwachen und überwachen wird, was einen weiteren Eingriff in ihre Privatsphäre bedeutet“, sagte sie.
IPIC ist seit 2019–2020 in großem Umfang im Einsatz. Das Innenministerium lehnte zuvor Anträge auf Informationsfreiheit ab, weil eine größere Offenheit „dazu genutzt werden könnte, Einwanderungskontrollen zu umgehen, indem Einblick in die Art und Weise gewährt wird, wie die Arbeit im Innenministerium und die Durchsetzung der Einwanderungsbestimmungen geprüft werden“.
Madeleine Sumption, die Direktorin des Migration Observatory an der Universität Oxford, sagte, der Einsatz von KI im Einwanderungssystem sei nicht grundsätzlich falsch, da KI theoretisch die menschliche Entscheidungsfindung verbessern könnte, anstatt sie zu ersetzen.
Sie sagte: „Die Regierung kann durchaus in der Lage sein, den Fall zu vertreten. KI führt zu einer besseren Entscheidungsfindung und reduziert unnötige Inhaftierungen, aber ohne mehr Transparenz können wir das nicht wissen.“
Wenn es beispielsweise unwahrscheinlich ist, dass ein Land wie der Iran abgeschobene Staatsangehörige akzeptiert, kann die Verfolgung solcher Fälle als Verschwendung begrenzter Durchsetzungsressourcen angesehen werden. Oder wenn der Fall einer Person durch Menschenrechtsgesetze untermauert werden muss und es daher unwahrscheinlich ist, dass sie schnell abgeschoben wird, ist es möglicherweise besser, anderen Abschiebungen Vorrang zu geben und so zu vermeiden, dass Personen auf unbestimmte Zeit ins Gefängnis gesteckt werden.
Home-Office-Dokumente Laut Aussage wird das Tool verwendet, um „die Schwere und das Ausmaß des durch Einwanderungsstraftäter verursachten Schadens einzuschätzen, die Identifizierung und Priorisierung von Fällen zu automatisieren und Informationen darüber bereitzustellen, wie lange eine Abschiebungssperre bereits besteht“.
Letzten Monat wurde dem britischen Parlament ein neuer Entwurf eines Datengesetzes zur Debatte vorgelegt, der „in den meisten Fällen eine automatisierte Entscheidungsfindung effektiv ermöglichen würde“. laut Anwälten. Dies wäre zulässig, solange die betroffenen Personen Einwände erheben, sinnvolle menschliche Eingriffe erreichen und automatisierte Entscheidungen anfechten können.
