Die britische Regierung versäumt es, den Einsatz künstlicher Intelligenz in einem verpflichtenden Register aufzulisten

Seit der Regierung hat keine einzige Abteilung in Whitehall den Einsatz künstlicher Intelligenzsysteme registriert es würde zur Pflicht werdenWarnungen herausgeben, dass der öffentliche Sektor angesichts der Implementierung algorithmischer Technologie, die sich auf Millionen von Leben auswirkt, „im Blindflug“ agiert.

KI wird von der Regierung bereits zur Entscheidungsfindung in allen Bereichen eingesetzt, von der Auszahlung von Sozialleistungen bis zur Durchsetzung der Einwanderungsbestimmungen, und Aufzeichnungen zeigen, dass Regierungsbehörden Dutzende Aufträge für künstliche Intelligenz und algorithmische Dienste vergeben haben. Letzte Woche wurde von einer von der Polizei gegründeten Beschaffungsstelle der Polizei ein Auftrag für Gesichtserkennungssoftware im Wert von bis zu 20 Millionen Pfund ausgeschrieben InnenministeriumWiederbelebung der Bedenken hinsichtlich der „massenhaften biometrischen Überwachung“.

Bisher wurden jedoch nur Details zu neun algorithmischen Systemen an eines übermittelt öffentliches Registerohne eines der immer zahlreicher werdenden KI-Programme, die im Sozialsystem, vom Innenministerium oder der Polizei eingesetzt werden. Der Mangel an Informationen besteht trotz der Ankündigung der Regierung im Februar dieses Jahres, dass die Nutzung des KI-Registers nun „eine Pflicht für alle öffentlichen Behörden“ sei.

Experten habe gewarnt dass KI, wenn sie unkritisch eingesetzt wird, möglicherweise Schaden anrichtet, wobei aktuelle prominente Beispiele dafür vorliegen, dass IT-Systeme nicht wie vorgesehen funktionieren, darunter die Horizon-Software der Post. Die in Whitehall eingesetzte KI reicht vom Copilot-System von Microsoft, das umfassend getestet wird, bis hin zu automatisierten Betrugs- und Fehlerprüfungen im Leistungssystem. In einer kürzlich vom Ministerium für Arbeit und Renten (DWP) herausgegebenen KI-Vertragsbekanntmachung wurde „ein wachsendes Interesse innerhalb des DWP beschrieben, das die breitere Regierung und Gesellschaft widerspiegelt“.

Peter Kyle, Staatssekretär für Wissenschaft und Technologie, hat zugegeben, dass der öffentliche Sektor „die Notwendigkeit, transparent über die Art und Weise zu sein, wie die Regierung Algorithmen einsetzt, nicht ernst genug genommen hat“.

Auf die mangelnde Transparenz angesprochen, sagte Kyle dem Guardian: „Ich akzeptiere, dass die Öffentlichkeit ein Recht darauf hat, wenn die Regierung Algorithmen im Namen der Öffentlichkeit einsetzt. Die Öffentlichkeit sollte das Gefühl haben, dass Algorithmen für sie selbst und nicht für andere da sind.“ Der einzige Weg, dies zu erreichen, besteht darin, ihre Verwendung transparent zu machen.“

Big Brother Watch, eine Gruppe, die sich für Datenschutzrechte einsetzt, sagte, die Entstehung des polizeilichen Gesichtserkennungsvertrags sei ungeachtet Abgeordnete warnen Der Mangel an Rechtsvorschriften zur Regulierung ihrer Verwendung sei „ein weiteres Beispiel für die mangelnde Transparenz der Regierung hinsichtlich des Einsatzes von KI-Technologie“.

„Der heimliche Einsatz künstlicher Intelligenz und Algorithmen zur Beeinflussung des Lebens der Menschen gefährdet die Datenrechte aller. Regierungsbehörden müssen offen und ehrlich darüber sein, wie sie diese Technologie nutzen“, sagte Madeleine Stone, Chief Advocacy Officer.

Das Innenministerium lehnte eine Stellungnahme ab.

Das Ada Lovelace Institute warnte kürzlich, dass KI-Systeme zwar scheinbar den Verwaltungsaufwand verringern, „aber das öffentliche Vertrauen ernsthaft schädigen und den öffentlichen Nutzen schmälern können, wenn die Vorhersagen oder Ergebnisse, die sie hervorbringen, diskriminierend, schädlich oder einfach ineffektiv sind“.

Imogen Parker, stellvertretende Direktorin der Daten- und KI-Forschungseinrichtung, sagte: „Mangelnde Transparenz lässt die Öffentlichkeit nicht nur im Dunkeln tappen, sondern bedeutet auch, dass der öffentliche Sektor bei der Einführung von KI blindlings agiert. Es werden keine Aufzeichnungen zur algorithmischen Transparenz veröffentlicht.“ schränken die Fähigkeit des öffentlichen Sektors ein, festzustellen, ob diese Tools funktionieren, aus dem zu lernen, was nicht funktioniert, und die verschiedenen sozialen Auswirkungen dieser Tools zu überwachen.“

Seit Ende 2022 sind lediglich drei Algorithmen im nationalen Register registriert. Dabei handelt es sich um ein System, das vom Kabinettsbüro zur Identifizierung digitaler Aufzeichnungen von langfristigem historischem Wert verwendet wird, um eine KI-gestützte Kamera zur Analyse von Fußgängerüberwegen in Cambridge und um ein System zur Analyse von Patientenbewertungen NHS Dienstleistungen.

Laut Tussell, einem Unternehmen, das Regierungsverträge überwacht, gab es seit Februar jedoch 164 Verträge mit Regierungsbehörden, in denen KI erwähnt wurde. Technologieunternehmen wie Microsoft und Meta bewerben ihre KI-Systeme regierungsübergreifend stark. Google Cloud finanzierte einen aktuellen Bericht, in dem behauptet wurde, dass eine stärkere Einführung generativer KI bis zu 38 Milliarden Pfund freisetzen könnte. im öffentlichen Sektor bis 2030. Kyle nannte es „eine starke Erinnerung daran, wie revolutionär generative KI für öffentliche Dienste sein kann“.

Nicht jede neue KI im öffentlichen Sektor umfasst Daten über Mitglieder der Öffentlichkeit. Ein 7-Millionen-Pfund-Vertrag. mit dem Stadtrat von Derby, beschrieben als „Umgestaltung des Stadtrats mithilfe von KI-Technologie“, und einem Vertrag über 4,5 Millionen Pfund. Die Zusammenarbeit mit dem Bildungsministerium besteht darin, „die Leistung von KI für die Bildung zu verbessern“.

Ein Sprecher des Ministeriums für Wissenschaft und Technologie bestätigte, dass der Transparenzstandard „jetzt für alle Abteilungen verbindlich“ sei und sagte, „eine Reihe von Aufzeichnungen werden bald veröffentlicht“.

Wo setzt die Regierung bereits künstliche Intelligenz ein?

• Das Ministerium für Arbeit und Renten hat generative künstliche Intelligenz genutzt, um mehr als 20.000 Dokumente pro Tag zu lesen, um „die Korrespondenz zu verstehen und zusammenzufassen“, wobei die vollständigen Informationen dann den Beamten zur Entscheidungsfindung zur Verfügung gestellt werden. Es verfügt über automatisierte Systeme zur Erkennung von Betrug und Fehlern bei Universal Credit-Anträgen, und KI unterstützt Agenten bei der Bearbeitung persönlicher Unabhängigkeitszahlungsansprüche durch die Zusammenfassung von Beweisen. In diesem Herbst begann das DWP damit, grundlegende KI-Tools in Jobcentern einzusetzen, um Jobcoaches die Möglichkeit zu geben, Fragen zur allgemeinen Kreditberatung zu stellen und so die Effektivität von Interviews mit Arbeitssuchenden zu verbessern.

• Das Innenministerium implementiert ein KI-gestütztes System zur Durchsetzung der Einwanderungsbestimmungen, das von Kritikern als „Robo-Sachbearbeiter“ bezeichnet wird. An der Entscheidungsfindung, auch bei der Rückführung von Menschen in ihre Heimatländer, ist ein Algorithmus beteiligt. Die Regierung beschreibt es als „regelbasiertes“ und nicht als KI-System, da es kein maschinelles Lernen aus Daten beinhaltet. Es heißt, dass es durch die Priorisierung der Arbeit für Effizienz sorgt, aber dass für jede Entscheidung ein Mensch verantwortlich bleibt. Das System wird in der Mitte eingesetzt eine steigende Fallzahl der Asylbewerber, gegen die ein Abschiebeverfahren läuft, mittlerweile rund 41.000 Menschen.

• Mehrere Polizeikräfte nutzen Gesichtserkennungssoftware, um mutmaßliche Kriminelle mithilfe künstlicher Intelligenz aufzuspüren. Dazu gehörten die Metropolitan Police, die South Wales Police und die Essex Police. Kritiker haben gewarnt, dass eine solche Software „die Straßen Großbritanniens in High-Tech-Polizeianlagen verwandeln wird“, Befürworter sagen jedoch, dass sie kriminelle Verdächtige fängt und dass Daten von unschuldigen Passanten nicht gespeichert werden.

• NHS England hat einen Vertrag über 330 Millionen Pfund. mit Palantir, um eine riesige neue Datenplattform zu schaffen. Die Vereinbarung mit dem amerikanischen Unternehmen, dass baut eine KI-gestützte digitale Infrastruktur auf und unter der Leitung von Donald Trump-Anhänger Peter Thiel hat Bedenken hinsichtlich der Privatsphäre der Patienten geweckt, obwohl Palantir sagt, dass seine Kunden die volle Kontrolle über die Daten behalten.

• Ein KI-Chatbot wird getestet, um Menschen bei der Navigation auf der weitläufigen Regierungswebsite gov.uk zu helfen. Es wird vom Government Digital Service unter Verwendung der ChatGPT-Technologie von OpenAI erstellt. RedboxEin weiterer KI-Chatbot zur Verwendung durch Beamte in Downing Street und anderen Regierungsabteilungen wurde ebenfalls eingesetzt, um es Beamten zu ermöglichen, schnell in sichere Regierungsdokumente einzutauchen und schnelle Zusammenfassungen und maßgeschneiderte Briefings zu erhalten.