KI wird zunehmend für Sextortion, Betrug und Kindesmissbrauch eingesetzt, sagt der britische Polizeichef

Pädophile, Betrüger, Hacker und Kriminelle aller Art nutzen zunehmend aus Künstliche Intelligenz (KI) um Opfer auf neue und schädliche Weise ins Visier zu nehmen, warnte ein hochrangiger Polizeichef.

Alex Murray, Leiter der KI-Abteilung der nationalen Polizei, sagte, dass der Einsatz der Technologie aufgrund ihrer zunehmenden Zugänglichkeit schnell zunehme und dass die Polizei „schnell handeln“ müsse, um der Bedrohung Herr zu werden.

„Aus der Geschichte der Polizeiarbeit wissen wir, dass Kriminelle erfinderisch sind und alles tun, was sie können, um Verbrechen zu begehen. Sie nutzen jetzt sicherlich KI, um Verbrechen zu begehen“, sagte er.

„Dies kann im internationalen, schwerwiegenden Ausmaß der organisierten Kriminalität passieren, und es kann im Schlafzimmer von jemandem passieren … Sie können an jede Art von Kriminalität denken, sie durch eine KI-Linse betrachten und sagen: ‚Was ist hier die Chance?‘“

Rede vor dem National Police Chiefs‘ Council Konferenz letzte Woche in LondonMurray äußerte Bedenken hinsichtlich aufkommender KI-„Raubüberfälle“, die von Betrügern eingesetzt werden Deep-Fake-Technologie sich als Unternehmensleiter auszugeben und ihre Kollegen dazu zu verleiten, große Geldbeträge zu überweisen.

In diesem Jahr wurde ein Finanzmitarbeiter eines multinationalen Unternehmens dazu verleitet, 200 Millionen HK$ (20,5 Millionen Pfund) an Kriminelle zu zahlen, nachdem es den Betrügern in einer Videokonferenz gelungen war, sich überzeugend als Finanzvorstand des Unternehmens auszugeben.

Ähnliche Fälle wurden aus mehreren Ländern gemeldet, wobei der erste Raubüberfall dieser Art vermutlich im Jahr 2019 auf ein britisches Energieunternehmen gerichtet war.

Murray, der Direktor für Bedrohungsführung bei National ist Verbrechen Die Agentur sagte, dass es sich bei dem Phänomen um ein „Verbrechen mit hohen Kosten und geringer Prävalenz“ handele und dass ihr persönlich Dutzende Fälle im Vereinigten Königreich bekannt seien.

Er sagte, dass der größte Teil des kriminellen Einsatzes von KI durch Pädophile erfolgt sei Generative KI um Bilder und Videos zu erstellen, die sexuellen Missbrauch von Kindern darstellen.

„Wir sprechen von Tausenden und Abertausenden von Bildern“, sagte Murray. „Alle Bilder, ob synthetisch oder nicht, sind gesetzeswidrig, und Menschen nutzen generative KI, um Bilder von Kindern zu erstellen, die die schrecklichsten Dinge tun.“

Letzten Monat wurde der 27-jährige Hugh Nelson aus Bolton zu 18 Jahren Gefängnis verurteilt, nachdem er Online-Pädophilenringen einen kostenpflichtigen Dienst angeboten hatte, bei dem er mithilfe von KI angeforderte Bilder von ihnen erstellte Kinder werden missbraucht.

Die gleiche Technologie wird auch verwendet Sextortion, eine Art Online-Erpressung wo Kriminelle damit drohen, unanständige Bilder von Opfern zu veröffentlichen, sofern diese nicht zahlen oder ihren Forderungen nachkommen.

Früher wurden bei diesem Phänomen Fotos verwendet, die Opfer von sich selbst geteilt hatten, oft mit ehemaligen Partnern oder Tätern, die gefälschte Identitäten nutzten, um ihr Vertrauen zu gewinnen, aber KI kann jetzt verwendet werden, um aus sozialen Medien aufgenommene Fotos zu „enthüllen“ und zu manipulieren.

Murray sagte, Hacker nutzen KI auch, um nach Schwachstellen in Zielcode oder Software zu suchen und „Schwerpunktbereiche“ für Cyberangriffe bereitzustellen. „Der Großteil der KI-Kriminalität dreht sich derzeit um Bilder von Kindesmissbrauch und Betrug, aber es gibt viele potenzielle Bedrohungen“, fügte er hinzu.

Es wächst die Sorge, dass scheinbar harmlose Chatbots Menschen zu Kriminalität und Terrorismus anstiften könnten, nachdem bekannt wurde, dass ein Mann versucht hat, Königin Elizabeth II. anzugreifen mit einem Biest 2021 erhielt er einen Anreiz von a „KI-Freundin“-Frau.

Jonathan Hall, der unabhängige Gutachter der Regierung für Terrorismusgesetze, hat den möglichen Einsatz von KI durch terroristische Gruppen untersucht und die „Chatbot-Radikalisierung“ sowie die Erzeugung von Propaganda und die Erleichterung und Planung von Angriffen hervorgehoben.

Er entdeckte, dass er mithilfe einer beliebten kommerziell erhältlichen Plattform einen Osama-bin-Laden-Chatbot erstellen konnte und dass dies „sehr einfach“ war.

In einer Rede im Lancaster House letzten Monat warnte Hall: „Auch wenn wir nicht genau wissen, wie generative KI von Terroristen ausgenutzt wird, brauchen wir ein gemeinsames Verständnis von generativer KI und das Vertrauen, zu handeln, und schon gar nicht eine Reaktion darauf.“ sagt: „Das ist sehr schwierig.“

„Wir müssen die Fehler der Anfangszeit des Internets vermeiden, als es „jeder für jeden“ gab.“

Murray sagte, dass die Ausnutzung der KI-Technologie durch Kriminelle aller Art voraussichtlich zunehmen wird, da die KI-Technologie immer fortschrittlicher wird und immer mehr Software zur Text- und Bilderzeugung auf den Markt kommt und weit verbreitet ist.

„Manchmal kann man erkennen, ob es sich bei etwas um ein KI-Bild handelt, aber es verschwindet sehr schnell“, warnte er. „Menschen, die diese Art von Software derzeit verwenden, sind noch recht spezifisch, aber sie wird sehr einfach zu bedienen sein.

„Einfacher Zugang, Realismus und Verfügbarkeit sind die drei Faktoren, die wahrscheinlich zunehmen werden … Wir als Strafverfolgungsbehörden müssen in diesem Bereich schnell agieren, um die Kontrolle zu behalten.“

„Ich denke, es ist vernünftig anzunehmen, dass wir bis 2029 einen deutlichen Anstieg all dieser Arten von Straftaten erleben werden, und das wollen wir vermeiden“, sagte er.