Letztes Jahr betrat Kaylin Hayman ein Gericht in Pittsburgh, um gegen einen Mann auszusagen, den sie nie getroffen hatte und der ihr Gesicht benutzt hatte, um pornografische Bilder mit ihm zu machen künstliche Intelligenz Technologie.
Kaylin, 16, ist eine Kinderschauspielerin, die in dem Film mitspielte Disney Show Just Roll With It von 2019 bis 2021. Der Täter, ein 57-jähriger Mann namens James Smelko, hatte sie wegen ihres öffentlichen Profils ins Visier genommen. Sie ist eines von rund 40 seiner Opfer, allesamt Kinderschauspieler. Auf einem der Bilder von Kaylin, die im Prozess als Beweismittel vorgelegt wurden, verwendete Smelko ihr Gesicht von einem auf veröffentlichten Foto Instagram Als sie 12 Jahre alt war, arbeitete sie am Set und überlagerte es auf den nackten Körper einer anderen Person.
„Ich habe ziemlich oft unkontrolliert geweint, weil ich nicht verstehe, warum manche Menschen so böse sind“, erzählt sie dem Guardian in einem Interview. „Das kann ich mir nie wirklich vorstellen.“
Kaylin lebt in Ventura, Kalifornien, und Smelko war dort ansässig Pennsylvania als er diese Verbrechen gegen sie beging. Sie war schockiert, als sie erfuhr, dass ihr Fall nur deshalb vor Gericht gebracht werden konnte, weil es sich um ein zwischenstaatliches Verbrechen handelte. Der Besitz von Darstellungen sexuellen Kindesmissbrauchs ist nach US-Bundesgesetz strafbar. Aber nach den Gesetzen des US-Bundesstaates Kalifornien galt es nicht als illegal.
Kaylin setzte ihr Entsetzen in die Tat um. In diesem Jahr wurde sie zu einer überzeugten öffentlichen Verfechterin eines neuen kalifornischen Gesetzentwurfs, AB 1831, der den Geltungsbereich bestehender Gesetze gegen Material zum sexuellen Missbrauch von Kindern (CSAM) auf Bilder und Videos ausdehnt, die digital verändert oder mithilfe von KI generiert wurden. Im Juni sagte sie in der Landeshauptstadt Sacramento zur Unterstützung des Gesetzentwurfs aus.
„Ich sprach darüber, wie ich mich verletzt fühlte und dass ich absolut entsetzt darüber war, dass dies in Kalifornien nicht bereits ein Verbrechen war“, sagt Kaylin. „Kalifornien ist ein so großer Teil der Schauspielbranche und es gibt so viele Kinder, die vor diesem Verbrechen nicht geschützt wurden.“
Ende September unterzeichnete der Gouverneur von Kalifornien, Gavin Newsom, die Maßnahme. Kinderschänder, die solches Material erstellen, können im Bundesstaat mit Gefängnis und Geldstrafen von bis zu 100.000 US-Dollar rechnen.
Während sich das neue Gesetz auf KI in den Händen von Kinderräubern konzentriert, besteht für Kaylin laut ihr und ihren Eltern Mark und Shalene Hayman das Risiko, Smelko oder anderen wie ihm zu begegnen.
Kaylin war 10 Jahre alt, als sie ihren ersten Instagram-Account eröffnete. Das soziale Netzwerk erfordert dass seine Benutzer mindestens 13 Jahre alt sein müssen, um sich anzumelden, mit Ausnahme von Konten, die von Eltern verwaltet werden. Smelko lud Fotos von ihrem Profil herunter, um sexuelle Bilder zu erstellen, die ihr Gesicht mit nackten Körpern anderer Mädchen und Frauen kombinierten.
„Disney hat sie reingelegt Instagram Konto speziell, um für die Show und sich selbst zu werben“, sagt Mark. „Aber wenn diese Unternehmen diese Kinder beschäftigen und sie dazu zwingen, dort zu posten, ohne Unterstützung zu leisten, dann liegt das größere Problem.“
Diese Unterstützung sollte Schulungen zum Umgang mit Belästigung und Kontosperrungen sowie Beratung umfassen, sagt er. Kaylin schiebt die Schuld ebenfalls Disney zu.
„Das PR-Team von Disney hat mich und alle Kinder bei Disney dazu gebracht, sich für eine App anzumelden. Früher schickten sie uns jede Woche Clips, um sie auf Instagram zu posten, damit eine Folge herauskam“, sagt Kaylin. „Es begann mit meinem Job und der Aussaat dieser Saat. Ich würde mir wünschen, dass sie etwas Verantwortung übernehmen, aber das ist noch nicht geschehen.“
In den letzten Jahren wurde Kaylin über ihre Instagram- und TikTok-Konten von Männern belästigt, indem sie ihr Nacktfotos schickten. Sie hat die unerwünschten Nachrichten beiden Social-Media-Unternehmen gemeldet, sagt jedoch, dass keine Maßnahmen ergriffen wurden.
„Sie hatte auf jeden Fall eine Menge gruseliger Stalker, die sie weiterhin verspotten“, sagt Shalene.
Mark glaubt, dass Sag-Aftra, die Hollywood-Schauspielergewerkschaft, ihre Mitglieder auch proaktiver über die Risiken aufklären muss, die entstehen, wenn Raubtiere KI und soziale Medien nutzen, um Persönlichkeiten des öffentlichen Lebens zu schikanieren. Beide Eltern prüfen regelmäßig Kaylins Konten, die sie weiterhin nutzt und auf die sie Zugriff hat.
„Wir lesen viele Kommentare und denken: ‚Was ist los mit den Leuten?‘, aber ich weiß nicht, ob man da davonkommen kann. Es ist schwierig, in dieser Branche tätig zu sein und nicht in den sozialen Medien vertreten zu sein“, sagt Shalene. „Ich würde mir wünschen, dass die Social-Media-Unternehmen verantwortungsvolle Zensur und Schutzmaßnahmen ergreifen.“
In den letzten Jahren hat Instagram mehrere Initiativen angekündigt, um den Schutz seiner Nutzer unter 16 Jahren zu verbessern, darunter Kindersicherungen und Maßnahmen, um festzulegen, wer ihnen Nachrichten senden darf. Im September kündigte das Unternehmen an, alle Konten für Benutzer unter 18 Jahren standardmäßig privat zu machen, ein Schritt, der von Befürwortern der Kindersicherheit gelobt wurde. Die gleichen Einschränkungen gelten gemäß den Meta-Richtlinien für verifizierte Konten von Minderjährigen.
„Auf Instagram werden so viele unangemessene Bilder verbreitet. Ich verstehe einfach nicht, warum man sie an Kinder verschicken kann“, sagt Kaylin, die diesen Monat 17 Jahre alt wird. „Instagram sollte sagen: ‚Nein, das ist nicht erlaubt‘ und es entfernen. Aber es passiert nicht, und ich verstehe es nicht.“
Meta sagte in einer Erklärung: „Das haben wir detaillierte und solide Richtlinien gegen Nacktheit und Ausbeutung von Kindern, einschließlich realer Bilder und solcher, die mit GenAI erstellt wurden.“
„SAG-AFTRA hat seit mindestens 2018 über die Gefahren der Deepfake-Technologie aufgeklärt, verhandelt und Gesetze erlassen“, sagte Jeffrey Bennett, der General Counsel von SAG-AFTRA. Bennett verwies auf die Veröffentlichung einer Zeitschrift durch die Gilde über Deepfakes und die Teilnahme an Panels und veröffentlichte Artikel zu diesem Thema.
Disney gab keinen Kommentar ab.
Die Verbreitung von CSAM steigt online. In der Vergangenheit haben Raubtiere Fotobearbeitungssoftware verwendet, doch die jüngsten Fortschritte bei KI-Modellen bieten leicht zugängliche Möglichkeiten, um in großen Mengen realistischere Missbrauchsbilder von Kindern zu erstellen. Im Jahr 2023 wird das National Center for Missing & Exploited Kinder (NCMEC), ein in den USA ansässiges Clearinghaus für die globale Berichterstattung über CSAM, 36,2 Mio. Meldungen erhalten von Kindesmissbrauch im Internet, ein Anstieg von 12 % gegenüber dem Vorjahr. Die meisten davon kamen von Meta.
Während sich die meisten dieser eingegangenen Berichte auf reale Fotos und Videos von sexuell missbrauchten Kindern bezogen, gingen beim NCMEC auch 4.700 Berichte über Bilder oder Videos der sexuellen Ausbeutung von Kindern ein, die durch generative KI erstellt wurden. Die Organisation war kritisch von KI-Unternehmen dafür, dass sie nicht aktiv versuchen, die Produktion von CSAM zu verhindern oder aufzudecken.
Kaylin sagt, dass die Entdeckung, dass ihr Gesicht zur Herstellung von CSAM verwendet wurde, das Ende ihrer kindlichen Unschuld bedeutete. Sie macht sich jetzt mehr Sorgen um ihre eigene Sicherheit und die anderer Kinder und Jugendlicher, die sie kennt.
„Wenn ich einen Mann oder jemanden sehe, der mich ein bisschen seltsam oder seltsam ansieht, bin ich immer nervös“, sagt sie. „Ich denke immer an das Schlimmste, was in bestimmten Situationen passieren kann. Ich glaube, junge Frauen mussten sich daran gewöhnen. Es ist bedauerlich, dass ich diesen Weckruf mit 16 haben musste. Ich schätze, es ist einfach ein Teil des Lebens“, fügt sie hinzu.
Vor einem Jahr bedeutete ihre Aussage im Prozess gegen Smelko, dass sie etwas Kontrolle über die Situation zurückerlangt hatte, sagt sie. Während sie sich vor Gericht auf die Beantwortung der Fragen des Staatsanwalts konzentrierte und in Richtung der Geschworenen blickte, warf sie einen kurzen Blick auf den Fremden, der wegen sexueller Ausbeutung vor Gericht stand.
„Als ich einen flüchtigen Blick auf ihn erhaschte, sah es so aus, als hätte er ein wirklich trauriges Leben gehabt und wahrscheinlich blieb er die meiste Zeit drinnen, weil er kein Erstverbrecher war“, sagt sie. Nachdem sie ausgesagt hatte, wurde Smelko wegen zweier Fälle des Besitzes von Kinderpornografie verurteilt.
Kaylin ist fest entschlossen, weiterhin zu schauspielern und möchte eines Tages in Filmen auftreten. Aber im Moment konzentriert sie sich darauf, ihr Abschlussjahr an der High School zu beenden und sich gegen die Ausbeutung von Kindern im Internet einzusetzen. Die Tortur hat in ihr auch einen neuen Ehrgeiz geweckt. Sie möchte Jura studieren, um eines Tages eine auf Kinderrechte spezialisierte Anwältin zu werden.
„Ich habe großes Glück, dass mein Fall nicht schlimmer war. Ich weiß, dass es vielen Menschen schlechter geht als mir“, sagt sie. „Ich versuche, etwas so Schlechtem ein wenig Gutes hinzuzufügen.“
