Inhalte für Erwachsene, einschließlich KI-generierter Aktfotos, sind trotz jüngster Richtlinienänderungen weiterhin auf Facebook und Instagram verboten Meta.
Dies hat jedoch Apps – Plattformen, die nicht einvernehmliche, KI-generierte Nacktfotos von Prominenten und Influencern erstellen – nicht davon abgehalten, Anzeigen auf den Plattformen von Meta „nackt“ darzustellen. Und diese Anzeigen waren für mindestens einen Dienst namens Crush AI äußerst erfolgreich.
Laut einem neuen Bericht von 404Medienwie ursprünglich in Alexios Mantzarlis‘ Fälschen Newsletter erhält die Crush AI-Modifikator-App den größten Teil ihres Datenverkehrs von Metaplattformen wie Facebook und Instagram. Den Daten von Similarweb zufolge verzeichnete Crush AI im vergangenen Monat mehr als eine Viertelmillion Besuche bei seinem Dienst – und etwa 90 Prozent dieses Datenverkehrs kamen von den Plattformen von Meta.
Crush AI macht in seinen Werbeanzeigen sehr deutlich, was der Zweck seines Dienstes ist. Die Anzeigen des Unternehmens enthalten Fotos von echten Personen, wie der Instagram-Influencerin und Model Mikayla Demaiter und der OnlyFans-Erfinderin Sophie Rain. In den Anzeigen wird damit gerühmt, dass Nutzer „ein Foto hochladen“ und „die Kleidung von jemandem löschen“ können.
Zerstörbare Lichtgeschwindigkeit
Während Meta versucht hat, diese Anzeigen in den Griff zu bekommen, hat Crush AI eine sehr einfache Lösung entdeckt. Crush AI erstellt gefälschte Profilseiten mithilfe von KI-generierten Profilfotos und liefert auf Grundlage dieser Seiten neue Anzeigen. Die Anzeigen bewerben verschiedene Domainnamen, die beim Anklicken dann zu Crush AI weitergeleitet werden.
Mashable hat bereits über andere berichtet Deepfakes Und KI-Plattformen die die Werbeplattform von Meta nutzen, um Traffic und Umsatz mit KI-generierten Inhalten für Erwachsene zu steigern. Diese Anzeigen verstoßen strikt gegen die Richtlinien von Meta und das Unternehmen entfernt sie häufig, sobald es auf bestimmte Anzeigen aufmerksam wird.
Allerdings wie 404Media zuvor gemeldetMeta scheint unterschiedliche Standards für die Anzeigenmoderation zu haben. Richtlinienverletzende Inhalte, die von Nutzern als Facebook- oder Instagram-Beiträge veröffentlicht werden, werden von Meta häufig automatisch erkannt und anschließend entfernt. Derselbe Inhalt wird jedoch nicht erkannt, wenn er auf die Werbeplattform von Meta hochgeladen wird.
Meta wurde im vergangenen Jahr eingeführt neue Werkzeuge und Richtlinien zur Verhinderung schädlichen Online-Verhaltens wie Sextortion. Aber die Anzeigen von Crush AI sind ein Beispiel dafür, wie die Plattformen von Meta als Waffe eingesetzt werden, um genau das Verhalten zu fördern, vor dem Meta seine jungen Nutzer schützen will.
