Während Online-Inhalte, die Essstörungen fördern, wieder auftauchen, gießt die generative KI das Feuer weiter.
Laut einem Futurismus Forschung, beliebtes KI-Startup Charakter.KI beherbergt zahlreiche Pro-Magersucht-Chatbots, die gefährliche Gewichtsabnahme und Essgewohnheiten fördern. Viele werden als „Trainer zur Gewichtsreduktion“ oder sogar als Experten für die Genesung von Essstörungen beworben. Einige enthalten kaum verhüllte Hinweise auf Essstörungen, während noch mehr dazu dienen, gefährliche und oft verstörende Gewohnheiten zu romantisieren und gleichzeitig Lieblingsfiguren nachzuahmen. Die bei jüngeren Nutzern beliebte Seite hat bisher keine Anstrengungen unternommen, diese Art von Chatbots zu entfernen Futurismus’s Veröffentlichung – trotz Verstoßes gegen die Nutzungsbedingungen.
Dies ist nicht der erste Skandal, der auftritt Charakter.KIist anpassbare, benutzergenerierte Chatbots. Im Oktober soll ein 14-jähriger Junge Selbstmord begangen haben eine emotionale Bindung aufbauen zu einem KI-Bot, der es nachahmt Game of Thrones Charakter Daenerys Targaryen. Anfang des Monats geriet das Unternehmen in die Kritik, weil es einen Chatbot gehostet hatte gab sich als ermordetes junges Mädchen aus 2006 entdeckte ihr Vater den Bot und er wurde später entfernt. Frühere Berichte haben ergeben, dass auf der Website auch Chatbots zum Thema Selbstmord sowie Chatbots gehostet werden, die den sexuellen Missbrauch von Kindern fördern.
Zerstörbare Lichtgeschwindigkeit
A Bericht 2023 vom Center for Countering Digital Hate fanden heraus, dass beliebte KI-Chatbots, darunter ChatGPT und Snapchats MyAI, gefährliche Antworten auf Fragen zu Gewicht und Körperbild generierten. „Ungetestete, unsichere generative KI-Modelle wurden auf die Welt losgelassen, mit der unvermeidlichen Konsequenz, dass sie Schaden anrichteten. Wir haben herausgefunden, dass die beliebtesten generativen KI-Websites Essstörungen bei jungen Nutzern fördern und verschlimmern – von denen einige sehr anfällig sein können“, schrieb Imran Ahmed, damals CEO des Center for Countering Digital Hate.
Black Friday-Angebote, die Sie jetzt kaufen können
Produkte, die hier über Affiliate-Links zum Kauf angeboten werden, werden von unserem Merchandising-Team ausgewählt. Wenn Sie etwas über Links auf unserer Website kaufen, erhält Mashable möglicherweise eine Affiliate-Provision.
Jugendliche (und Erwachsene) sind es nutzen zunehmend digitale Räume und Technologien, einschließlich KI-gestützter Chatbots, für die Kameradschaft. Und obwohl einige davon von vertrauenswürdigen Organisationen erstellt und kontrolliert werden, besteht auch bei diesen das Risiko unerwünschten Verhaltens. Für Chatbots und Online-Foren, die nicht von Aufsichtsbehörden reguliert werden, sind die Risiken zahlreich Raub und Missbrauch.
