Meta entfernt KI-Charakterprofile nach Vorwürfen von Gegenreaktionen und Rassismus

Meta hat seine KI-Charakterkonten schließen Nach der Gegenreaktion haben NBC News und andere berichtet.

Während Meta diese Charaktere im Jahr 2023 auf den Markt brachte, zusammen mit KI-Personas mit Promi-AvatarenViele haben sie diese Woche online (wieder)entdeckt, nachdem sie kürzlich erschienen waren Finanzielle Zeiten Interview mit Metas VP of Product für generative KI, Connor Hayes. Hayes erwähnte KI-Personas auf Instagram und Facebook und sagte: „Wir gehen davon aus, dass diese KIs im Laufe der Zeit tatsächlich auf unseren Plattformen existieren, genau wie bei Konten.“

„Sie werden über Biografien und Profilbilder verfügen und in der Lage sein, KI-gestützte Inhalte auf der Plattform zu generieren und zu teilen … dort sehen wir, wie all das passiert“, fuhr er fort.

Meta hat letztes Jahr seine berühmten KI-Avatare abgeschaltetaber die KI-Profile nicht berühmter Personen gingen weiter – allerdings Viele haben aufgehört zu posten Im Jahr 2024 berichteten 404 Medien. Der Finanzielle Zeiten Das Interview führte jedoch dazu, dass Menschen nach diesen Profilen suchten. Was sie fanden, waren beleidigende Bilder von Randgruppen. Ein Beispiel ist Metas KI-Charakterprofil „Liv“, die als „Proud Black queer momma of 2 & Truth counter“ beschrieben wurde:

Der Tweet wurde möglicherweise gelöscht

Lebensgewohnheiten WashingtonPost Kolumnistin Karen Attiah In Chats sagten die Macher, sie hätten „zugegeben, dass sie keine unterschiedlichen Referenzen hatten“, und erklärten dies später An seiner Entstehung waren keine Schwarzen beteiligt.

Neben Liv erstellte Meta auch Profile wie „Opa Brian„, ein schwarzer Geschäftsmann im Ruhestand, und „Carter“, ein Dating-Coach. Die Entdeckung dieser Profile sorgte für große Aufregung X, Blauer Himmelund im Besitz von Meta Drähteberichtete NBC News und zum Zeitpunkt der Veröffentlichung wurde Meta entfernt alle 28 KI-Profile es wurde im September 2023 angekündigt – sowohl bei Prominenten als auch bei Nicht-Prominenten.

Ein Meta-Sprecher sagte gegenüber NBC News und 404 Media, dass diese Profile aufgrund eines „Fehlers“ in der Möglichkeit der Benutzer, die Profile zu blockieren, entfernt wurden:

Es herrscht Verwirrung: Der aktuelle Artikel in der Financial Times befasste sich mit unserer Vision für KI-Charaktere, die im Laufe der Zeit auf unseren Plattformen existieren, und kündigte kein neues Produkt an … Die genannten Konten stammen aus einem Test, den wir 2023 bei Connect gestartet haben. Diese wurden von Menschen gesteuert und waren Teil eines frühen Experiments, das wir mit KI-Charakteren durchgeführt haben. Wir haben den Fehler identifiziert, der die Fähigkeit der Benutzer beeinträchtigte, diese KIs zu blockieren, und entfernen diese Konten, um das Problem zu beheben.