Bluesky hat es veröffentlicht der letztjährige Moderationsbericht, Betrachten wir das beträchtliche Wachstum, das das soziale Netzwerk im Jahr 2024 erlebt hat, und wie sich dies auf die Arbeitsbelastung des Trust and Safety-Teams ausgewirkt hat. Er wies auch darauf hin, dass die meisten Meldungen von Benutzern stammten, die Konten oder Beiträge wegen Belästigung, Trolling oder Intoleranz meldeten – ein Problem, das Bluesky im Laufe seines Wachstums geplagt und sogar dazu geführt hat groß angelegte Proteste manchmal über individuelle Moderationsentscheidungen.
Im Bericht des Unternehmens wurde weder darauf eingegangen noch erklärt, warum das Unternehmen Maßnahmen ergriffen oder nicht ergriffen hat Person Benutzer, einschließlich derjenigen in die am häufigsten blockierte Liste.
Das Unternehmen konnte im Jahr 2024 mehr als 23 Millionen Nutzer gewinnen, da Bluesky aus mehreren Gründen zu einem neuen Ziel für ehemalige Twitter/X-Nutzer wurde. Im Laufe des Jahres profitierte das soziale Netzwerk von mehreren Veränderungen bei X, einschließlich der Entscheidung für einen Wechsel wie das Blockieren funktioniert und KI anhand von Benutzerdaten trainiert wird. Andere Benutzer verließ X nach den Ergebnissen der US-Präsidentschaftswahlbasierend darauf, wie die Politik des X-Besitzers Elon Musk begann, die Plattform zu dominieren. Die App erhöhte auch die Anzahl der Benutzer, während X war in Brasilien vorübergehend verboten im September.
Um den durch dieses Wachstum bedingten Anforderungen gerecht zu werden, habe Bluesky sein Moderatorenteam auf rund 100 Moderatoren aufgestockt und stellt weiterhin ein. Das Unternehmen begann außerdem, seinen Mitarbeitern psychologische Unterstützung anzubieten, um ihnen bei der schwierigen Aufgabe zu helfen, ständig mit grafischen Inhalten konfrontiert zu werden. (Ein Bereich, den die KI hoffentlich eines Tages angehen wird, da Menschen nicht für diese Art von Arbeit bestimmt sind.)
Insgesamt gab es 6,48 Millionen Meldungen an den Moderationsdienst von Bluesky, eine 17-fache Steigerung im Vergleich zu 2023, als es nur 358.000 Meldungen gab.
Ab diesem Jahr wird Bluesky damit beginnen, Moderationsberichte direkt über seine App zu akzeptieren. Ähnlich wie bei X können Benutzer dadurch Aktionen und Aktualisierungen einfacher verfolgen. Später wird es auch In-App-Einsprüche unterstützen.
Als im August brasilianische Nutzer Bluesky überschwemmten, erhielt das Unternehmen in der Spitze bis zu 50.000 Meldungen pro Tag. Dies führte zu einer Verzögerung bei der Bearbeitung von Moderationsberichten und zwang Bluesky dazu, mehr portugiesischsprachiges Personal einzustellen, unter anderem über einen Vertragspartner.
Darüber hinaus begann Bluesky damit, weitere Berichtskategorien über Spam hinaus zu automatisieren, um den Zustrom zu bewältigen, obwohl dies manchmal zu Fehlalarmen führte. Dennoch hat die Automatisierung dazu beigetragen, die Bearbeitungszeit für Konten mit „hoher Vertrauenswürdigkeit“ auf nur „Sekunden“ zu reduzieren. Vor der Automatisierung wurden die meisten Berichte innerhalb von 40 Minuten bearbeitet. Menschliche Moderatoren werden jetzt auf dem Laufenden gehalten, um Fehlalarme und Einsprüche zu bearbeiten, obwohl sie nicht immer die erste Entscheidung treffen.
Laut Bluesky haben 4,57 % seiner aktiven Nutzer (1,19 Millionen) im Jahr 2024 mindestens einen Moderationsbericht erstellt, gegenüber 5,6 % im Jahr 2023. Der Großteil davon – 3,5 Millionen Berichte – betraf einzelne Beiträge. Kontoprofile wurden 47.000 Mal gemeldet, häufig aufgrund eines Profilfotos oder Banners. Die Listen wurden 45.000 Mal gemeldet; DMs wurden 17.700 Mal gemeldet, wobei Feeds und Starter Packs 5.300 bzw. 1.900 Meldungen erhielten.
In den meisten Berichten ging es um asoziales Verhalten wie Trolling und Belästigung – ein Zeichen von Bluesky-Nutzern, dass sie sich im Vergleich zu X ein weniger toxisches soziales Netzwerk wünschen.
Andere Berichte fielen in die folgenden Kategorien, sagte Bluesky:
- Irreführende Inhalte (Nachahmung der Identität, Fehlinformationen oder falsche Behauptungen über Identität oder Zugehörigkeit): 1,20 Millionen
- Spam (übermäßige Erwähnungen, Antworten oder sich wiederholende Inhalte): 1,40 Millionen
- Unerwünschte sexuelle Inhalte (Nacktheit oder nicht ordnungsgemäß gekennzeichnete Inhalte für Erwachsene): 630.000
- Illegale oder dringende Probleme (eindeutige Verstöße gegen das Gesetz oder die Nutzungsbedingungen von Bluesky): 933.000
- Sonstiges (Probleme, die nicht in die oben genannten Kategorien passen): 726.000
Das Unternehmen bot außerdem ein Update seines Tagging-Dienstes an, bei dem Tags zu Beiträgen und Konten hinzugefügt werden. Menschliche Labeler fügten 55.422 Labels für „sexuelle Figuren“ hinzu, gefolgt von 22.412 Labels für „unhöflich“, 13.201 Labels für „Spam“, 11.341 Labels für „bigott“ und 3.046 Labels für „bedrohlich“.
Im Jahr 2024 schickten 93.076 Nutzer insgesamt 205.000 Einsprüche gegen die Moderationsentscheidung von Bluesky.
Außerdem gab es 66.308 Kontoentfernungen durch Moderatoren und 35.842 automatische Kontoentfernungen. Bluesky antwortete außerdem auf 238 Anfragen von Strafverfolgungsbehörden, Regierungen und Anwaltskanzleien. Das Unternehmen antwortete auf 182 davon und kam 146 nach. Bei den meisten Anfragen handelte es sich um Strafverfolgungsanfragen aus Deutschland, den USA, Brasilien und Japan, hieß es.
Der vollständige Bericht von Bluesky untersucht auch andere Arten von Problemen, darunter Marken- und Urheberrechtsansprüche sowie Kindersicherheits-/CSAM-Berichte. Das Unternehmen gab an, 1.154 bestätigte CSAM-Berichte an das National Center for Missing and Exploited Children (NCMEC) übermittelt zu haben.
