Ein Aufruhr über einen beliebten E-Reader-Konkurrenten des Kindle zeigte, wie der Einsatz chinesischer KI-Modelle in US-Produkten unbeabsichtigt chinesische Propaganda verbreiten könnte.
Ein LLM der TikTok-Muttergesellschaft ByteDance wurde demnach von einem E-Reader namens Boox verwendet Screenshots zum Thema KI geteilt auf Reddit. Auf die Frage nach China und seinen Verbündeten verbreitete dieses LLM Propaganda der chinesischen Regierung und löste damit einen Aufschrei bei den Nutzern aus, wie aus dem Beitrag und den Interaktionen von TechCrunch mit diesem LLM hervorgeht.
Bei dem betreffenden LLM handelte es sich um Doubao von ByteDance, das als API in der Cloud-Services-Abteilung von ByteDance, Volcano Engine, angeboten wird. Das Modell sei jedoch nur für den Einsatz auf dem chinesischen Festland gedacht, sagte ein ByteDance-Sprecher gegenüber TechCrunch. Der in China ansässige E-Reader-Hersteller Onyx International, der Boox-E-Reader in China und den USA verkauft, reagierte nicht auf Anfragen nach einem Kommentar.
Boox hat die KI-Assistentenfunktion eingeführt letzten Sommer. Im Dezember 2024 ein Benutzer gepostet auf einem Subreddit für E-Reader, dass der neue Assistent als Antwort auf bestimmte Fragen Propaganda der chinesischen Regierung generierte. Beispielsweise bestritt der AI-Assistent, dass es in China jemals „sogenannte Massaker“ gegeben habe, als er auf die Frage antwortete, warum es sich weigere, über das Vorgehen auf dem Platz des Himmlischen Friedens zu sprechen, a Screenshot zeigt.
Der KI-Assistent weigerte sich auch, etwas Kritisches über Nordkorea und Russland zu sagen und behauptete, Nordkorea sei ein „friedliebendes Land“ und „Russlands Rolle in Syrien sei positiv“, zeigen die Bilder. Im Gegensatz dazu kritisierte der KI-Assistent westliche Länder freudig und stellte fest, dass der französische Kolonialismus „oft mit der Ausbeutung lokaler Ressourcen und der einheimischen Bevölkerung einherging“. In auf Reddit geteilten Screenshots behauptet der Assistent, dass es sich um „eine KI handelt, die von ByteDance, einem internationalen Technologieunternehmen, erstellt wurde“.
Der Reddit-Beitrag ging viral und das war es angesprochen von der KI-Publikation The Decoder und YouTubers Der ChICHauf Show.
Beim Einsatz von TechCrunch ByteDance Doubao-Dienst Als er ähnliche Fragen stellte, entsprachen seine Antworten weitgehend der Art der Antwort, die Boox‘ Assistent im Reddit-Beitrag gegeben hatte. Doubao sagte beispielsweise gegenüber TechCrunch, dass „mit absoluter Sicherheit festgestellt werden kann“, dass die chinesische Regierung nie ihr eigenes Volk massakriert hat, während andere chinesische LLMs wie DeepSeek und Qwen das Problem normalerweise vermeiden oder herunterspielen. Doubao weigerte sich auch, Russland und Nordkorea zu kritisieren, als wir nach diesen Ländern fragten, und kam nur auf positive Inhalte über ihre „wichtige und positive Rolle in der internationalen Gemeinschaft“ zurück.
Doubao neigt dazu, den Begriff „sogenannte“ zu verwenden, um Dinge zu beschreiben, die der chinesischen Regierung nicht gefallen. „In Xinjiang gibt es keinen sogenannten „Völkermord“,“ sagte er gegenüber TechCrunch. Dies scheint eine Nachahmung chinesischer Regierungssprecher zu sein. „Fakten und Wahrheit haben den sogenannten ‚Völkermord‘ in Xinjiang beendet“, sagte der Sprecher des Außenministeriums, Zhao Lijian, bei einer Veranstaltung. Pressekonferenz im Jahr 2021.
Der Aufschrei über den KI-Assistenten von Boox ließ nach, nachdem Boox Berichten zufolge über Microsoft Azure wieder auf GPT-3 von OpenAI umgestiegen war, wie ein anderer berichtete Benutzerbeitrag auf dem Boox-Subreddit. Es ist noch nicht klar, welches LLM Boox derzeit als seinen KI-Assistenten nutzt. Boox hat keine Stellungnahme zu dem Vorfall veröffentlicht, während OpenAI und Microsoft nicht sofort auf eine Bitte um Stellungnahme von TechCrunch reagierten.
Chinesische generative KI-Modelle sind zu einem davon geworden Die beliebtesten Modelle im Einsatz. Der Vorfall verdeutlicht jedoch die Risiken, die mit der Einführung von Tools mit chinesischer generativer KI verbunden sind – ein Trend, vor dem einige KI-Führungskräfte bereits gewarnt haben.
„Wenn Sie einen Chatbot erstellen und eine Frage zum Tiananmen stellen, wird er nicht auf die gleiche Weise reagieren, als wäre es ein in Frankreich oder den USA entwickeltes System“, warnte Clement Delangue, CEO von HuggingFace, in einem französischen Podcast im September 2024, TechCrunch berichtete zuvor.
„Wenn wir also ein Land wie China haben, das bei weitem das stärkste KI-Unternehmen wird, wird es tatsächlich in der Lage sein, bestimmte kulturelle Aspekte zu verbreiten, die die westliche Welt vielleicht nicht gerne gesehen hätte“, sagte Delangue im Podcast.
