OpenAI hat die Berichte einer Gruppe chinesischer Benutzer verboten, die versucht hatten, ChatGPT zu verwenden, um Code für ein AI Social Media -Überwachungstool, das Unternehmen, zu debuggen und zu bearbeiten . In der Kampagne, die Peer Review evoces, wurde der Gruppen-prompt ChatGPT zum Generieren von Verkaufsgespräche für ein Programm, das diese Dokumente vorschlägt, zum Generieren des Anti-Chinesischen Gefühls auf X, Facebook, YouTube, Instagram und anderen Plattformen konzipiert. Die Operation scheint besonders daran interessiert gewesen zu sein, Forderungen gegen Menschenrechtsverletzungen in China zu verfolgen, um diese Erkenntnisse mit den Behörden des Landes zu teilen.
„Dieses Netzwerk bestand aus ChatGPT -Konten, die in einem Zeitmuster betrieben wurden, das mit den chinesischen Bürozeiten auf dem Festland übereinstimmte, unsere Modelle auf Chinesisch ermutigte und unsere Tools mit einem Volumen und einer Sorte verwendete, die mit manueller Werbung anstelle der Automatisierung übereinstimmt.“ Sagte Openai. „Die Betreiber verwendeten unsere Modelle, um die Behauptungen zu testen, dass ihre Erkenntnisse an chinesische Botschaften im Ausland und an Geheimdienstagenten gesendet wurden, die Proteste in Ländern wie den Vereinigten Staaten, Deutschland und Großbritannien überwachen.“
Laut Ben Nimmo, einem Hauptuntersucher bei OpenAI, war dies das erste Mal, dass das Unternehmen ein solches KI -Tool entdeckt hatte. „Bedrohungsschauspieler geben uns manchmal einen Einblick in das, was sie in anderen Teilen des Internets tun, weil sie unsere KI -Modelle verwenden“, sagte Nimmo .
Ein Groß . Die Gruppe scheint auch Chatgpt verwendet zu haben, um eine Überprüfung des Jahres zu generieren, wobei sie behauptet, Phishing-E-Mails im Namen der Kunden in China geschrieben zu haben.
„Die Beurteilung der Auswirkungen dieser Aktivität erfordert Eingaben mehrerer Stakeholder, einschließlich Betreiber von Open-Source-Modellen, die diese Aktivität beleuchten können“ Medienüberwachungstool.
Openi sagte separat, dass es kürzlich ein Konto untersagt hat, mit dem Chatgpt Nachrichten in sozialen Medien generiert hat, die kritisch sind Ein chinesischer Politikwissenschaftler und Dissidenten, der in den USA im Exil lebt. Dieselbe Gruppe benutzte auch den Chatbot, um Artikel auf Spanisch kritisch über die USA zu generieren. Diese Artikel wurden von „Mainstream“ -Nachzeigungsorganisationen in Lateinamerica veröffentlicht und häufig einer Person oder einem chinesischen Unternehmen zugeschrieben.
