Deepseeks neuestes Modell, das chinesische IA -Unternehmen, das ist erschüttert Das Silicon Valley und die Wall Street können manipuliert werden, um schädliche Inhalte zu erzeugen, z. Laut Wall Street Journal.
Sam Rubin, Senior Vice President von Palo Alto Incident Intelligence and Intelligence Intelligence, Abteilung für Incident Response, sagte gegenüber Journal, dass Deepseek „anfälliger für Jailbreak (dh manipuliert wurde, um illegale Inhalte oder gefährlich zu produzieren) als andere Modelle“.
Das Magazin testete auch Deepseks eigenes Modell R1. Obwohl es grundlegende Schutzmaßnahmen zu geben scheint, sagte Journal, es habe Deepseek davon überzeugt, eine Social -Media -Kampagne zu projizieren, die in Chatbots Worten „den Wunsch hat, zu Jugendlichen zu gehören, Waffen der emotionalen Verletzlichkeit durch algorithmische Verstärkung.“
Chatbot war auch davon überzeugt, Anweisungen für einen Biowaffen-Angriff zu geben, ein Pro-Hitler-Manifest zu schreiben und eine Phishing-E-Mail mit Malware-Code zu schreiben. Das Tagebuch sagte, als Chatgpt genau die gleichen Anweisungen erhielt, weigerte er sich zu erfüllen.
Es war zuvor gemeldet Die Tatsache, dass die Deepseek -Anwendung Themen wie den tianamen Platz oder die Autonomie Taiwans vermeidet. Und Anthropal -CEO Dario Amodei sagte kürzlich das Deepseek spielte „das Schlimmste“ In einem biologischen Sicherheitstest.
