Der CEO von Anthropic, Dario Amodei Dies erhielt das Silicon Valley im Sturm mit Ihr Modell R1. Und Ihre Bedenken können schwerwiegender sein als typische Deepseek und senden Benutzerdaten nach China zurück.
In Ein Interview In Jordan Schneiders Chinatalk -Podcast sagte Amodei, Deepseek habe seltene Biochas -Informationen zu einem von Anthropic verwalteten Sicherheitstest generiert.
Deepseeks Leistung war „das Schlimmste von im Grunde genommen jedes Modell, das wir jemals getestet haben“, sagte Amodei. „Es gab absolut keinen Block, um diese Informationen zu generieren.“
Amodei erklärte, dass dies Teil der anthropischen Bewertungen war, die routinemäßig an verschiedenen KI -Modellen durchgeführt wurden, um ihre möglichen nationalen Sicherheitsrisiken zu bewerten. Ihr Team analysiert, ob Modelle Informationen zu Biowaons generieren können, die bei Google oder Lehrbüchern nicht einfach zu finden sind. Anthropic positiv Dies nimmt die Sicherheit ernst.
Amodei sagte, er glaube nicht, dass Deepseek -Modelle heute „buchstäblich gefährlich“ sind, um seltene und gefährliche Informationen zu liefern, sondern dass sie in naher Zukunft möglicherweise sein. Obwohl er Deepseeks Team als „talentierte Ingenieure“ lobte, riet er dem Unternehmen, „diese KI -Sicherheitsüberlegungen ernst zu nehmen“.
Ich habe auch Amodei hat Starke Exportkontrollen unterstützt In China -Token unter Berufung auf Bedenken, dass sie in Chinas Streitkräften einen Vorteil geben könnten.
Amodei hat weder in Chinatalks Interview, das das Deepseek -Modell getestet, klargestellt, noch mehr technische Details zu diesen Tests. Anthropic antwortete nicht sofort auf eine Anfrage nach Kommentaren von TechCrunch. Noch der Deepseek.
Deepseeks Aufstieg verursachte auch Bedenken hinsichtlich seiner Sicherheit an anderer Stelle. Zum Beispiel Cisco -Sicherheitsforscher sagte letzte Woche Deepseek R1 konnte keine schädlichen Anweisungen zu ihren Sicherheitstests blockieren und eine 100% ige Erfolgsquote für Jailbreak erreichten.
Cisco erwähnte nicht biologisch, sagte aber, es könne eine tiefe Verteidigung erhalten, um schädliche Informationen über Cyberkriminalität und andere illegale Aktivitäten zu generieren. Erwähnenswert ist jedoch, dass die Lama-3-3-405B des Ziels und der OpenAI GPT-4 ebenfalls hohe Ausfallraten von 96% bzw. 86% hatten.
Es bleibt abzuwarten, ob Sicherheitsbedenken wie diese eine große Verzögerung bei Deepseeks verursachen werden Schnelle Einführung. Unternehmen mögen AWS Und Microsoft Lebe öffentlich die Integration von R1 in seine Cloud -Plattformen – ironischerweise wie Amazon ist Der größte Investor des Anthropics.
Auf der anderen Seite, Es gibt eine wachsende Liste von Ländern, Unternehmenund insbesondere Regierungsorganisationen wie die US -Marine und Das Pentagon wer begann Deepseek zu verbieten.
Die Zeit wird sagen, ob diese Bemühungen erfassen oder ob Deepseeks allgemeiner Anstieg fortgesetzt wird. In jedem Fall betrachtet Amodei Deepseek als einen neuen Konkurrenten, der sich auf der Ebene der Top -Unternehmen in den USA befindet.
„Die neue Tatsache hier ist, dass es einen neuen Konkurrenten gibt“, sagte er in Chinatalk. „In großen Unternehmen, die KI ausbilden können – Anthropie, Openai, Google, vielleicht Meta und Xai – wird Deepseek in dieser Kategorie hinzugefügt.“
