Die britische Regierung möchte es schwierig machen, ihre Wirtschaft und Industrie mit KI zu fördern, und als Teil davon eine Institution, die etwas mehr als ein Jahr für einen ganz anderen Zweck gegründet hat. Heute hat das Ministerium für Wissenschaft, Industrie und Technologie angekündigt, das AI Security Institute in „AI Security Institute“ umzubenennen. Damit wird es sich hauptsächlich ändern, um Bereiche wie existenzielles Risiko und Verzerrungen in großen Sprachmodellen zu erforschen, wobei sie sich auf die Cybersicherheit konzentrieren, insbesondere „den Schutz vor den Risiken, die KI für Sicherheit und nationales Kriminalität darstellt“.
Darüber hinaus kündigte die Regierung eine neue Partnerschaft mit Anthropic an. Kein Unternehmensdienst hat angekündigt, aber MoU zeigt an, dass die beiden mit dem AI -Assistenten von Anthropic Claude in öffentlichen Diensten „untersuchen“ werden. Und Anthropie wird darauf abzielen, zur Arbeit in der wissenschaftlichen Forschung und in der Wirtschaftsmodellierung beizutragen. Und beim AI Security Institute bietet es Tools zur Bewertung von KI -Ressourcen im Zusammenhang mit der Identifizierung von Sicherheitsrisiken.
„AI hat das Potenzial, die Art und Weise zu verändern, wie Regierungen ihren Bürgern dienen“, sagte Dario Amodei, Mitbegründer und CEO von Anthropic, in einer Erklärung. „Wir freuen uns darauf, zu untersuchen, wie Claude, AI -Assistent von Anthropic, den britischen Regierungsbehörden helfen kann, die öffentlichen Dienste zu verbessern, um neue Wege zu finden, um wichtige Informationen und Dienstleistungen effizienter und zugänglicher für die Einwohner von Kingdom zugänglich zu machen.“
Anthropic ist das einzige Unternehmen, das heute angekündigt wird – zusammen mit einer Woche der KI -Aktivitäten in München und Paris -, aber es ist nicht die einzige, die mit der Regierung zusammenarbeitet. Eine Reihe neuer Tools, die im Januar enthüllt wurden, wurden alle von OpenAI gefüttert. (Zu dieser Zeit sagte Peter Kyle, Außenminister für Technologie, die Regierung plante, mit mehreren grundlegenden KI -Unternehmen zusammenzuarbeiten, und das ist das, was das anthropische Abkommen beweist.)
Die Änderung der Regierung des AI-Lançada-Sicherheitsinstituts Vor etwas mehr als einem Jahr Mit viel Fanfare sollte KI -Sicherheit nicht so überrascht sein.
Als die neu installierte Labour -Regierung ihre ankündigte KI schwerer Veränderungsplan im JanuarEs war bemerkenswert, dass die Wörter „Sicherheit“, „Schaden“, „existenzieller“ und „Bedrohung“ nicht im Dokument erschienen.
Dies war keine Aufsicht. Der Regierungsplan besteht darin, in eine modernisiertere Wirtschaft zu investieren, Technologie einsetzt und speziell KI zu tun. Er möchte enger mit Big Tech zusammenarbeiten und auch seine eigenen großartigen Heimtechniker bauen. Die wichtigsten Botschaften, die Sie fördern, haben Entwicklung, IA und mehr Entwicklung. Beamte werden ihren eigenen KI -Assistenten namens „namens“ haben „HumphreyUnd sie werden ermutigt, Daten auszutauschen und KI in anderen Bereichen zu verwenden, um ihre Funktionsweise zu beschleunigen. Verbraucher werden es sein Digitale Geldbörsen erhalten Für Ihre Regierungsdokumente und Chatbots.
Waren die KI -Sicherheitsprobleme gelöst? Nicht genau, aber die Nachricht scheint zu sein, dass sie auf Kosten des Fortschritts nicht berücksichtigt werden können.
Die Regierung behauptete, dass die Musik trotz der Namensänderung gleich bleiben wird.
„Die Änderungen, die ich heute ankündige, repräsentieren den nächsten logischen Schritt in der Art und Weise, wie wir uns der verantwortungsbewussten KI -Entwicklung nähern. Sie helfen uns, IA freizulassen und die Wirtschaft im Rahmen unseres Veränderungsplans zu erhöhen“, sagte Kyle in einer Erklärung. „Die Arbeit des KI -Sicherheitsinstituts wird sich nicht ändern, aber dieser erneute Fokus wird sicherstellen des Lebens. ”
„Der Fokus des Instituts war von Anfang an die Sicherheit und wir haben ein Team von Wissenschaftlern aufgebaut, das sich auf die Bewertung schwerwiegender Risiken für die Öffentlichkeit konzentrierte“, fügte Ian Hogarth hinzu, der der Präsident des Instituts bleibt. „Unser neues kriminelles Nutzungsteam und die Vertiefung der Partnerschaft mit der National Security Community markieren die nächste Stufe, in der diese Risiken konfrontiert sind.“
Darüber hinaus scheinen sich die Prioritäten definitiv um die Bedeutung der „Sicherheit von KI“ geändert zu haben. Das größte Risiko, das das AI Security Institute in den USA jetzt in Betracht zieht, ist, dass es sein wird abgebaut. Vize -us -Präsident JD Vance Er telegierte das gleiche Anfang dieser Woche während seiner Rede in Paris.
