OpenAI hat seine sicherheitsorientierten Aktivitäten erneut reduziert und sein AGI Readiness-Team aufgelöst – eine Gruppe, die sich der Vorbereitung auf die sogenannte künstliche allgemeine Intelligenz widmet. Miles Brundage, ein leitender Berater des Teams, verkündete die Nachricht in einem Beitrag auf seinem Substack Mittwoch, der auch seinen Austritt aus dem Unternehmen bestätigte.
In dem Beitrag wies Brundage auf ein wachsendes Bedürfnis nach Unabhängigkeit in seiner Arbeit hin und deutete an, dass sein Ausstieg den Wunsch nach mehr Freiheit widerspiegelt, während er weiterhin die sich schnell entwickelnde KI-Landschaft erforscht.
„Ich habe beschlossen, dass ich die Entwicklung der KI von außerhalb der Branche und nicht von innen beeinflussen und beeinflussen möchte“, schrieb Brundage und fügte hinzu: „Ich habe bei OpenAI viel von dem getan, was ich mir vorgenommen hatte.“
Zerstörbare Lichtgeschwindigkeit
Brundage äußerte weiter allgemeinere Bedenken und erklärte: „Weder OpenAI noch irgendein anderes Grenzlabor ist bereit, und die Welt ist auch nicht bereit.“ Laut Brundage ist dies kein Einzelfall – viele in der Führungsspitze von OpenAI teilen diese Vorbehalte. Was das AGI Readiness-Team betrifft, sollen ehemalige Mitglieder anderen Abteilungen innerhalb von OpenAI zugewiesen werden.
Ein Unternehmenssprecher sagte gegenüber CNBC Sie unterstützen Brundages Entscheidung, weiterzumachen. Dennoch ist das Timing für OpenAI schwierig, da das Unternehmen in einer Zeit, in der Stabilität von entscheidender Bedeutung ist, einen Exodus von Führungskräften durchlebt. Obwohl es hängenbleiben konnte ein Top-KI-Forscher von Microsoft, Dieser Zusatz füllt nicht die vielen jüngsten Lücken in den oberen Rängen von OpenAI.
Die Führungswechsel und Teamauflösungen tragen nicht dazu bei, die wachsenden Bedenken hinsichtlich des Vorstoßes von OpenAI in Richtung AGI zu zerstreuen, insbesondere seit der umstrittenen Ankündigung eines Plans dazu ein vollständig gewinnorientiertes Unternehmen werden nachdem es sein Leben als gemeinnützige Organisation begonnen hatte.
Bereits im Mai, Das Unternehmen löste sein SuperAlignment-Team auf – eine Gruppe mit der Aufgabe, „wissenschaftliche und technische Durchbrüche zu erzielen, um KI-Systeme viel intelligenter als wir zu steuern und zu kontrollieren“. Etwa zur gleichen Zeit wurde auch OpenAI neu zugewiesen sein führender Anbieter im Bereich KI-SicherheitDas sorgt innerhalb der KI-Ethik-Community und darüber hinaus für Aufsehen.
