Elon Musks Einfluss auf die Regierung von Donald Trump könnte einem Bericht zufolge zu strengeren Sicherheitsstandards für künstliche Intelligenz führen. führender Wissenschaftler der eng mit dem reichsten Menschen der Welt zusammengearbeitet hat, um die Gefahren der KI anzugehen.
Max Tegmark sagte, Musks Unterstützung für ein gescheitertes KI-Gesetz in Kalifornien unterstreiche die anhaltende Besorgnis des Milliardärs über ein Thema, das in Trumps Wahlkampf keine große Rolle gespielt habe.
Allerdings hat Musk regelmäßig davor gewarnt, dass die ungebremste Entwicklung von KI – im Großen und Ganzen Computersysteme, die Aufgaben ausführen, die normalerweise menschliche Intelligenz erfordern – katastrophale Folgen für die Menschheit haben könnte. Letztes Jahr war er einer der mehr als 30.000 Unterzeichner auf einen Brief mit der Bitte um eine Pause bei der Arbeit an leistungsstarker KI-Technologie.
Im Gespräch mit dem Guardian auf dem Web Summit in Lissabon sagte Tegmark, dass Musk das sein sollte großen Einfluss auf die Verwaltung des gewählten Präsidentenkönnte Trump davon überzeugen, Vorschriften einzuführen, die die Entwicklung der künstlichen allgemeinen Intelligenz (AGI) behindern, der Bezeichnung für KI-Systeme, die dem menschlichen Intelligenzniveau entsprechen oder dieses übertreffen.
„Ich denke, wenn Elon Trumps Aufmerksamkeit auf KI-Themen lenken kann, werden wir eher eine Art Sicherheitsstandard bekommen, etwas, das AGI stoppt“, sagte er.
Tegmark, ein auf KI spezialisierter Professor am Massachusetts Institute of Technology, fügte hinzu: „Es könnte Trump helfen zu verstehen, dass ein AGI-Lauf ein Selbstmordlauf ist.“
Tegmark sagte, dass Musks Unterstützung des SB 1047-Gesetzes in Kalifornien trotz des Widerstands vieler seiner Technologiekollegen ein positives Zeichen für KI-Sicherheitsaktivisten sei. Der Gesetzentwurf, der Unternehmen dazu verpflichten würde, große KI-Modelle zu testen, bevor sie sie auf den Markt bringen, wurde vom kalifornischen Gouverneur Gavin Newsom abgelehnt, nachdem er dies für möglich erklärt hatte Verdrängen Sie KI-Unternehmen aus dem Staat und behindern Sie Innovationen.
„Elon Musk erschien und sagte: Ich bin dafür, ich will die Regelung. Ich halte es für nicht völlig unplausibel, dass es ihm gelungen ist, Trump davon zu überzeugen, dass KI kontrolliert werden muss“, sagte Tegmark.
Musk war ein früher Unterstützer und finanzielle RenditeUnd vom Future of Life Institute in Tegmark, das sich für einen sichereren Einsatz modernster Technologie einsetzt. Tesla-Chef und Eigentümer von X’s Das Privatvermögen erhöhte sich deutlich seit Trumps Sieg letzte Woche.
nach Newsletter-Werbung
Musk gründete letztes Jahr sein eigenes KI-Startup und sagte, die Welt brauche es Sorge um eine „Terminator-Zukunft“ um den schlimmsten Fall zu vermeiden, dass KI-Systeme der menschlichen Kontrolle entgehen. Andere KI-Experten haben argumentiert, dass die Konzentration auf apokalyptische Belange davon ablenke, sich auf kurzfristige Probleme mit KI-Systemen zu konzentrieren, wie z manipulierte und irreführende Inhalte.
Trump versprach, einen Biden zu widerrufen Durchführungsverordnung der Regierung zur KI-Sicherheit; Das Wahlprogramm der Republikanischen Partei beschrieb es als eine Reihe von Beschränkungen, die „der Entwicklung dieser Technologie radikale linke Ideen auferlegen“.
Die Anordnung sieht vor, dass Unternehmen, die Hochrisikosysteme entwickeln – KI-Modelle, die eine Bedrohung für die nationale Sicherheit, die wirtschaftliche Sicherheit oder die Gesundheit und Sicherheit darstellen – die Ergebnisse ihrer Sicherheitstests der Regierung mitteilen müssen.
