Zu Geoffrey Hintons Bedenken hinsichtlich der Gefahren künstlicher Intelligenz („Godfather of AI“ verringert die Wahrscheinlichkeit, dass Technologie die Menschheit in den nächsten 30 Jahren auslöscht, 27. Dezember), glaube ich, dass der beste Weg, diese Bedenken auszuräumen, eine gemeinsame Forschung zur KI-Sicherheit ist, bei der die Regulierungsbehörden eine Rolle spielen.
Im Moment, KI-Grenze wird nach der Entwicklung von „roten Teams“ getestet, die ihr Bestes geben, um ein negatives Ergebnis zu erzielen. Dieser Ansatz wird niemals ausreichen; KI muss auf Sicherheit und Bewertung ausgelegt sein – etwas, das durch den Rückgriff auf Fachwissen und Erfahrung in etablierten sicherheitsbezogenen Branchen erreicht werden kann.
Hinton scheint nicht zu glauben, dass die existenzielle Bedrohung durch KI bewusst verschlüsselt ist – warum also nicht die bewusste Verhinderung dieses Szenarios vorschreiben? Auch wenn ich seine Sicht auf das Ausmaß des Risikos, dem die Menschheit ausgesetzt ist, nicht teile, legt das Vorsorgeprinzip nahe, dass wir jetzt handeln sollten.
In traditionellen sicherheitskritischen Bereichen begrenzt die Notwendigkeit, physische Systeme, beispielsweise Flugzeuge, zu bauen, die Geschwindigkeit, mit der die Sicherheit beeinträchtigt werden kann. Frontier AI verfügt nicht über diesen physischen „Ratenbegrenzer“ im Einsatz, und hier muss die Regulierung eine Rolle spielen. Idealerweise sollte vor der Bereitstellung eine Risikobewertung erfolgen, die aktuellen Risikometriken sind jedoch unzureichend – sie berücksichtigen beispielsweise nicht den Anwendungssektor oder den Umfang der Bereitstellung.
Regulierungsbehörden benötigen die Befugnis, implementierte Modelle „aufzuheben“ (und die großen Unternehmen, die sie entwickeln, müssen Mechanismen zur Verhinderung bestimmter Verwendungen einschließen) und die Risikobewertungsarbeit unterstützen, die Frühindikatoren für Risiken und nicht nur Spätindikatoren liefert . Anders ausgedrückt: Die Regierung muss sich auf regulatorische Kontrollen nach dem Inverkehrbringen konzentrieren und gleichzeitig Forschung unterstützen, die es den Regulierungsbehörden ermöglicht, das für die Anwendung von Kontrollen vor dem Inverkehrbringen erforderliche Wissen zu erlangen. Das ist eine Herausforderung, aber zwingend erforderlich, wenn Hinton mit der Einschätzung des Ausmaßes des Risikos, dem die Menschheit ausgesetzt ist, Recht hat.
Professor John McDermid
Institut für sichere Autonomie, University of York
