2024 war ein arbeitsreiches Jahr für den Gesetzgeber (und Lobbyisten) besorgt über KI – insbesondere in Kalifornien, wo Gavin Newsom unterschrieben hat 18 neue KI-Gesetze während auch Veto gegen hochkarätige KI-Gesetzgebung einlegen.
Und im Jahr 2025 könnte es ebenso viel Aktivität geben, insbesondere auf Landesebene, heißt es Mark Weatherford. Weatherford sah in seinen Worten „Wurstherstellung in Politik und Gesetzgebung“ sowohl auf Landes- als auch auf Bundesebene; Er war Chief Information Security Officer für die Bundesstaaten Kalifornien und Colorado sowie stellvertretender stellvertretender Minister für Cybersicherheit unter Präsident Barack Obama.
Weatherford sagte, dass er in den letzten Jahren verschiedene Rollen innehatte, aber seine Aufgabe besteht im Allgemeinen darin, herauszufinden, „wie wir die Diskussion über Sicherheit und Datenschutz ankurbeln können, damit wir Einfluss auf die Art und Weise nehmen können, wie Richtlinien erstellt werden.“ Im vergangenen Herbst trat er dem Unternehmen für synthetische Daten bei Gretel als dessen Vizepräsident für Politik und Standards.
Deshalb war ich gespannt darauf, mit ihm darüber zu sprechen, was seiner Meinung nach als nächstes bei der KI-Regulierung ansteht und warum er glaubt, dass Staaten wahrscheinlich eine Vorreiterrolle übernehmen werden.
Dieses Interview wurde aus Gründen der Länge und Klarheit bearbeitet.
Dieses Ziel, die Diskussion anzuregen, wird wahrscheinlich bei vielen Menschen in der Technologiebranche Anklang finden, die vielleicht in der Vergangenheit Anhörungen des Kongresses in den sozialen Medien oder zu verwandten Themen verfolgt und den Atem angehalten haben, als sie sahen, was einige gewählte Amtsträger wissen und was nicht. . Wie optimistisch sind Sie, dass die politischen Entscheidungsträger den Kontext erhalten, den sie benötigen, um fundierte Entscheidungen rund um die Regulierung zu treffen?
Nun, ich bin sehr zuversichtlich, dass sie dorthin gelangen können. Worüber ich weniger zuversichtlich bin, ist der Zeitplan, der dorthin führt. Wissen Sie, die KI verändert sich täglich. Es überrascht mich, dass sich die Probleme, über die wir noch vor einem Monat gesprochen haben, bereits zu etwas anderem entwickelt haben. Daher bin ich zuversichtlich, dass die Regierung ihr Ziel erreichen wird, aber sie braucht Menschen, die sie anleiten, ausrüsten und erziehen.
Anfang dieser Woche hatte das US-Repräsentantenhaus vor etwa einem Jahr eine Arbeitsgruppe für künstliche Intelligenz ins Leben gerufen Sie veröffentlichten ihren Bericht – Nun ja, sie haben dafür ein Jahr gebraucht. Es ist ein 230-seitiger Bericht; Ich wühle mich gerade darin durch. (Weatherford und ich sprachen zum ersten Mal im Dezember.)
(Wenn es darum geht, in Politik und Gesetzgebung Würstchen zu machen, gibt es zwei verschiedene, sehr parteiische Organisationen, die versuchen, zusammenzukommen und etwas zu schaffen, das alle glücklich macht, was bedeutet, dass alles etwas verwässert wird. . Es dauert lange, und jetzt, da wir in eine neue Regierung eintreten, ist alles ungewiss darüber, wie viel Aufmerksamkeit bestimmten Dingen geschenkt wird oder nicht.
Es hört sich so an, als ob Sie meinen, dass wir im Jahr 2025 auf Landesebene mehr Regulierungsmaßnahmen sehen könnten als auf Bundesebene. Es stimmt?
Ich glaube das absolut. Ich meine, in Kalifornien hat Gouverneur (Gavin) Newsom, glaube ich, erst in den letzten zwei Monaten zwölf Gesetze unterzeichnet, die etwas mit KI zu tun haben. (Wieder, Nach Angaben von TechCrunch sind es 18.)) Er legte sein Veto gegen das große KI-Gesetz ein, das KI-Unternehmen wirklich dazu gezwungen hätte, viel mehr in Tests zu investieren und die Dinge wirklich zu verlangsamen.
Tatsächlich habe ich gestern in Sacramento auf dem California Cybersecurity Education Summit einen Vortrag gehalten und ein wenig über die Gesetzgebung gesprochen, die überall in den USA und in jedem Bundesstaat umgesetzt wird, und es handelt sich dabei um etwa über 400 verschiedene Gesetze auf Landesebene wurde erst in den letzten 12 Monaten eingeführt. Da ist also einiges los.
Und ich denke, eine der großen Sorgen, es ist eine große Sorge in der Technologie im Allgemeinen und in der Cybersicherheit, aber wir sehen es gerade auf der Seite der künstlichen Intelligenz, ist, dass eine Harmonisierung erforderlich ist. Harmonisierung ist das Wort, das (das Heimatschutzministerium) und Harry Coker vom Weißen Haus (Biden) verwendet haben, um (siehe): Wie harmonisieren wir all diese Regeln und Vorschriften rund um diese verschiedenen Dinge, damit wir sie nicht haben Diese (Situation), dass jeder tut, was er will, was Unternehmen in den Wahnsinn treibt. Denn dann müssen sie herausfinden, wie sie all diese unterschiedlichen Gesetze und Vorschriften in den verschiedenen Staaten einhalten können?
Ich denke, dass es von staatlicher Seite noch viel mehr Aktivitäten geben wird und hoffe, dass wir das ein wenig harmonisieren können, sodass es nicht zu diesen sehr unterschiedlichen Regelungen kommt, an die sich die Unternehmen halten müssen.
Ich hatte diesen Begriff noch nicht gehört, aber das wäre meine nächste Frage: Ich kann mir vorstellen, dass die meisten Menschen zustimmen würden, dass Harmonisierung ein gutes Ziel ist, aber gibt es Mechanismen, durch die dies geschieht? Welche Anreize haben Staaten tatsächlich dafür zu sorgen, dass ihre Gesetze und Vorschriften aufeinander abgestimmt sind?
Ehrlich gesagt gibt es keinen großen Anreiz, Vorschriften zu harmonisieren, außer dass ich sehe, dass in verschiedenen Staaten die gleiche Art von Sprache aufkommt – was für mich darauf hindeutet, dass jeder beobachtet, was alle anderen tun.
Aber in einem reinen Sinne wie „Lasst uns in allen Staaten einen strategischen Plan dafür entwickeln“ wird das nicht passieren, ich habe keine großen Hoffnungen, dass das passiert.
Glauben Sie, dass andere Bundesstaaten in ihrem Gesamtansatz dem Beispiel Kaliforniens folgen könnten?
Viele Leute hören das nicht gerne, aber Kalifornien geht (in der Technologiegesetzgebung) weit darüber hinaus, was den Menschen hilft, voranzukommen, weil sie die ganze schwere Arbeit erledigen und einen Großteil der Arbeit für die Forschung leisten das befasst sich mit einigen dieser Rechtsvorschriften.
Die 12 Gesetzesentwürfe, die Gouverneur Newsom gerade verabschiedet hat, waren vielfältig und reichten von Pornografie bis hin zur Nutzung von Daten zum Trainieren von Websites und allen möglichen Dingen. Sie waren hinsichtlich der Fortschritte in dieser Richtung recht umfassend.
Ich verstehe zwar, dass sie gezieltere und spezifischere Maßnahmen verabschiedeten und dann die umfassendere Verordnung, die die meiste Aufmerksamkeit erregte, Gouverneur Newsom schließlich sein Veto einlegte.
Ich konnte beide Seiten davon sehen. Es gibt die Datenschutzkomponente, die das Projekt ursprünglich vorangetrieben hat, aber dann müssen Sie die Kosten berücksichtigen, die dadurch entstehen, und die Anforderungen, die dies an Unternehmen im Bereich der künstlichen Intelligenz stellt, um innovativ zu sein. Da herrscht also ein Gleichgewicht.
Ich würde voll und ganz davon ausgehen, dass Kalifornien (im Jahr 2025) etwas verabschieden wird, das etwas strenger ist als das, was sie (im Jahr 2024) getan haben.
Und Sie haben das Gefühl, dass es auf Bundesebene sicherlich Interesse gibt, wie zum Beispiel den Bericht des Repräsentantenhauses, den Sie erwähnt haben, aber dass dieser nicht unbedingt eine so große Priorität haben wird oder dass wir nächstes Jahr eine umfassende Gesetzgebung sehen werden?
Nun, ich weiß es nicht. Es hängt davon ab, wie viel Gewicht der (neue) Kongress darauf legen wird. Ich denke, wir werden sehen. Ich meine, Sie haben gelesen, was ich gelesen habe, und was ich gelesen habe, ist, dass der Schwerpunkt auf weniger Regulierung liegen wird. Aber Technologie ist in vielerlei Hinsicht, insbesondere im Hinblick auf Datenschutz und Cybersicherheit, ein parteiübergreifendes Thema und ist für alle gut.
Ich bin kein großer Fan von Regulierung, da es bei so vielen unterschiedlichen Rechtsvorschriften zu einer Menge Doppelarbeit und einer großen Verschwendung von Ressourcen kommt. Aber gleichzeitig, wenn die Sicherheit der Gesellschaft auf dem Spiel steht, wie es bei der KI der Fall ist, gibt es meiner Meinung nach definitiv Raum für mehr Regulierung.
Sie haben erwähnt, dass es sich um eine parteiübergreifende Angelegenheit handelt. Ich habe das Gefühl, dass eine Spaltung nicht immer vorhersehbar ist – es sind nicht nur alle Stimmen der Republikaner gegen alle Stimmen der Demokraten.
Das ist ein toller Punkt. Die Geografie spielt eine Rolle, ob wir es zugeben wollen oder nicht, weshalb Orte wie Kalifornien im Vergleich zu einigen anderen Bundesstaaten in einigen ihrer Gesetze sogar einen Schritt nach vorne machen.
Offensichtlich ist dies ein Bereich, in dem Gretel tätig ist, aber Sie oder das Unternehmen glauben offenbar, dass eine stärkere Regulierung die Branche in Richtung mehr synthetischer Daten drängt.
Vielleicht. Einer der Gründe, warum ich hier bin, ist, dass ich glaube, dass synthetische Daten die Zukunft der KI sind. Ohne Daten gibt es keine KI, und die Datenqualität wird zu einem immer größeren Problem, je mehr der Datensatz erschöpft ist oder schrumpft. Es wird zunehmend Bedarf an hochwertigen synthetischen Daten geben, die den Datenschutz gewährleisten, Voreingenommenheit beseitigen und sich um alle diese Arten von sanften, nichttechnischen Problemen kümmern. Wir glauben, dass synthetische Daten die Antwort darauf sind. Davon bin ich tatsächlich zu 100 % überzeugt.
Das hat weniger direkt etwas mit Politik zu tun, obwohl ich denke, dass es einige politische Implikationen hat, aber ich würde gerne mehr darüber hören, was Sie zu dieser Sichtweise geführt hat. Ich denke, es gibt andere Leute, die die Probleme erkennen, über die Sie sprechen, aber denken, dass synthetische Daten möglicherweise Vorurteile oder Probleme in den Originaldaten verstärken, anstatt das Problem zu lösen.
Dies ist natürlich der technische Teil des Gesprächs. Unsere Kunden haben das Gefühl, dass wir dieses Problem gelöst haben, und es gibt dieses Konzept des Schwungrads zur Datengenerierung – dass alles immer schlimmer und schlimmer wird, wenn Sie schlechte Daten generieren, aber indem wir in dieses Schwungrad Kontrollen einbauen, die bestätigen, dass die Daten das nicht sind Jedes Mal, wenn die Fliege auftaucht, wird es schlimmer, bleibt gleich oder verbessert sich. Dies ist das Problem, das Gretel gelöst hat.
Viele Trump-nahe Persönlichkeiten im Silicon Valley waren es warnt vor KI-„Zensur“ – die verschiedenen Gewichtungen und Schutzmaßnahmen, die Unternehmen den durch generative KI erstellten Inhalten beimessen. Halten Sie es für wahrscheinlich, dass dies reguliert wird? Sollte es sein?
Wenn es um Bedenken hinsichtlich der KI-Zensur geht, verfügt die Regierung über eine Reihe administrativer Hebel, die sie nutzen kann, und wenn ein wahrgenommenes Risiko für die Gesellschaft besteht, wird sie mit ziemlicher Sicherheit Maßnahmen ergreifen.
Es wird jedoch eine Herausforderung sein, den Kompromiss zwischen angemessener Moderation von Inhalten und restriktiver Zensur zu finden. Die nächste Regierung hat deutlich gemacht, dass „weniger Regulierung besser ist“ die Vorgehensweise sein wird, sei es durch formelle Gesetzgebung oder Durchführungsverordnung oder durch weniger formelle Mittel wie Richtlinien und Rahmenwerke des National Institute of Standards and Technology oder Erklärungen gemeinsamer Anstrengungen Bei der behördenübergreifenden Koordinierung sollten wir einige Hinweise erwarten.
Ich möchte auf die Frage zurückkommen, wie eine gute Regulierung von KI aussehen könnte. Die Art und Weise, wie Menschen über KI sprechen, ist weit verbreitet, ob sie die Welt retten oder zerstören wird, ob es sich um die unglaublichste Technologie handelt oder ob sie völlig übertrieben ist. Es gibt so viele unterschiedliche Meinungen über das Potenzial der Technologie und ihre Risiken. Wie kann ein einzelner oder sogar mehrere Teile der KI-Regulierung dies abdecken?
Ich denke, wir müssen bei der Bewältigung der Ausbreitung der KI sehr vorsichtig sein. Wir haben bereits Deepfakes und einige der wirklich negativen Aspekte gesehen. Es ist besorgniserregend zu sehen, dass Kinder, die jetzt in der Highschool sind und noch jünger sind, Deepfakes erzeugen, die sie in Konflikt mit dem Gesetz bringen. Daher denke ich, dass es einen Platz für Gesetze gibt, die regeln, wie Menschen künstliche Intelligenz nutzen können, ohne gegen bestehende Gesetze zu verstoßen – wir schaffen ein neues Gesetz, das das geltende Recht stärkt, aber nur die KI-Komponente einbezieht.
Ich denke, dass wir – diejenigen von uns, die bereits im Technologiebereich tätig sind – uns alle an viele dieser Dinge erinnern müssen, die wir für selbstverständlich halten, wenn ich mit meiner Familie und einigen meiner Freunde spreche, die nicht im Technologiebereich tätig sind , sie haben buchstäblich die meiste Zeit keine Ahnung, wovon ich spreche. Wir möchten nicht, dass die Menschen das Gefühl haben, dass die große Regierung überreguliert, aber es ist wichtig, über diese Dinge in einer Sprache zu sprechen, die auch Nicht-Techniker verstehen können.
Aber andererseits können Sie wahrscheinlich allein durch ein Gespräch mit mir erkennen, dass ich gespannt auf die Zukunft der KI bin. Ich sehe so viel Gutes kommen. Ich glaube wirklich, dass wir ein paar schwierige Jahre vor uns haben werden, da die Menschen sich besser damit auseinandersetzen und es besser verstehen werden, und die Gesetzgebung wird dort ihren Platz haben, um den Menschen zu ermöglichen, zu verstehen, was KI für sie bedeutet, und um einige Hürden zu errichten. des Schutzes rund um KI.
