Geben Sie mir einzigartige Intelligenzen, keine Wahrscheinlichkeiten

Während ich an dem Manuskript arbeitete für Mehr als Worte: Wie man im Zeitalter der KI über das Schreiben nachdenktIch habe viel mit großen Sprachmodellen experimentiert und die meiste Zeit mit ChatGPT (und seinen verschiedenen Nachfolgern) und Claude (in seinen verschiedenen Varianten) verbracht.

Ich ging davon aus, dass diese Experimente im Laufe der Zeit eine wirklich nützliche Anwendung dieser Technologie für meine Arbeit als Schriftsteller hervorbringen würden.

In Wahrheit ist das Gegenteil der Fall, und ich denke, es ist interessant herauszufinden, warum.

Ein Faktor ist, dass ich mir zunehmend Sorgen um die meiner Meinung nach weitgehend unkritische Akzeptanz generativer KI im Bildungskontext gemacht habe. Ich spreche nicht nur von völlig falschen Schritten wie der Einführung ein KI-gestützter Anne-Frank-Emulator, der gegenüber Nazis nur gnädige Gedanken hegtAber es gibt auch andere Beispiele von Ausbildern und Institutionen, die davon ausgehen, dass die Technologie so etwas wie ein Wunder ist muss wirken sich positiv auf das Lehren und Lernen aus.

Dies hat mich einer Widerstandsmentalität näher gebracht, schon allein deshalb, um ein Gegengewicht zu denen zu schaffen, die KI als unvermeidlich betrachten, ohne zu bedenken, was auf der anderen Seite ist. In Wahrheit bin ich jedoch eher einer Meinung, als dass ich ein absoluter Widerstandskämpfer bin Marc Watkins, der glaubt, dass wir KI als „unvermeidbar“, aber nicht als „unvermeidlich“ betrachten sollten. Auch wenn ich denke, dass es mehr als töricht ist, generative KI zu verunglimpfen, lehne ich auch den potenziellen Nutzen der Technologie für die Lernunterstützung von Schülern nicht ab.

(Eine große offene Frage ist jedoch, was und wie wir wollen, dass sie diese Dinge lernen.)

Ein weiterer Faktor war, dass ich ihnen immer weniger vertraute, je mehr ich mit den LLMs arbeitete. Das lag zum Teil daran, dass ich versucht habe, ihre Fähigkeiten zu nutzen, um mich beim Schreiben in Bereichen zu unterstützen, in denen ich über umfangreiches Hintergrundwissen verfüge, und ich festgestellt habe, dass sie mich immer wieder auf subtile, aber sinnvolle Weise in die Irre geführt haben. Dies wiederum machte mir Angst davor, sie in Bereichen einzusetzen, in denen ich nicht über das nötige Wissen verfüge, um ihre Halluzinationen zu kontrollieren.

Meistens wurde mir jedoch jedes Mal, wenn ich versuchte, sie zu nutzen, um mir eine Abkürzung zu einem schnelleren Ergebnis zu verschaffen, klar, dass ich durch die Abkürzung eine wichtige Erfahrung auf dem Weg verpasst hatte.

Als ein Beispiel wollte ich in einem Abschnitt, in dem ich für die Wichtigkeit der Kultivierung des eigenen Geschmacks und des Sinns für ästhetische Qualität plädiere, Material aus dem Buch des Mitarbeiters des New Yorker, Kyle Chayka, verwenden Filterworld: Wie Algorithmen die Kultur verflachten. Ich hatte das Buch schon mehrere Monate zuvor gelesen und sogar rezensiert, also dachte ich, ich hätte es gut im Griff, aber ich brauchte trotzdem eine Auffrischung dessen, was Chayka „algorithmische Angst“ nennt, und forderte ChatGPT auf, mich daran zu erinnern, was Chayka damit meinte .

Die von ChatGPT gelieferte Zusammenfassung war völlig in Ordnung, genau und nicht halluzinatorisch, aber ich schaffte es nicht, von der Vorstellung, die ich über Chaykas Idee in meinem Kopf hatte, über diese Zusammenfassung von Chaykas Idee zu etwas Nützlichem auf der Seite zu gelangen. Am Ende musste ich noch einmal zurückgehen und den Stoff im Buch rund um das Konzept noch einmal lesen, um mein Gehirn auf eine Art und Weise in Schwung zu bringen, die es mir ermöglichte, einen eigenen Gedanken zu artikulieren.

Etwas Ähnliches passierte mehrere Male und ich begann mich zu fragen, was genau los war. Es ist möglich, dass mein Schreibprozess eigenwillig ist, aber ich habe herausgefunden, dass das Problem, (hoffentlich) interessante und aufschlussreiche Dinge in dem Buch zu sagen, weiter zu arbeiten, nicht eine Zusammenfassung der Ideen anderer war, sondern der ursprüngliche Ausdruck anderer als Treibstoff für Mein Gedanken.

Dieses Phänomen hängt möglicherweise mit der Art und Weise zusammen, wie ich das Schreiben sehe, nämlich dass Schreiben ein kontinuierlicher Entdeckungsprozess ist, bei dem ich erste Gedanken habe, die mich auf die Seite bringen, aber der Akt, die Idee auf die Seite zu bringen, verändert diese ersten Gedanken .

Ich neige dazu, zu glauben, dass jedes Schreiben, oder zumindest jedes gute Schreiben, auf diese Weise funktioniert, weil man dadurch weiß, dass man das Ergebnis einer einzigartigen Intelligenz auf der Seite erhält. Das Ziel besteht darin, etwas aufzudecken, was ich selbst nicht wusste, und dabei von der Theorie auszugehen, dass dies auch dem Publikum etwas Neues bringen wird. Wenn der Autor dabei nichts für sich entdeckt hat, welchen Sinn hat die ganze Übung?

Als ich mich für eine Zusammenfassung an ein LLM wandte und keine Verwendung dafür fand, wurde mir klar, dass ich es nicht mit einer Intelligenz, sondern mit einer Wahrscheinlichkeit interagierte. Ohne ein interessantes menschliches Merkmal, an dem ich mich festhalten konnte, konnte ich keinen Weg finden, meine eigene Menschlichkeit zu entfalten.

Ich akzeptiere, dass andere unterschiedliche Erfahrungen mit der Arbeit mit großen Sprachmodellen machen und dass sie diese als wirklich generativ empfinden (entschuldigen Sie das Wortspiel). Dennoch frage ich mich, was es bedeutet, einen Funken in verallgemeinerten Wahrscheinlichkeiten zu finden und nicht in der singulären Intelligenz.

Ich glaube, dass ich darin viele interessante und aufschlussreiche Dinge sage Mehr als Worte. Ich bin auch zuversichtlich, dass ich möglicherweise einige Dinge falsch mache und dass sich meine Überzeugungen mit der Zeit ändern werden, wenn ich mich den Reaktionen anderer aussetze. Hierbei handelt es sich um den Prozess der Kommunikation und Konversation, Prozesse, die von großen Sprachmodellen nicht abgedeckt werden können, da sie nicht die Absicht haben, unter der Haube ihres Algorithmus zu arbeiten.

Etwas anderes zu glauben bedeutet, sich einer Täuschung hinzugeben. Vielleicht ist es eine hilfreiche Täuschung, aber dennoch eine Täuschung.

Die Kapazitäten dieser Technologie sind erstaunlich und nehmen ständig zu mirFür meine Arbeit bieten sie nicht allzu viel Bedeutung.