Wenn KI eine bessere Diagnose stellen kann als ein Arzt, wie ist dann die Prognose für Ärzte? | John Naughton

EINSFür viele Menschen bedeute ich viele (verschiedene) Dinge. Wir brauchen bessere Möglichkeiten, darüber zu reden – und nachzudenken. Er geht, Drew Breunigein talentierter Geek und Kulturanthropologe, der eine klare Kategorisierung der Technologie in drei Anwendungsfälle entwickelt hat: Götter, Praktikanten und Zahnräder.

„Götter“ wären in diesem Sinne „superintelligente, künstliche Wesen, die Dinge autonom erledigen“. Mit anderen Worten, die AGI (künstliche allgemeine Intelligenz), die Sam Altman und seinesgleichen von OpenAI (zu einem ungerechtfertigten Preis) aufbauen wollen, während sie gleichzeitig davor warnen, dass sie eine existenzielle Bedrohung für die Menschheit darstellen könnte. Die Götter der KI seien, sagt Breunig, die „Anwendungsfälle für den Ersatz von Menschen“. Sie erfordern gigantische Modelle und enorme Mengen an „Rechenleistung“, Wasser und Strom (ganz zu schweigen vom damit verbundenen CO).₂ Emissionen).

„Praktikanten“ sind „beaufsichtigte Co-Piloten, die mit Experten zusammenarbeiten und sich auf das schwere Heben konzentrieren.“ Mit anderen Worten, Dinge wie GPT-ChatClaude, Llama und ähnliche große Sprachmodelle (LLMs). Ihre besondere Qualität besteht darin, dass sie für den Einsatz und die Aufsicht von Experten bestimmt sind. Sie verfügen über eine hohe Fehlertoleranz, da die von ihnen unterstützten Experten ihre Ergebnisse verifizieren und so peinliche Fehler verhindern. Sie erledigen die langweilige Arbeit: Dokumentation merken und Referenzen navigieren, Details nach der Definition der Grundzüge ausfüllen, als dynamischer Resonanzboden bei der Ideengenerierung helfen und vieles mehr.

Schließlich handelt es sich bei „Zahnrädern“ um bescheidene Maschinen, die dafür optimiert sind, eine einzelne Aufgabe äußerst gut auszuführen, normalerweise als Teil einer Pipeline oder Schnittstelle.

Im Moment haben wir überwiegend Praktikanten; stellen KI als eine Technologie dar, die die menschlichen Fähigkeiten erweitert und bereits in vielen Branchen und Berufen weit verbreitet ist. In diesem Sinne stellen sie die erste Generation quasi-intelligenter Maschinen dar, mit denen Menschen in Arbeitsumgebungen enge kognitive Interaktionen hatten, und wir beginnen, interessante Dinge über die Funktionsweise dieser Mensch-Maschine-Partnerschaften zu erfahren.

Ein Bereich, in dem große Hoffnungen auf KI gesetzt werden, ist das Gesundheitswesen. Und das aus gutem Grund. Im Jahr 2018 kam es beispielsweise zu einer Zusammenarbeit von KI-Forschern bei DeepMind und Moorfields Eye Hospital in London hat die Analyse von Netzhautscans zur Erkennung von Symptomen bei Patienten, die dringend eine Behandlung benötigten, erheblich beschleunigt. Aber in gewisser Weise war dies, auch wenn es technisch schwierig war, offensichtlich: Maschinen können Untersuchungen unglaublich schnell „lesen“ und diejenigen auswählen, die einer speziellen Diagnose und Behandlung bedürfen.

Aber wie sieht es mit dem Diagnoseprozess selbst aus? Er geht eine faszinierende Studie in den USA veröffentlicht im Oktober in Zeitschrift der American Medical Associationdie über eine randomisierte klinische Studie darüber berichteten, ob ChatGPT die diagnostischen Fähigkeiten von 50 praktizierenden Ärzten verbessern könnte. Die langweilige Schlussfolgerung war, dass „die Verfügbarkeit eines LLM für Kliniker als Diagnosehilfe das klinische Denken im Vergleich zu herkömmlichen Ressourcen nicht wesentlich verbesserte.“ Aber es gab einen überraschenden Kicker: ChatGPT auf eigene Faust zeigte gegenüber beiden Gruppen von Ärzten (mit und ohne Zugang zum Gerät) eine überlegene Leistung.

Oder, wie die New York Times zusammengefasst„Ärzte, die ChatGPT-4 zusammen mit herkömmlichen Ressourcen erhielten, schnitten nur geringfügig besser ab als Ärzte, die keinen Zugriff auf den Bot hatten. Und zur Überraschung der Forscher übertraf ChatGPT allein die Ärzte.“

Interessanter waren jedoch zwei andere Enthüllungen: Die Erfahrung zeigte den manchmal unerschütterlichen Glauben der Ärzte an eine von ihnen gestellte Diagnose, selbst wenn ChatGPT eine bessere vorschlug; und es deutete auch darauf hin, dass zumindest einige Ärzte nicht wirklich wussten, wie sie die Fähigkeiten des Tools am besten nutzen konnten. Was wiederum offenbarte, wofür und wie KI steht Ethan Mollick Ich sage schon seit Ewigkeiten: dass effektives „On-the-Fly Engineering“ – zu wissen, was man von einem LLM verlangen muss, um das Beste daraus zu machen – eine subtile und wenig verstandene Kunst ist.

Ebenso interessant ist die Wirkung, die die Zusammenarbeit mit einer KI auf die an der Partnerschaft beteiligten Menschen hat. Am MIT ein Forscher Ich habe ein Experiment gemacht um zu sehen, wie gut Materialwissenschaftler ihre Arbeit erledigen könnten, wenn sie KI in ihrer Forschung einsetzen könnten.

Die Antwort war, dass die KI-Unterstützung tatsächlich zu funktionieren scheint, gemessen an der Entdeckung von 44 % mehr Materialien und einem Anstieg der Patentanmeldungen um 39 %. Dies wurde dadurch erreicht, dass die KI mehr als die Hälfte der „Ideengenerierungs“-Aufgaben übernahm und den Forschern die Aufgabe überließ, von Modellen erstellte Kandidatenmaterialien zu bewerten. Somit übernahm die KI den Großteil des „Denkens“, während sie auf die eher alltägliche Aufgabe verwiesen wurde, die praktische Umsetzbarkeit von Ideen zu bewerten. Und das Ergebnis: Die Forscher erlebten einen deutlichen Rückgang der Arbeitszufriedenheit!

Interessant, das ist es nicht? Diese Forscher sind Agenten mit hohem Status, keine Agenten mit niedrigem Status. Aber plötzlich fühlten sie sich durch die Zusammenarbeit mit einer intelligenten Maschine wie … nun ja, Zahnräder. Und Moral? Seien Sie vorsichtig, was Sie sich wünschen.

Was ich gelesen habe

Kamerateil
Was ist, wenn Echokammern funktionieren? ist ein beeindruckender Aufsatz, der ein liberales Dilemma in der Ära Donald Trump beleuchtet.

Sparplan
Eine genaue Reuters-Analyse ist Den Weg zur Effizienzsteigerung von Elon Musk abbilden.

Erfinderisches Denken
Steven Sinofskys fabelhafter und kluger Aufsatz Über den Preis, ein Disruptor zu sein Es geht um Innovation und Veränderung.