Ein neues, von Experten begutachtetes Papier von Experten des Oxford Internet Institute der Universität Oxford unterstreicht die Notwendigkeit eines klaren Rahmens für die KI-Forschung angesichts der raschen Einführung künstlicher Intelligenz bei Kindern und Jugendlichen, die digitale Geräte für den Internetzugang nutzen und soziale Medien.
Seine Empfehlungen basieren auf einer kritischen Bewertung aktueller Forschungsdefizite zu den Auswirkungen digitaler Technologien auf die psychische Gesundheit junger Menschen und einer eingehenden Analyse der diesen Defiziten zugrunde liegenden Herausforderungen.
Das Papier „From Social Media to Artificial Intelligence: Improving Research on Digital Harms in Youth“, das am 21. Januar in The Lancet Child and Adolescent Health veröffentlicht wurde, fordert eine „kritische Neubewertung“ der Art und Weise, wie wir die Auswirkungen des Internets untersuchen Technologien zur psychischen Gesundheit junger Menschen und skizziert, wo die zukünftige KI-Forschung aus mehreren Fallstricken der Social-Media-Forschung lernen kann. Zu den bestehenden Einschränkungen gehören inkonsistente Ergebnisse und ein Mangel an longitudinalen, kausalen Studien.
Die Analyse und Empfehlungen der Oxford-Forscher sind in vier Abschnitte unterteilt:
- Ein kurzer Überblick über aktuelle Forschungsergebnisse zu den Auswirkungen von Technologie auf die psychische Gesundheit von Kindern und Jugendlichen, wobei die wichtigsten Einschränkungen der Evidenz hervorgehoben werden.
- Eine Analyse der Herausforderungen bei der Gestaltung und Interpretation von Forschung, die ihrer Meinung nach diesen Einschränkungen zugrunde liegen.
- Vorschläge zur Verbesserung der Forschungsmethoden zur Bewältigung dieser Herausforderungen, mit Schwerpunkt auf der Frage, wie sie auf die Erforschung von KI und dem Wohlbefinden von Kindern angewendet werden können.
- Konkrete Schritte für die Zusammenarbeit zwischen Forschern, politischen Entscheidungsträgern, Big Tech, Betreuern und jungen Menschen.
„Forschung zu den Auswirkungen von KI sowie Beweise für politische Entscheidungsträger und Ratschläge für Pflegekräfte müssen aus den Problemen lernen, mit denen sich die Social-Media-Forschung konfrontiert sieht“, sagte Dr. Karen Mansfield, Postdoktorandin am OII und Hauptautorin des Papiers. „Junge Menschen übernehmen bereits neue Wege der Interaktion mit KI, und ohne einen soliden Rahmen für die Zusammenarbeit zwischen Interessengruppen wird eine evidenzbasierte KI-Politik wie bei den sozialen Medien hinterherhinken.“
Der Artikel beschreibt, wie die Auswirkungen sozialer Medien oft als ein isolierter Kausalfaktor interpretiert werden, der verschiedene Arten der Nutzung sozialer Medien sowie kontextuelle Faktoren, die sowohl die Technologienutzung als auch die psychische Gesundheit beeinflussen, vernachlässigt. Ohne diesen Ansatz zu überdenken, besteht die Gefahr, dass künftige KI-Forschung in eine neue Medienpanik gerät, wie dies bei den sozialen Medien der Fall war. Zu den weiteren Herausforderungen zählen Messungen der Nutzung sozialer Medien, die schnell veraltet sind, und Daten, die häufig die am stärksten gefährdeten jungen Menschen ausschließen.
Die Autoren schlagen vor, dass eine wirksame KI-Forschung Fragen stellt, die KI nicht implizit problematisch machen, kausale Designs sicherstellen und die relevantesten Expositionen und Ergebnisse priorisieren.
Das Papier kommt zu dem Schluss, dass Forschung und evidenzbasierte Politik Schwierigkeiten haben werden, Schritt zu halten, wenn junge Menschen neue Formen der Interaktion mit KI annehmen. Indem wir jedoch sicherstellen, dass unser Ansatz zur Untersuchung der Auswirkungen von KI auf junge Menschen die Erkenntnisse aus früheren Forschungsdefiziten widerspiegelt, können wir die Integration von KI in Online-Plattformen und deren Nutzung effektiver regulieren.
„Wir fordern einen kollaborativen, evidenzbasierten Rahmen, der große Technologieunternehmen auf proaktive, schrittweise und informative Weise zur Rechenschaft zieht“, sagte Professor Andrew Przybylski, OII-Professor für menschliches Verhalten und Technologie und Mitautor des Papiers. „Ohne auf den Lehren der Vergangenheit aufzubauen, könnten wir in zehn Jahren wieder am Anfang stehen und die Stellung der KI auf die gleiche Weise betrachten, wie wir uns gegenüber sozialen Medien und Smartphones hilflos fühlen. Wir müssen jetzt aktive Schritte unternehmen, damit die KI sicher sein kann.“ und wohltuend für Kinder und Jugendliche.“
