Erhalten Sie Geschichten wie diese direkt in Ihren Posteingang. Melden Sie sich für den 74-Newsletter an
Im August veröffentlichte OpenAI seine neueste Version Sicherheitskarte für ChatGPT 4.0. Es handelt sich um eine hochtechnische und recht düstere Lektüre, in der detailliert auf Risiken und Sicherheitsbedenken eingegangen wird, die durch generative künstliche Intelligenz entstehen oder verstärkt werden könnten. Ganz unten im Dokument listet OpenAI die „gesellschaftlichen Auswirkungen“ auf, die es weiter untersuchen möchte. Erster auf seiner Liste? Anthropomorphisierung und emotionales Vertrauen.
Das ist eine schicke Art zu sagen, dass Bots zunehmend in der Lage sind, menschlich zu klingen, wodurch die Gefahr steigt, dass Menschen eine Bindung zu ihnen aufbauen. OpenAI gibt seinen eigenen Haken zu: Diese Verbesserungen schaffen „sowohl ein überzeugendes Produkterlebnis als auch das Potenzial für übermäßiges Vertrauen und Abhängigkeit.“ Kurz gesagt: Je besser die Technologie wird, desto größer werden die sozialen Risiken.
Ed-Tech-Tools sind vor dieser Herausforderung nicht gefeit. Während KI den Markt überschwemmt, müssen sich Technologieunternehmen und Bezirksleiter gleichermaßen die schwierige Frage stellen: Wenn Bots zunehmend so gebaut werden, dass sie menschliche Beziehungen nachahmen – wenn sie so konstruiert werden, dass sie menschlich klingen –, sind sie dann auch dafür konzipiert, Schüler mit echten Menschen zu verbinden? ?
Andernfalls laufen KI-Tools Gefahr, ihre menschlichen Verbindungen zu verdrängen. Dies birgt langfristige Risiken für das Wohlergehen der Studierenden, ihre Fähigkeit, zwischenmenschliche Beziehungen aufrechtzuerhalten und ihren Zugang zu Netzwerken, die Türen zu Chancen öffnen.
In einem neuen Bericht Navigation und Führung im Zeitalter der KI, Anna Arsenault und ich wollten analysieren, ob und wie diese Frage in der KI-gestützten Studien- und Berufsberatung angegangen wird.
Dies ist ein Bereich, in dem sich Chatbots besonders schnell durchsetzen werden. Im Durchschnitt gibt es an weiterführenden Schulen jeweils einen Berufsberater 385 Studierende. Untersuchungen deuten auf ein bloßes hin 6 % der Zeit von Schulberatern wird für die Berufsberatung aufgewendet. Solche knappen Humanressourcen schaffen Lücken, in denen Chatbots helfen können, indem sie Studenten auf Abruf individuelle Ratschläge zu Bewerbungen für ein Studium, zum Abschluss und zum Berufseinstieg bieten.
Unser Bericht enthält Einblicke von Gründern, CEOs und Chief Technology Officers von über 30 Technologieunternehmen, die Chatbots entwickeln und implementieren, um Studenten bei ihrer Bewerbung für ein College und im weiteren Verlauf ihrer Karriere zu unterstützen.
Basierend auf diesen Interviews klingen die Warnungen von Open AI vor der Anthropomorphisierung – der Zuschreibung menschlicher Eigenschaften auf nichtmenschliche Dinge – wahr. Beispielsweise haben die meisten College- und Karriere-Bots Namen und sollen fröhliche, optimistische Persönlichkeiten nachahmen. Viele gehen über die Informationsunterstützung hinaus und bieten den Schülern emotionale und motivierende Unterstützung, wenn die Berater dies nicht können.
Verlassen sich Studierende zu sehr auf diese Bots? Es ist zu früh, das zu sagen. Doch während sich die meisten der von uns befragten Führungskräfte ein hybrides Beratungssystem vorstellen, das den Studierenden Zugang sowohl zu Bots als auch zu menschlichen Trainern ermöglicht, gab die Mehrheit zu, dass einige Studierende sich zu Bots hingezogen fühlen, in der Hoffnung, menschliche Interaktion ganz zu vermeiden.
Kurz gesagt, die Möglichkeit, dass Schüler beginnen, eine Bindung zu Bots aufzubauen und sich auf sie statt auf Menschen zu verlassen, ist sehr real.
Glücklicherweise unternehmen einige Führungskräfte Schritte, um Bots zu entwickeln, die Beziehungen fördern, anstatt sie nur nachzuahmen. Hier sind fünf Beispiele für Bemühungen, sicherzustellen, dass eine authentische menschliche Verbindung ein Ergebnis und kein Opfer von KI-Produkten ist:
Förderung häufiger sozialer Interaktion offline: Axio AIdie aus der studentischen Initiative der Arizona State University hervorgegangen ist Leuchtkraftlaborist ein KI-Begleiter, der die persönliche Entwicklung von Schülern unterstützt. Der Bot wurde darauf trainiert, etwas über die Beziehungen im Leben der Schüler zu lernen. Wenn Schüler dem Bot mitteilen, dass sie Probleme haben oder sich langweilen, schlägt er vor, sich an bestimmte Freunde oder Familienmitglieder zu wenden. Axio hat auch daran gearbeitet, übermäßiges Vertrauen einzudämmen, indem es die Zeit der Schüler mit der App begrenzt hat.
Einbeziehung der Familien und Freunde der Schüler: Entwurzelte Akademie ist eine gemeinnützige Organisation, die ein virtuelles Gemeindezentrum betreibt, in dem Studenten mit KI-gestützten Trainern interagieren können, die ihnen bei der Bewerbung für ein College helfen. Um sicherzustellen, dass diese digitalen Beziehungen nicht die echten ersetzen, bittet die Uprooted Academy die Studierenden, bei der Einschreibung bis zu fünf unterstützende Personen in ihrem Leben zu benennen. Das Tool informiert diese fünf Personen automatisch alle zwei Wochen per SMS mit Empfehlungen zur Unterstützung des Studienfortschritts der Studierenden.
Anregende Gespräche – auch die schwierigen: CollegeVineAls KI-Berater und Tutor betreut er Oberstufenschüler während des gesamten Bewerbungsprozesses für das College. Durch Gespräche mit den Schülern verfolgt der Bot von CollegeVine, Sage, wie sie ihre Interaktionen mit Beratern und Lehrern beschreiben. Wenn es an der Zeit ist, um Empfehlungsschreiben zu bitten, kann der Bot den Schülern beibringen, wen sie fragen sollen und wie sie eventuelle Herausforderungen im Umgang mit diesen Erwachsenen bewältigen können.
Passende Studenten und Mentoren: Unterstützer ist eine Plattform, die ehrenamtliche Online-Mentoren rekrutiert, um Oberstufenschüler bei Projekten im Zusammenhang mit ihren akademischen und außerschulischen Interessen zu coachen. Das Unternehmen hat kürzlich mit Lubav einen KI-Erfolgscoach herausgebracht, der Studenten dabei hilft, die richtigen Mentoren auf der Plattform zu finden und Botschaften an sie zu verfassen.
Networking durch Online-Rollenspiele üben: Coach von CareerVillage.org ist ein Chatbot, der Schülern dabei helfen soll, das Bitten um Hilfe zu üben. Die Plattform umfasst eine Reihe von Karriereentwicklungsaktivitäten, bei denen Studierende Vorstellungsgespräche mit dem Bot üben und Networking- und Jobsuche-E-Mails, Social-Media-Nachrichten und Briefe mit der Bitte um Referenzen verfassen.
Diese Beispiele verdeutlichen das Potenzial der KI, menschliche Verbindungen zu stärken. Allerdings sind die Anreize, beziehungsorientierte KI-Tools zu entwickeln, schwach. Nur wenige Schulen fragen nach diesen sozialen Merkmalen oder bewerten Instrumente hinsichtlich ihrer sozialen Auswirkungen.
Wenn die Dinge so bleiben, wie sie sind, könnten sie die Isolation der Schüler umso stärker fördern, je mehr anthropomorphe Bots Beziehungen zwischen Anleitung, Nachhilfe und Schülerunterstützung simulieren.
Aber dieses Ergebnis ist nicht unvermeidlich. Die Forschung unterstreicht die Bedeutung von Beziehungen Jugendentwicklung Und wirtschaftliche Mobilität. Um ihrer Mission gerecht zu werden, sollten Schulen der menschlichen Verbindung Priorität einräumen und sicherstellen, dass KI-Tools für den Ausbau der Schülernetzwerke und nicht dagegen wirken. Koordinatoren und Einkäufer der Informationstechnologie, Vorgesetzte, Schulleiter und Pädagogen, die an der Beschaffung neuer Technologien beteiligt sind, sollten Beweise dafür verlangen, dass KI Beziehungen verbessert, und Datensysteme implementieren, um diesen Fortschritt zu verfolgen. Unternehmer, die Maßnahmen zur Sicherung und zum Ausbau von Verbindungen ergreifen, sollten für ihre Bemühungen belohnt werden.
Andernfalls riskieren Bildungstechnologieunternehmen die gleiche Problematik wie OpenAI: Sie bauen künstliche Intelligenz auf, die immer besser wird, aber auf Kosten der menschlichen Beziehungen, die Studenten brauchen, um erfolgreich zu sein.
Offenlegung: Julia Freeland Fisher fungiert als unbezahlter Berater für Backrs.
Erhalten Sie Geschichten wie diese direkt in Ihren Posteingang. Melden Sie sich für den 74-Newsletter an
