Start Erde/Umwelt Computerprogramme überwachen im Namen der Sicherheit jedes Wort der Schüler

Computerprogramme überwachen im Namen der Sicherheit jedes Wort der Schüler

32
0
Computerprogramme überwachen im Namen der Sicherheit jedes Wort der Schüler


Erhalten Sie Geschichten wie diese direkt in Ihren Posteingang. Melden Sie sich für den 74-Newsletter an

Ob es sich um ein Forschungsprojekt zum Bürgerkrieg oder ein wissenschaftliches Experiment zu Vulkanausbrüchen handelt, Schüler im Colonial School District in der Nähe von Wilmington, Delaware, können auf ihren von der Schule bereitgestellten Laptops so ziemlich alles nachschlagen.

Aber in einem Fall suchte ein Grundschüler nach „Wie man stirbt“.

In diesem Fall erhielt Meghan Feby, eine Grundschulberaterin im Bezirk, über eine Plattform einen Anruf GoGuardian Beacondessen Algorithmus die Phrase markiert hat. Das vom Bildungssoftwareunternehmen GoGuardian vertriebene System ermöglicht es Schulen, zu überwachen und zu analysieren, was Schüler auf von der Schule bereitgestellten Geräten tun, und alle Aktivitäten zu kennzeichnen, die auf die Gefahr von Selbstverletzung oder Bedrohung anderer hinweisen.

Der Student, der nach „Wie man stirbt“ gesucht hatte, wollte nicht sterben und zeigte keine Anzeichen von Verzweiflung, sagte Feby – der Student suchte nach Informationen, war aber nicht in Gefahr. Dennoch schätzt sie das Programm.

„Ich bin mit GoGuardian in einige Situationen geraten, in denen ich wirklich froh bin, dass sie zu uns gekommen sind und wir eingreifen konnten“, sagte Feby.

Schulbezirke im ganzen Land haben solche Computerüberwachungsplattformen weitgehend eingeführt. Da sich die Krise der psychischen Gesundheit junger Menschen durch die COVID-19-Pandemie verschärft hat und landesweit immer mehr K-12-Schüler von Gewalt an Schulen betroffen sind, suchen Lehrer verzweifelt nach einer Lösung, sagen Experten.

Kritiker befürchten jedoch die mangelnde Transparenz seitens der Unternehmen, die befugt sind, Schüler zu überwachen und zu entscheiden, wann das Schulpersonal benachrichtigt werden soll. Die ständige Überwachung von Studenten wirft auch Bedenken hinsichtlich der Daten von Studenten, der Privatsphäre und der freien Meinungsäußerung auf.

Obwohl die Programme seit mehr als einem Jahrzehnt verfügbar waren, erlebten sie während der Pandemie einen starken Anstieg ihrer Nutzung, als die Schüler auf Online-Lernen von zu Hause aus umstiegen, sagte Jennifer Jones, eine Rechtsanwältin am Knight First Amendment Institute.

„Ich denke, weil es alle möglichen Probleme gibt, mit denen sich Schulbezirke auseinandersetzen müssen – wie zum Beispiel psychische Probleme von Schülern und die Gefahren von Schießereien in der Schule –, denke ich, dass sie (Schulbezirke) diese nur als billige und schnelle Möglichkeiten betrachten, das Problem ohne Probleme anzugehen.“ die Auswirkungen auf freie Meinungsäußerung und Privatsphäre auf eine nachdenklichere Art und Weise zu hinterfragen“, sagte Jones.

Nach dem aktuellsten Risikoverhalten von Jugendlichen Umfrage Nach Angaben der Bundeszentren für die Kontrolle und Prävention von Krankheiten sind von 2013 bis 2023 fast alle Indikatoren für schlechte psychische Gesundheit, Selbstmordgedanken und Selbstmordverhalten gestiegen. Im gleichen Zeitraum hat der Prozentsatz der Oberstufenschüler, die in der Schule bedroht oder verletzt wurden, die Schule verpasst Nach Angaben des CDC nahmen die Zahl der Opfer aufgrund von Sicherheitsbedenken oder erzwungenem Sex zu Bericht.

Und die Gefahr von Schießereien in Schulen beschäftigt viele Pädagogen. Laut Angaben haben seit der Schießerei an der Columbine High School im Jahr 1999 mehr als 383.000 Schüler in der Schule Waffengewalt erlebt Die Zählung der Washington Post.

Rich Preece, CEO von GoGuardian, sagte gegenüber Stateline, dass etwa die Hälfte der öffentlichen K-12-Schulen in den Vereinigten Staaten die Plattformen des Unternehmens installiert haben.

Als Beauftragte ihrer Schule erhält Feby eine Benachrichtigung, wenn ein Schüler bestimmte Suchbegriffe oder Wortkombinationen auf seinen von der Schule bereitgestellten Laptops verwendet. „Es kommt entweder als E-Mail zu mir oder, wenn es sich um ein sehr hohes Risiko handelt, als Anruf.“

Sobald sie benachrichtigt wird, entscheidet Feby, ob sie sich mit der Schülerin trifft oder das Kind zu Hause anruft. Wenn das System beunruhigende Aktivitäten außerhalb der Schulzeiten meldet, kontaktiert GoGuardian Beacon eine andere Person im Landkreis – in einigen Schulbezirken auch die Strafverfolgungsbehörden.

Feby sagte, sie habe einige Fehlalarme gehabt. Eine Schülerin wurde wegen des Liedtextes, den sie nachgeschlagen hatte, gemeldet. Ein anderer hatte nach etwas gesucht, das mit Anime zu tun hat.

Ungefähr ein Drittel der Schüler in Febys Schule kommen aus einem Elternhaus, in dem Englisch nicht ihre Muttersprache ist, sodass die Schüler oft versehentlich besorgniserregende englische Begriffe verwenden. Kinder können auch neugierig sein, sagte sie.

Dennoch sei es wichtig, GoGuardian im Klassenzimmer zu haben, sagte Feby. Bevor sie vor 10 Jahren Beraterin wurde, war sie Lehrerin. Und nach der Massenschießerei an der Sandy Hook-Grundschule im Jahr 2012 wurde ihr klar, dass die Sicherheit in der Schule wichtiger denn je war.

Daten und Privatsphäre

Teddy Hartman, Datenschutzbeauftragter bei GoGuardian, unterrichtete englische Literatur an Highschools in East Los Angeles und war Schulverwalter, bevor er vor etwa vier Jahren zum Technologieunternehmen wechselte.

Hartman sei zu GoGuardian geholt worden, um bei der Erstellung eines robusten Datenschutzprogramms zu helfen, einschließlich Leitlinien für den Einsatz künstlicher Intelligenz.

„Wir dachten: ‚Wie können wir gemeinsam mit Pädagogen, den besten Datenwissenschaftlern und den besten Technologen etwas schaffen und dabei gleichzeitig bedenken, dass Studenten und unsere Pädagogen an erster Stelle stehen?‘“, sagte Hartman.

GoGuardian verwendet keine Schülerdaten außerhalb der Vereinbarungen, die die Schulbezirke zugelassen haben, und diese Daten werden nicht zum Trainieren der KI des Unternehmens verwendet, sagte Hartman. Auch Unternehmen, die regeln, was Kinder online tun dürfen, müssen sich daran halten Bundesgesetze in Bezug auf die Sicherheit und Privatsphäre von Minderjährigen, einschließlich des Family Educational Rights and Privacy Act und der Children’s Online Privacy Protection Rule.

Datenschutzexperten sind jedoch immer noch besorgt darüber, wie viel Zugriff diese Art von Unternehmen auf Studentendaten haben sollte.

Schulbezirke im ganzen Land geben Hunderttausende Dollar für Verträge mit einigen der führenden Anbieter von Computerüberwachung aus – darunter GoGuardian, Gaggle und andere –, ohne die Auswirkungen auf Datenschutz und Bürgerrechte vollständig abzuschätzen, sagte Clarence Okoh, ein leitender Anwalt des Zentrums für Datenschutz und Technologie am Georgetown University Law Center.

Im Jahr 2021, als viele Schulen gerade erst begannen, die Auswirkungen des Online-Lernens zu erkennen, veröffentlichte The 74, eine gemeinnützige Nachrichtenagentur zum Thema Bildung, eine Untersuchung wie Gaggle an den Schulen in Minneapolis arbeitete. Hunderte Dokumente enthüllten, wie Schüler eines Schulsystems noch lange nach Schulschluss einer ständigen digitalen Überwachung ausgesetzt waren, auch zu Hause, berichtete die Verkaufsstelle.

Dieses Ausmaß der umfassenden Überwachung kann weitreichende Auswirkungen haben, sagte Okoh. Zum einen sei in Gerichtsbarkeiten, in denen der Gesetzgeber die Zensur „spaltender Konzepte“ in Schulen, einschließlich kritischer Rassentheorie und LGBTQ+-Themen, ausgeweitet habe, die Fähigkeit der Schulen, Gespräche, die diese Begriffe beinhalten, zu überwachen, besorgniserregend, sagte er.

A Bericht von der Electronic Frontier Foundation, einer gemeinnützigen Gruppe für digitale Rechte mit Sitz in San Francisco, zeigt, welche Arten von Schlüsselwortauslösern für Administratoren blockiert oder gekennzeichnet werden. In einem Beispiel hatte GoGuardian einen Studenten gemeldet, weil er den Text eines Bibelvers gelesen hatte, der das Wort „nackt“ enthielt, heißt es in dem Bericht. In einem anderen Fall wurde eine Website des Repräsentantenhauses von Texas mit Informationen zu „Cannabis“-Gesetzentwürfen gemeldet.

GoGuardian und Gaggle haben beide LGBTQ+-Begriffe nach der ersten Anfrage der Stiftung nach Datensätzen ebenfalls aus ihren Schlüsselwortlisten gestrichen, sagte die Gruppe.

Aufgrund mangelnder Transparenz sei es jedoch schwierig, ein umfassendes Verständnis der Art und Weise zu erlangen, wie diese Unternehmen Studenten überwachen, sagte Jones. Es sei schwierig, Informationen von privaten Technologieunternehmen zu erhalten, und der Großteil ihrer Daten werde nicht veröffentlicht, sagte sie.

Funktionieren sie?

Jahre vor der Schießerei an der Robb Elementary School in Uvalde, Texas, im Jahr 2022 kaufte der Schulbezirk einen Technologiedienst, um zu überwachen, was Schüler in den sozialen Medien taten, heißt es Die Dallas Morning News. Der Zeitung zufolge überwies der Bezirk zwei Zahlungen an das Unternehmen Social Sentinel in Höhe von insgesamt mehr als 9.900 US-Dollar.

Obwohl die Kosten variieren, geben einige Schulbezirke Hunderttausende Dollar für Online-Überwachungsprogramme aus. Der Muscogee County School District in Georgia zahlte 137.829 US-Dollar an anfänglichen Kosten für die Installation von GoGuardian auf den Chromebooks des Bezirks. laut dem Columbus Ledger-Enquirer. Öffentliche Schulen in Maryland, Montgomery County hat GoGuardian aus seinem Budget gestrichen für das Schuljahr 2024–2025, nachdem später jährlich 230.000 US-Dollar dafür ausgegeben wurden Wechsel zu Lightspeednach dem Wootton Common Sense.

Trotz der Ausgaben gebe es keine Möglichkeit zu beweisen, dass diese Technologien funktionieren, sagte Chad Marlow, ein leitender Politikberater bei der American Civil Liberties Union, der eine Studie verfasst hat Bericht zu Bildungsüberwachungsprogrammen.

Im Jahr 2019 behauptete Bark, eine Plattform zur Inhaltsüberwachung, dazu beigetragen zu haben, 16 Schießereien in einer Schule zu verhindern Blogbeitrag Beschreibung ihres Bark for Schools-Programms. Das steht auf der Website des Unternehmens Gaggle gespeichert 5.790 Leben zwischen 2018 und 2023.

Diese Datenpunkte werden anhand der Anzahl der von den Systemen generierten Warnungen gemessen, die darauf hinweisen, dass ein Schüler möglicherweise kurz davor steht, sich selbst oder anderen Schaden zuzufügen. Dem ACLU-Bericht zufolge gibt es jedoch kaum Beweise dafür, dass diese Art von Schulsicherheitstechnologie wirksam ist.

„Man kann anhand von Daten nicht sagen, dass etwas passiert wäre, wenn es keine Intervention gegeben hätte“, sagte Marlow.

Computerüberwachungsprogramme sind nur ein Beispiel für die landesweite allgemeine Zunahme der Schulüberwachung, einschließlich Kameras, Gesichtserkennungstechnologie und mehr. Und eine verstärkte Überwachung schrecke nicht unbedingt von schädlichem Verhalten ab, sagte Marlow.

„Viele Schulen sagen: ‚Wissen Sie was, wir müssen 50.000 US-Dollar ausgeben. Ich werde es für ein Produkt zur Schülerüberwachung ausgeben, das nicht funktioniert, anstatt für eine abschließbare Tür oder einen Berater für psychische Gesundheit. ‚“, sagte Marlow.

Einige Experten befürworten mehr Ressourcen für die psychische Gesundheit, einschließlich der Einstellung von mehr Berufsberatern und Schulrichtlinien zur Unterstützung der psychischen Gesundheit, die Gewalt oder Selbstmord verhindern könnten, sagte Jones. Engagement in der Gemeinschaft Programme, einschließlich Freiwilligenarbeit oder Gemeinschaftsveranstaltungen, können ebenfalls zum emotionalen und geistigen Wohlbefinden beitragen.

Aber das sei in einer idealen Welt, sagte Hartman von GoGuardian. Computerüberwachungsplattformen seien nicht die einzige Lösung zur Lösung der Epidemie der psychischen Gesundheit und Gewalt bei Jugendlichen, aber sie zielen darauf ab, zu helfen, sagte er.

„Wir wurden von Ingenieuren gegründet“, sagte Hartman. „Können wir also in unserem Teil dieser Welt aus schultechnischer Sicht etwas tun, das als Werkzeug im Werkzeugkasten hilfreich sein kann? Es ist nicht das A und O.“

Staatsgrenze ist Teil von States Newsroom, einem gemeinnützigen Nachrichtennetzwerk, das durch Zuschüsse und eine Koalition von Spendern als öffentliche Wohltätigkeitsorganisation gemäß 501c(3) unterstützt wird. Stateline wahrt die redaktionelle Unabhängigkeit. Bei Fragen wenden Sie sich bitte an den Redakteur Scott S. Greenberger: info@stateline.org. Folgen Sie Stateline auf Facebook Und X.


Erhalten Sie Geschichten wie diese direkt in Ihren Posteingang. Melden Sie sich für den 74-Newsletter an



Quelle link