Im Namen der Sicherheit überwachen Computerprogramme jedes Wort der Schüler

Von Madyson Fitzgerald, Stateline.org (TNS)

Ob es sich um ein Forschungsprojekt zum Bürgerkrieg oder ein wissenschaftliches Experiment zu Vulkanausbrüchen handelt, Schüler im Colonial School District in der Nähe von Wilmington, Delaware, können auf Laptops, die ihnen von der Schule zur Verfügung gestellt werden, so ziemlich alles recherchieren.

Aber in einem Fall suchte ein Grundschüler nach „Wie man stirbt“.

In diesem Fall erhielt Meghan Feby, die Grundschulberaterin des Bezirks, über eine Plattform namens „ GoGuardian Leuchtturmdessen Algorithmus die Phrase markiert hat. Das vom Bildungssoftwareunternehmen GoGuardian vertriebene System ermöglicht es Schulen, zu überwachen und zu analysieren, was Schüler auf von der Schule bereitgestellten Geräten tun, und alle Aktivitäten zu kennzeichnen, die auf die Gefahr von Selbstverletzung oder Bedrohung anderer hinweisen.

Der Student, der recherchierte, „wie man stirbt“, wollte nicht sterben und zeigte keine Anzeichen von Verzweiflung, sagte Feby – der Student suchte nach Informationen, war aber nicht in Gefahr. Dennoch schätzt sie das Programm.

„Ich hatte mit GoGuardian einige Situationen, in denen ich wirklich froh war, dass sie zu uns kamen und wir eingreifen konnten“, sagte Feby.

Schulbezirke im ganzen Land haben diese Computerüberwachungsplattformen weitgehend übernommen. Angesichts der durch die COVID-19-Pandemie verschärften psychischen Krise bei Jugendlichen und der zunehmenden Gewalt an Schulen im ganzen Land suchen Lehrer verzweifelt nach einer Lösung, sagen Experten.

Kritiker befürchten jedoch einen Mangel an Transparenz seitens der Unternehmen, die die Macht haben, Schüler zu überwachen und zu entscheiden, wann sie das Schulpersonal alarmieren. Die ständige Überwachung von Studierenden wirft auch Bedenken hinsichtlich der Daten von Studierenden, der Privatsphäre und der Meinungsfreiheit auf.

Obwohl sie schon seit mehr als einem Jahrzehnt verfügbar sind, verzeichneten die Programme während der Pandemie eine zunehmende Nutzung, da die Schüler zum Online-Lernen zu Hause übergingen, sagte Jennifer Jones, Anwältin am Knight First Amendment Institute.

„Ich denke, weil Schulbezirke mit allen möglichen Problemen zu kämpfen haben – etwa mit der psychischen Gesundheit von Schülern und den Gefahren von Schießereien in der Schule –, denke ich, dass sie (Schulbezirke) dies nur als kostengünstige und schnelle Möglichkeit sehen, das Problem ohne Hilfe zu lösen.“ die Auswirkungen auf freie Meinungsäußerung und Privatsphäre sorgfältiger zu hinterfragen“, sagte Jones.

Nach dem neuesten Risikoverhalten junger Menschen Umfrage Nach Angaben der Bundeszentren für die Kontrolle und Prävention von Krankheiten stiegen von 2013 bis 2023 nahezu alle Indikatoren für psychische Gesundheitsprobleme, Selbstmordgedanken und Selbstmordverhalten Nach Angaben der CDC nahm die Zahl der Schulbesuche aufgrund von Sicherheitsbedenken oder wegen erzwungenem Sex zu Bericht.

Und die Gefahr von Schießereien in Schulen beschäftigt viele Pädagogen. Laut Angaben haben seit der Schießerei an der Columbine High School im Jahr 1999 mehr als 383.000 Schüler in der Schule Waffengewalt erlebt Die Washington Post zählt.

Rich Preece, CEO von GoGuardian, sagte gegenüber Stateline, dass etwa die Hälfte der öffentlichen K-12-Schulen in den Vereinigten Staaten die Plattformen des Unternehmens installiert haben.

Als Vertreter seiner Schule erhält Feby eine Benachrichtigung, wenn ein Schüler bestimmte Suchbegriffe oder Wortkombinationen auf seinen von der Schule bereitgestellten Laptops verwendet. „Er wird mich per E-Mail erreichen oder, wenn er ein hohes Risiko hat, telefonisch.“

Nach der Benachrichtigung entscheidet Feby, ob er sich mit dem Schüler trifft oder das Kind zu Hause anruft. Wenn das System Aktivitäten außerhalb der Schulzeiten meldet, kontaktiert der GoGuardian Beacon eine andere Person im Landkreis – in einigen Schulbezirken auch die Strafverfolgungsbehörden.

Feby sagte, er habe ein paar Fehlalarme gehabt. Eine Schülerin wurde wegen der von ihr recherchierten Liedtexte gemeldet. Ein anderer hatte nach etwas gesucht, das mit Anime zu tun hat.

Ungefähr ein Drittel der Schüler an Febys Schule kommt aus einem Elternhaus, in dem Englisch nicht ihre Muttersprache ist, sodass Schüler oft unbeabsichtigt beunruhigende englische Begriffe verwenden. Auch Kinder können neugierig sein, sagte sie.

Dennoch sei es wichtig, GoGuardian im Klassenzimmer zu haben, sagte Feby. Bevor sie vor 10 Jahren Beraterin wurde, war sie Lehrerin. Und nach der Massenschießerei an der Sandy Hook-Grundschule im Jahr 2012 wurde ihr klar, dass die Sicherheit in der Schule wichtiger denn je war.

Daten und Privatsphäre

Teddy Hartman, Chief Privacy Officer von GoGuardian, unterrichtete englische Literatur an Highschools in East Los Angeles und war Schulverwalter, bevor er vor etwa vier Jahren zum Technologieunternehmen wechselte.

Hartman wurde zu GoGuardian geholt, um bei der Entwicklung eines robusten Datenschutzprogramms zu helfen, das auch Leitplanken für den Einsatz künstlicher Intelligenz umfasst.

„Wir dachten: ‚Wie können wir gemeinsam mit Pädagogen, den besten Datenwissenschaftlern und den besten Technologen kreativ sein und uns gleichzeitig daran erinnern, dass Studenten und unsere Pädagogen an erster Stelle stehen?‘“, sagte Hartman.

GoGuardian verwendet Schülerdaten nicht außerhalb der von Schulbezirken erlaubten Vereinbarungen und diese Daten werden nicht zum Trainieren der KI des Unternehmens verwendet, sagte Hartman. Auch Unternehmen, die regeln, was Kinder online tun dürfen, müssen sich daran halten Bundesgesetze in Bezug auf die Sicherheit und Privatsphäre von Minderjährigen, einschließlich des Family Educational Rights and Privacy Act und der Children’s Online Privacy Protection Rule.

Datenschutzexperten sind jedoch immer noch besorgt darüber, wie viel Zugriff diese Art von Unternehmen auf Studentendaten haben sollte.