Erhalten Sie Geschichten wie diese direkt in Ihren Posteingang. Melden Sie sich für den 74-Newsletter an
Die Federal Trade Commission hat dies einem Unternehmen vorgeworfen stellt KI-gestützte Sicherheitskontrollsysteme her für rund 800 Schulen in 40 Bundesstaaten, die falsche Behauptungen über die Fähigkeit des Unternehmens verbreiten, Waffen aufzuspüren und die Sicherheit von Kindern zu gewährleisten.
Evolv Technology, das KI-gestützte „Waffenerkennungssysteme“ an Schulen und andere Unternehmen verkauft, habe gegenüber Kunden irreführende Behauptungen über seine Fähigkeit aufgestellt, alle Waffen genau und effizient zu erkennen, behauptete die Kommission in eine am Dienstag beim Bundesgericht eingereichte Beschwerde.
Der Beschwerde zufolge machen Schulen die Hälfte des Geschäfts von Evolv aus, obwohl das börsennotierte Unternehmen vor allem als Sicherheitsfaktor in Stadien und für ein Pilotprogramm in New Yorks U-Bahnen Anfang des Jahres bekannt ist, das düstere Ergebnisse bei der Waffenerkennung lieferte.
„Die FTC hat deutlich gemacht, dass Behauptungen über Technologie – einschließlich künstlicher Intelligenz – untermauert werden müssen, und das ist besonders wichtig, wenn diese Behauptungen die Sicherheit von Kindern betreffen“, sagte Samuel Levine, Direktor des Verbraucherschutzbüros der Kommission eine Medienmitteilung. „Wenn Sie diese Ansprüche ohne angemessene Unterstützung geltend machen, können Sie damit rechnen, von der FTC zu hören.“
Das Unternehmen reagierte nicht sofort auf Anfragen nach Kommentaren.
In den Marketingmaterialien von Evolv werden seine Scanner als High-Tech-Alternativen zu Metalldetektoren beworben. In der Beschwerde wird jedoch argumentiert, das Unternehmen habe falsche Zusicherungen über die Fähigkeit des Produkts gemacht, Fehlalarme zu reduzieren, die Arbeitskosten zu senken und die Notwendigkeit für Menschen zu beseitigen, harmlose Gegenstände aus ihren Taschen zu entfernen – und seine Fähigkeit, alle Waffen zu erkennen.
Evolv hat behauptet dass es mithilfe von KI nach den einzigartigen „Signaturen“ Zehntausender Waffen sucht und so „alle Waffen, alle Bomben und alle großen taktischen Messer“ von Alltagsgegenständen wie Schlüsseln und Laptops unterscheiden kann.
Kenneth Trump, Berater für Schulsicherheit und Präsident der National School Safety and Security Services, sagte gegenüber The 74, dass Schulleiter zunehmend Waffenerkennungssysteme einsetzen, um den Eltern zu signalisieren, dass sie proaktive Maßnahmen ergreifen, um die Sicherheit der Schüler zu gewährleisten.
„Einige haben möglicherweise unwissentlich genau das Ergebnis geschaffen, das sie verhindern wollten: ein Dilemma, da sie ihren Schulgemeinschaften möglicherweise erklären müssen, warum sie Technologie gekauft haben, die möglicherweise nicht das liefert, was ihnen und ihrer Schulgemeinschaft angedeutet oder versprochen wurde“, sagte er sagte.
Der Wirksamkeit des Scanners – einschließlich seiner Mittel, um Gewalt auf dem Campus zu verhindern – stößt seit mehreren Jahren auf Widerstand, insbesondere von IPVM, einer unabhängigen Forschungsgruppe der Sicherheits- und Überwachungsbranche, die Produkte testet und bewertet. Einige der von der Gruppe untersuchten Schulen hatten Fehlalarmraten von bis zu 60 %.
Letztes Jahr hat ein High-School-Schüler in Utica, New York, reichte Klage gegen das Unternehmen ein nachdem er in einem Campusflur von einem Klassenkameraden erstochen wurde, der unerkannt ein Messer an einem Evolv-Scanner vorbeiführte. Der Schulbezirk hatte 3,7 Millionen US-Dollar für die Scanner von Evolv ausgegeben, einem in Massachusetts ansässigen Unternehmen, das von namhaften Investoren wie Bill Gates und Peyton Manning unterstützt wird. Das Unternehmen rühmt sich, dass seine mit künstlicher Intelligenz ausgestatteten Geräte bis zu 1.000 Schüler in 15 Minuten überprüfen können – zehnmal schneller als herkömmliche Metalldetektoren.
Melden Sie sich für den School (in)Security-Newsletter an.
Erhalten Sie die wichtigsten Nachrichten und Informationen zu den Rechten, der Sicherheit und dem Wohlbefinden von Studierenden direkt in Ihren Posteingang.
Unter den FTCs vorgeschlagene Vergleichsordnung Wie am Dienstag veröffentlicht, wäre es Evolv untersagt, unbegründete Behauptungen über die Leistungsfähigkeit seiner künstlichen Intelligenz aufzustellen, und Schulen könnten ihre Verträge mit dem Unternehmen kündigen, was die Bezirke im Allgemeinen an mehrjährige Abonnements bindet. Der Beschwerde zufolge befinden sich Evolv-Scanner in mehr als 800 Schulen in 40 Bundesstaaten, darunter auch in Bezirken in Louisville, Kentucky, Und Baltimore.
New Yorks Bürgermeister Eric Adams leitete ein Pilotprogramm der Scanner von Evolv in einigen New Yorker U-Bahn-Stationen in diesem Jahr, was auf Widerstand von Bürgerrechtsgruppen stieß, die argumentierten, es sei verfassungswidrig und unpraktisch, täglich Millionen von Nutzern öffentlicher Verkehrsmittel zu überprüfen. Im Laufe eines Monats stellten die Scanner in 20 U-Bahn-Stationen 118 Fehlalarme fest und stellten 12 Messer sicher. Sie entdeckten keine einzige Schusswaffe.
Da KI zu einem Schlagwort in der Bildungstechnologie wird, stellte die FTC im Februar fest warnte Unternehmen vor Übertreibungen die Leistungsfähigkeit ihrer Angebote im Bereich der künstlichen Intelligenz und fügte hinzu, dass „falsche oder unbegründete Behauptungen über die Wirksamkeit eines Produkts unser Brot und Butter sind.“
Erhalten Sie Geschichten wie diese direkt in Ihren Posteingang. Melden Sie sich für den 74-Newsletter an
