KI stellt Unternehmen vor ein Dilemma: Wenn sie sie noch nicht implementieren, könnten ihnen Produktivitätssteigerungen und andere potenzielle Vorteile entgehen; Aber wenn Sie etwas falsch machen, könnten Sie Ihr Unternehmen und Ihre Kunden einem echten Risiko aussetzen. Hier kommt eine neue Welle von „KI-Sicherheits“-Startups ins Spiel, mit der Prämisse, dass Bedrohungen wie Jailbreaking und sofortige Injektion nicht ignoriert werden können.
Als israelisches Startup Oder und in den USA ansässige Konkurrenten Versteckte Ebene Und KI schützenAusgründung einer britischen Universität Mentaler Schutz ist einer davon. „KI ist immer noch Software, daher gelten alle Cyberrisiken, von denen Sie wahrscheinlich gehört haben, auch für KI“, sagte ihr CEO und CTO, Professor Peter Garraghan (rechts im Bild oben). Aber „wenn wir die undurchsichtige Natur und das intrinsisch zufällige Verhalten neuronaler Netze und Systeme betrachten“, fügte er hinzu, rechtfertigt dies auch einen neuen Ansatz.
Im Fall von Mindgard handelt es sich bei diesem Ansatz um Dynamic Application Security Testing for AI (DAST-AI), das auf Schwachstellen abzielt, die nur zur Laufzeit erkannt werden können. Dabei handelt es sich um kontinuierliches und automatisiertes Red Teaming, eine Methode zur Simulation von Angriffen auf Basis der Bedrohungsbibliothek von Mindgard. Sie können beispielsweise die Robustheit von Bildklassifikatoren testen gegen Gegeneinträge.
In diesem und darüber hinaus verdankt die Technologie von Mindgard Garraghans Erfahrung als Professor und Forscher mit Schwerpunkt auf KI-Sicherheit. Das Feld entwickelt sich schnell weiter – ChatGPT existierte noch nicht, als er beitrat, aber er hatte das Gefühl, dass NLP und Imaging-Modelle neuen Bedrohungen ausgesetzt sein könnten, sagte er gegenüber TechCrunch.
Seitdem schien das, was zukunftsweisend war wurde wahr innerhalb einer schnell wachsenden Branche, aber LLMs verändern sich weiterhin, ebenso wie die Bedrohungen. Garraghan glaubt, dass seine fortgesetzten Verbindungen zur Lancaster University dem Unternehmen helfen könnten, mitzuhalten: Mindgard wird in den nächsten Jahren automatisch das geistige Eigentum für die Arbeit von 18 weiteren Doktoranden besitzen. „Es gibt kein Unternehmen auf der Welt, das einen solchen Deal abschließen kann.“
Obwohl es Verbindungen zur Forschung hat, ist Mindgard bereits ein kommerzielles Produkt und genauer gesagt eine SaaS-Plattform, deren Mitbegründer Steve Street als COO und CRO die Leitung übernimmt. (Einer der frühen Mitbegründer, Neeraj Suri, der in der Forschung tätig war, ist nicht mehr im Unternehmen.)
Unternehmen sind die natürlichen Kunden von Mindgard, ebenso wie traditionelle Red-Teamer und Pen-Tester, aber das Unternehmen arbeitet auch mit KI-Startups zusammen, die ihren Kunden zeigen müssen, dass sie KI-Risikoprävention betreiben, sagte Garraghan.
Da viele dieser potenziellen Kunden ihren Sitz in den USA haben, hat das Unternehmen seiner Cap-Tabelle einen amerikanischen Touch verliehen. Nach dem Anheben von a Seed-Runde im Wert von 3 Mio. £ Im Jahr 2023 kündigt Mindgard nun eine neue 8-Millionen-Dollar-Runde an, die von .406 Ventures mit Sitz in Boston angeführt wird und an der sich Atlantic Bridge, WillowTree Investments und die bestehenden Investoren IQ Capital und Lakestar beteiligen.
Die Finanzierung wird bei „Teambildung, Produktentwicklung, Forschung und Entwicklung und allem, was man von einem Startup erwarten kann“ helfen, aber auch in die USA expandieren. Der kürzlich zum Vizepräsidenten für Marketing ernannte ehemalige CMO von Next DLP, Fergal Glynn, hat seinen Sitz in Boston. Das Unternehmen plant jedoch auch, die Forschung und Entwicklung sowie das Engineering in London fortzusetzen.
Mit 15 Mitarbeitern ist das Mindgard-Team relativ klein und wird es auch bleiben, bis Ende nächsten Jahres sollen es 20 bis 25 Personen sein. Denn die KI-Sicherheit sei „noch nicht einmal auf dem Höhepunkt“. Aber wenn KI überall zum Einsatz kommt und Sicherheitsbedrohungen folgen, ist Mindgard bereit. Garraghan sagt: „Wir haben dieses Unternehmen aufgebaut, um etwas Gutes für die Welt zu tun, und das Positive daran ist, dass die Menschen der KI vertrauen und sie sicher nutzen können.“
