Ein neues KI-Orchestrierungs-Startup von litauischen Unicorn-Gründern Nordsicherheit zielt darauf ab, Unternehmen dabei zu helfen, ihre KI-Projekte in die Produktion zu bringen, wobei der Schwerpunkt zunächst auf der Verbesserung der Sichtbarkeit, Sicherheit und Anpassungsfähigkeit großer Sprachmodelle (LLMs) liegt.
Nexos.aiwie das Startup genannt wird, ist es die Arbeit von Thomas Okmanas (Foto oben) und Eimantas Sabaliauskasdas eine der bekanntesten Marken nicht nur in Litauen, sondern in ganz Europa aufgebaut hat. Nord Security, vor allem für sein Flaggschiff-VPN-Produkt NordVPN bekannt, hat in den ersten zehn Jahren zuvor Pionierarbeit geleistet einer riesigen Investition von 100 Millionen US-Dollar erliegen im Jahr 2022 mit einer Bewertung von 1,6 Milliarden US-Dollar.
Sein neues Unternehmen kommt heute aus der Geheimhaltung mit einer Finanzierung in Höhe von 8 Millionen US-Dollar von einer Reihe hochkarätiger Geldgeber, darunter führende Investoren Index Venturesdas nun seine erste Investition in Litauen getätigt hat.
„Wir kennen Tomas und die Arbeit, die er seit vielen Jahren leistet, und als wir hörten, dass er ein neues Unternehmen im KI-Bereich aufbaute und in diesem (frühen) Stadium endlich bereit war, Risikokapitalgelder anzunehmen, „Wir waren sehr aufgeregt“, Partner bei Index Ventures Hannah Selo sagte TechCrunch.
Weitere namhafte Investoren sind Creandum und Dig Ventures, aber auch prominente Angels wie die CEOs von Datadog, Klarna, Supercell und Wix beteiligten sich.
Einen Katalysator nutzen
Derzeit müssen Teams, die ihre KI in die Produktion bringen möchten, eine Vielzahl von Tools verbinden, was wahrscheinlich die Rekrutierung und den Aufbau von Teams mit den erforderlichen Fähigkeiten erfordert. Hier will Nexos.ai eingreifen.
„Ich habe gesehen, dass es eine große Lücke zwischen der Durchführung von KI als Pilotprojekt und dem Übergang in die Produktion gibt“, sagte Okmanas gegenüber TechCrunch in einem Interview. „Wenn Sie KI in Ihrem Labor testen, mag sie funktionieren und nützlich sein, aber wenn Sie sie in die Produktion bringen möchten, insbesondere in Unternehmen, wie stellen Sie eine hohe Verfügbarkeit sicher? Wie stellen Sie die Sicherheit sicher? Wie managen Sie die Kosten?“
Nord Security gibt es schon seit mehr als einem Jahrzehnt, aber vor fünf Jahren wurde es in ein Dachunternehmen mit dem Namen „ Tesonetein Inkubator mit Portfolio von mehr als zwei Dutzend Unternehmen. Einer von ihnen ist ein Webhosting-Unternehmen GastgeberSie haben kürzlich hinzugefügt KI-gestützte Intelligenz in Ihrem Website-Erstellungstool. Okmanas, Vorstandsmitglied und Anteilseigner bei Hostinger, sagte, einige der Probleme, mit denen sie konfrontiert waren, dienten als Katalysator für das, was schließlich zu Nexos.ai werden sollte.
„Wir wollten KI in unserem Website-Builder einsetzen, also haben wir OpenAI aktiviert, mit dem Testen begonnen und es in Produktion genommen“, sagte Okmanas. „Im August hatten wir eine Rechnung in Höhe von 150.000 US-Dollar. Wofür? Warum war es so teuer? Es gab keine Sicht.“
Und als OpenAI ein paar Mal abstürzte, war Okmanas davon überzeugt, dass etwas getan werden musste, um die Bereitstellung, Verwaltung und Optimierung des „immer komplexer werdenden Ökosystems von KI-Modellen“, das Unternehmen möglicherweise benötigen, zu vereinfachen.
Über eine einfache API (Application Programming Interface) können Kunden auf über 200 KI-Modelle zugreifen, von großen Namen wie OpenAI und Anthropic bis hin zu kleineren Nischen-LLMs. Die Idee dahinter ist, dass ein Unternehmen bei einem Ausfall von OpenAI vorübergehend (und automatisch) ohne Verzögerung zu einem anderen Anbieter wechseln kann. Oder wenn die Kosten für den Zugriff auf ein bestimmtes LLM aus irgendeinem Grund explodieren, kann ein Unternehmen zu einem anderen wechseln, um seine Kosten niedrig zu halten.
Nexos.ai führt außerdem „Smart Caching“ in den Mix ein – wenn eine bestimmte Frage von mehreren Benutzern wiederholt wird, kann das System auf seine eigene Datenbank zurückgreifen, anstatt weiterhin LLM einzubeziehen, was teuer sein kann.
Im Hinblick auf Sicherheit und Compliance verhindert Nexos.ai außerdem, dass Einzelpersonen private Daten an LLM-Anbieter senden. Wenn ein Mitarbeiter das Unternehmen verlässt, kann sein Zugriff sofort gesperrt werden.
Allerdings gibt es kein Entkommen vor dem Elefanten im Raum: einer der Gründe Unternehmen zögerten, KI einzuführen ist das heikle Thema der Datensicherheit – Gesundheitsunternehmen, Banken oder Versicherungen können LLM-Anbietern nicht einfach alle ihre vertraulichen Informationen anvertrauen. Es ist erwähnenswert, dass Hostinger selbst dies getan hat 2019 von einer Datenpanne betroffen und NordVPN wurde auch gehackt in der Vergangenheit – die Art von Angriffen, denen jedes Unternehmen heute ausgesetzt ist.
Dies wirft Fragen darüber auf, wie Nexos.ai mit diesen Daten umgeht, da es alles in seiner eigenen Infrastruktur hostet. Okmanas sagte, dass das Unternehmen wahrscheinlich in Zukunft Selbsthosting anbieten wird und dass es bereits Integrationen mit unternehmenseigenen internen LLMs unterstützt.
Es verfügt außerdem über Sicherheitsvorkehrungen, um zu erkennen, wann Daten, wie z. B. personenbezogene Daten (PII), an das Unternehmen gesendet werden. In diesen Fällen kann es die Daten zurück an die LLMs oder Datenbanken des Ursprungsunternehmens weiterleiten. Wenn es sich jedoch um eine generische Anfrage handelt, beispielsweise wenn ein Kunde einen KI-Agenten nach Details zu seinem Standort und seinen Öffnungszeiten fragt, wird die Anfrage auf der Seite von Nexos.ai bearbeitet.
Von der Idee bis zum Anfang
Von der Idee bis zur formellen Gründung dauerte es bei Nexos.ai etwa sechs Wochen, und obwohl die Geschwindigkeit, mit der die Finanzierung erfolgte, größtenteils auf die Abstammung der Gründer zurückzuführen war, war ein Großteil davon einfach nur das Timing.
„Ich habe das Gefühl, dass wir den KI-Hype endlich hinter uns gelassen haben und jetzt reale Anwendungen kommen“, fügte Seal hinzu. „Alle großen Unternehmen erkennen, dass dies wirklich bedeutsam ist und dass sie KI in großem Maßstab einführen müssen. Und jetzt ist es an der Zeit, dass die Infrastruktur mit den Modellen Schritt hält.“
Die Geschwindigkeit der Umsetzung war jedoch im Wesentlichen auf die breitere Organisationsstruktur von Tesonet zurückzuführen, die rund 4.000 Mitarbeiter in ihrem Portfolio hat. Dadurch konnte Okmanas schnell ein Team von etwa 30 Leuten zusammenstellen, die er kannte und denen er vertraute, um Vollzeit bei Nexos.ai zu arbeiten.
„Wir haben diese Teams, die wirklich ihre Kräfte bündeln können – sie arbeiten schon so viele Jahre zusammen, dass man ihnen nicht sagen muss, was was ist“, sagte Okmanas. „Wir werden auch von extern einstellen, aber das dauert deutlich länger.“
Der Start der Nexos.ai-Plattform wird für Ende März erwartet, obwohl Okmanas sagte, dass sie bereits mit mehreren „Beta-Kunden und Designpartnern“ zusammenarbeitet.
