Jeder IPO S-1-Prospekt enthält einen Abschnitt, in dem alle Arten von Risikofaktoren aufgeführt sind, die erklären, warum Ihre Aktie möglicherweise kein guter Kauf ist. Bei vielen davon handelt es sich um Standardwarnungen, Warnungen vor finanzieller Leistung oder vor Kriegs- und Naturereignissen. Einige davon sind jedoch unternehmensspezifischer.
Mit ServiceTitan, einem Cloud-Services-Startup, das eingeführt hat öffentliche IPO-Dokumente Mit der SEC am Montag erleben wir möglicherweise die Geburt einer neuen Standardwarnung: Großartige Sprachmodelle (LLMs), die zum Wachstum von Unternehmen beitragen, können auch Schaden anrichten.
ServiceTitan hatte einen 1.150 Wörter umfassenden Risikofaktor für die Frage, wie sich der Einsatz von KI, insbesondere generativer KI, negativ auf ihr Geschäft auswirken könnte. Darin wurde gewarnt: Das halluzinatorische Verhalten von LLM könnte „ungenaue“ Informationen hervorbringen und zu „diskriminierendem“ Verhalten führen; Ihre LLMs könnten das Urheberrecht oder das geistige Eigentum anderer verletzen; Die Verwendung von LLMs bedeutet, dass mehr Daten potenziellen Hacks und Schäden ausgesetzt werden. Wenn Sie andererseits nicht genügend Daten erhalten, können Sie möglicherweise nicht weiterhin KI-Produkte anbieten oder neue entwickeln. Darüber hinaus warnt das Unternehmen davor, dass seine Mitarbeiter oder Dienstleister versehentlich die privaten Daten seiner Kunden an Drittsysteme weitergeben könnten, was zu Sicherheitsverletzungen oder der Verwendung dieser Daten zum Trainieren seiner Modelle führen könnte.
ServiceTitan warnt davor, dass der Einsatz von KI eines Tages mit sozialen und ethischen Fragen in Konflikt geraten könnte. Oder dass zukünftige Vorschriften Sie Geld kosten könnten.
ServiceTitan befürchtet auch, dass es nicht in der Lage sein wird, die KI-Experten einzustellen, die es für seine Produkte braucht, und selbst wenn es könnte, wird dieses Talent teuer sein. ServiceTitan warnt davor, dass seine KI-Produkte auf Dienste Dritter angewiesen sind, die es nicht kontrolliert – und nennt dabei ausdrücklich Microsoft und OpenAI. Wenn sie also nicht verfügbar sind oder Probleme auftreten, besteht auch ein Risiko.
Diese Warnungen sind interessant, weil ServiceTitan an der Schnittstelle von Branchen tätig ist, in denen GenAI, insbesondere LLM-gesteuerte KI-Agenten, voraussichtlich dominieren werden. ServiceTitan bietet Software für Unternehmen der Außendienstbranche – hauptsächlich kleine Unternehmen wie Bauunternehmer, HLK-Fachleute, Rasenpfleger und dergleichen. Seine Software übernimmt Funktionen wie Marketing, Kundenbeziehungsmanagement, Kundenbetreuung und Buchhaltung. (ServiceTitan lehnte einen weiteren Kommentar ab.)
Heutzutage marschieren KI-Agenten so rasant in alle Bereiche von Vertrieb, Marketing und CRM vor, dass der König des CRM-Marktes, Salesforce-CEO Marc Benioff, dies gegenüber TechCrunch sagte Allein Ihr Unternehmen könnte eine Milliarde KI-Agenten haben In einem Jahr in Salesforce-Kundenunternehmen arbeiten.
ServiceTitan bietet seit mindestens 2023 KI-basierte Dienste namens Titan Intelligence an. Im Oktober, Außerdem hat das Unternehmen eine Suite von KI-Agenten für Vertrieb, Kundendienst und Callcenter eingeführt.
Aber LLMs sind darauf ausgelegt, Wörter, Bilder und Daten zu studieren und eigene Versionen der Dinge zu erstellen. Mit anderen Worten: Sie wurden dazu geschaffen, Dinge zu erfinden. OpenAI-Wissenschaftler sind beschäftigt auf die allgemeine Intelligenz zulaufen – sie ahmen die menschliche Fähigkeit nach, noch besser zu schlussfolgern – was bedeutet, dass sie an einer KI arbeiten, von der sie hoffen, dass sie noch kreativer wird.
Natürlich muss die Zuverlässigkeit des LLM für die kommerzielle Nutzung im Laufe der Zeit geklärt werden, da sich immer mehr Unternehmen auf Agenten spezialisieren, bei denen es auf Zuverlässigkeit und nicht auf Kreativität ankommt. Aber es ist erwähnenswert, dass diejenigen, die heute KI-Bots verkaufen, den stillen Teil tatsächlich laut in ihrer Juristensprache aussprechen: In diesem frühen Stadium kann die Einführung von KI ebenso viele Probleme schaffen wie lösen.
