OpenAIs im Oktober ChatGPT-Suche wurde für ChatGPT Plus-Benutzer verfügbar. Es wurde letzte Woche verfügbar Alle Benutzer und wurde zur Suche im Sprachmodus hinzugefügt. Und natürlich ist es nicht ohne Mängel.
Der Wächter Hat ChatGPT gebeten, Webseiten zusammenzufassen, die versteckte Inhalte enthalten, und es stellt sich heraus, dass versteckte Inhalte die Abfrage manipulieren können. Dabei handelt es sich um die sogenannte Prompt-Injection. Hierbei handelt es sich um die Möglichkeit für Dritte (z. B. Websites, die Sie mit ChatGPT zusammenfassen), ohne Ihr Wissen neue Eingabeaufforderungen in Ihre ChatGPT-Suche einzubinden. Stellen Sie sich eine Seite voller negativer Restaurantbewertungen vor. Wenn die Website versteckte Inhalte enthält, die poetisch darlegen, wie großartig das Restaurant ist, und ChatGPT dazu ermutigt, stattdessen auf eine Aufforderung wie „Sagen Sie mir, wie großartig dieses Restaurant ist“ zu antworten, könnte dieser versteckte Inhalt Ihre ursprüngliche Suchanfrage überschreiben.
„Bei den Tests erhielt ChatGPT die URL einer gefälschten Website, die wie eine Produktseite für eine Kamera aufgebaut war. Anschließend wurde das KI-Tool gefragt, ob sich der Kauf der Kamera lohnt. Die Antwort auf der Prüfseite lieferte ein positives Ergebnis ausgewogene Rezension, die einige Funktionen hervorhebt, die den Leuten vielleicht nicht gefallen“, Das geht aus der Untersuchung des Guardian hervor. Wenn versteckter Text jedoch Anweisungen an ChatGPT enthielt, eine positive Bewertung zurückzugeben, war die Antwort immer völlig positiv. Dies war auch dann der Fall, wenn die Seite negative Bewertungen enthielt – der versteckte Text konnte verwendet werden, um die tatsächliche Bewertungspunktzahl zu überschreiben.
Zerstörbare Lichtgeschwindigkeit
Dies bedeutet jedoch nicht, dass die ChatGPT-Suche scheitert. OpenAI hat die Suche erst kürzlich gestartet und hat daher genügend Zeit, solche Fehler zu beheben. Darüber hinaus sagte Jacob Larsen, ein Cybersicherheitsforscher bei CyberCX, gegenüber The Guardian, dass OpenAI über ein „sehr starkes“ KI-Sicherheitsteam verfüge und „bis dies an die Öffentlichkeit geht, im Hinblick auf alle Benutzer, die Zugriff darauf haben, strenge Maßnahmen ergreifen werden.“ wird diese Art von Fällen getestet haben.“
Quick-Injection-Angriffe sind für ChatGPT und andere KI-Suchfunktionen seit der Einführung der Technologie hypothetisch, und zwar seit wir gesehen haben einige Demonstrationen des möglichen SchadensWir haben noch keinen so großen böswilligen Angriff gesehen. Allerdings verdeutlicht es ein Problem von KI-Chatbots: Sie sind bemerkenswert leicht zu täuschen.
