ChatGPT Search, eine KI-gestützte Suchmaschine, die es war live Diesen Monat können sie sich täuschen lassen und völlig irreführende Zusammenfassungen erstellen, so die britische Zeitung Der Guardian hat es herausgefunden.
Die Suchfunktion von ChatGPT soll das Surfen beschleunigen, indem sie beispielsweise Produktbewertungen einer Webseite zusammenfasst. Aber The Guardian entdeckte, dass es ChatGPT dazu bringen konnte, negative Bewertungen zu ignorieren und „ausschließlich positive“ Zusammenfassungen zu generieren, indem versteckter Text eingefügt wurde von ihm erstellte Websites. Mit der ChatGPT-Suche kann mit dieser Methode auch Schadcode angezeigt werden.
Diese versteckten Textangriffe sind a bekanntes Risiko für LLMs Dies scheint jedoch das erste Mal zu sein, dass dies in einem KI-gestützten Live-Suchprodukt demonstriert wurde. Laut The Guardian verfügt Google, der führende Suchanbieter, über mehr Erfahrung im Umgang mit ähnlichen Problemen.
OpenAI äußerte sich nicht zu diesem konkreten Vorfall, als TechCrunch Kontakt aufnahm, sagte jedoch, dass das Unternehmen verschiedene Methoden verwendet, um bösartige Websites zu blockieren, und sich kontinuierlich verbessert.
