Demnach stellt das nächste Flaggschiffmodell von OpenAI möglicherweise keinen so großen Sprung dar wie seine Vorgänger ein neuer Bericht in Informationen.
Mitarbeiter, die das neue Modell mit dem Codenamen Orion testeten, stellten fest, dass seine Leistung zwar die bestehenden OpenAI-Modelle übertraf, es jedoch weniger Verbesserungen gab als beim Sprung von GPT-3 zu GPT-4.
Mit anderen Worten: Die Verbesserungsrate scheint sich zu verlangsamen. Tatsächlich kann Orion das NEIN in einigen Bereichen, beispielsweise bei der Codierung, zuverlässig besser sein als frühere Modelle.
Als Reaktion darauf stellte OpenAI ein Gründungsteam zusammen, um herauszufinden, wie das Unternehmen seine Modelle angesichts eines schwindenden Angebots an neuen Trainingsdaten weiter verbessern kann. Berichten zufolge umfassen diese neuen Strategien das Training von Orion anhand synthetischer Daten, die von KI-Modellen erzeugt werden, sowie die Verbesserung der Modelle während des Post-Training-Prozesses.
OpenAI reagierte nicht sofort auf eine Bitte um Stellungnahme. Als Reaktion auf frühere Berichte über Pläne für sein Flaggschiffmodell: sagte das Unternehmen„Wir haben nicht vor, dieses Jahr ein Modell mit dem Codenamen Orion auf den Markt zu bringen.“
