OpenAI hat sein Tool zur Videogenerierung veröffentlicht. Soraam Montag. Das Unternehmen entscheidet sich jedoch dafür, eine wichtige Funktion den meisten Benutzern bis zu weiteren Tests nicht zur Verfügung zu stellen.
Die betreffende Ressource generiert ein Video, das als Referenz ein gesendetes Foto oder Filmmaterial einer realen Person verwendet. OpenAI sagt, dass es einer „Untergruppe“ von Sora-Benutzern Zugriff darauf gewähren wird, die Funktion jedoch erst dann flächendeckend einführen wird, wenn die Möglichkeit besteht, seinen „Sicherheitsansatz“ zu verfeinern.
„Die Möglichkeit, ein Video mit einem hochgeladenen Foto oder Video einer realen Person als ‚Seed‘ zu erstellen, ist ein potenzieller Missbrauchsvektor, den wir besonders schrittweise nutzen, um aus frühen Nutzungsmustern zu lernen“, schrieb OpenAI in einem Blogbeitrag. „Erste Rückmeldungen von Künstlern zeigen, dass dies ein leistungsstarkes kreatives Werkzeug ist, das sie schätzen. Angesichts des Missbrauchspotenzials stellen wir es jedoch zunächst nicht allen Benutzern zur Verfügung.“
OpenAI Auch wird es Benutzern nicht gestatten, generierte Videos, die Clips oder Bilder von echten Personen enthalten, auf Soras Homepage-Entdeckungs-Feed zu teilen.
Generatives Video ist ein mächtiges – und umstrittenes – Werkzeug. Natürlich geben Deepfakes ebenso Anlass zur Sorge wie Fehlinformationen. Entsprechend Nach Angaben des Identitätsprüfungsdienstes Sumsub hat sich der Deepfake-Betrug weltweit von 2022 bis 2023 mehr als verzehnfacht.
Neben anderen Maßnahmen, die OpenAI nach eigenen Angaben ergreift, um Missbrauch zu verhindern, verfügt Sora über einen Filter, der erkennt, ob in einem generierten Video eine Person unter 18 Jahren abgebildet ist. In diesem Fall legt OpenAI einen „strengeren Schwellenwert“ für die Moderation im Zusammenhang mit sexuellen, gewalttätigen oder persönlichen Themen fest. -schädliche Inhalte, behauptet das Unternehmen.
Alle von Sora generierten Videos enthalten Metadaten, um ihre Herkunft anzuzeigen – insbesondere Metadaten, die den Anforderungen entsprechen Technischer C2PA-Standard. Metadaten können garantiert entfernt werden. Aber OpenAI schlägt dies als eine Möglichkeit für Plattformen vor, die C2PA unterstützen, schnell zu erkennen, ob ein Video von Sora stammt.
Um Urheberrechtsbeschwerden zu vermeiden, behauptet OpenAI außerdem, dass es „on-the-fly rewrite“ verwendet, um Sora daran zu hindern, Videos im Stil eines lebenden Schöpfers zu erstellen.
„Wir haben spontane Umschreibungen hinzugefügt, die ausgelöst werden sollen, wenn ein Benutzer versucht, ein Video im Stil eines lebenden Künstlers zu erstellen“, schrieb das Unternehmen. „Wir haben uns bei dieser Version von Sora für einen konservativen Ansatz entschieden, da wir mehr darüber erfahren, wie Sora von der kreativen Community verwendet wird … Es gibt eine lange Tradition in der Kreativität, auf Stilen anderer Künstler aufzubauen, aber wir wissen es zu schätzen, dass einige Schöpfer dies getan haben.“ Anliegen.“
Eine Reihe von Künstler zu haben verarbeitet KI-Unternehmen, darunter OpenAI, trainieren angeblich ohne Erlaubnis ihre Arbeit, um KI-Tools zu entwickeln, die Inhalte in ihren einzigartigen Stilen wiedergeben. Das behaupteten wiederum die Unternehmen Fair-Use-Doktrin schützt sie vor Ansprüchen wegen Urheberrechtsverletzungen und sorgt dafür, dass KI-Modelle tatsächlich nicht wieder erbrechen.
Laut dem Videoblogger Marco BrownleeWer eine Vorschau auf die Funktionen erhalten hat, kann Sora aus einer Text- oder Bildaufforderung Videos erstellen und vorhandene Videos über ein Remix-Tool bearbeiten. Über eine Storyboard-Schnittstelle können Benutzer Videosequenzen erstellen, während ein Blend-Tool zwei Videos aufnimmt und ein neues erstellt, das Elemente aus beiden beibehält.
OpenAI-Abonnenten ChatGPT Pro und Plus-Pläne haben heute Zugriff auf Sora, den Videogenerator von OpenAI – allerdings nur, wenn sie darin wohnen bestimmte Länder.
