Forscher des Eigentümers von Tiktok Bydance zeigten ein neues KI -System, Omnihuman-1Dies kann bis heute die realistischsten DeepFake -Videos erzeugen.
AI Deepfaking ist eine Ware. Es gibt keinen Mangel an Apps, die jemanden in ein Foto einfügen oder eine Person dazu bringen, etwas zu sagen, das sie wirklich nicht gesagt haben. Aber die meisten Deepfakes – und insbesondere die Video -Deepfakes – können das seltsame Tal nicht reinigen. Im Allgemeinen sagen einige ein offensichtliches oder offensichtliches Zeichen dafür, dass KI irgendwo involviert war.
Dies ist nicht der Fall, wenn Omnihuman-1-Pelo weniger aus den von Cherry ausgewählten Proben, dem Bytedance-Team, gestartet wurde.
Hier ist eine fiktive Leistung von Taylor Swift:
Hier ist ein Vortrag von Ted, der nie aufgetreten ist:
Und hier ist ein Vortrag von Einstein, Deep:
Nach Angaben von Bytedance-Forschern benötigt Omnihuman-1 nur ein einziges Referenzbild und Audio wie Sprache oder Gesang, um ein Video zu generieren. Der Anteil des Ausgangsvideos ist wie der „Körperanteil“ des Subjekts einstellbar – dh wie viel von ihrem Körper im gefälschten Clip gezeigt wird.
Omnihuman-1 kann auch vorhandene Videos bearbeiten, bis die Bewegungen der Mitglieder einer Person geändert werden. Es ist wirklich überraschend, wie überzeugend das Ergebnis sein kann:
Zugegeben, Omnihuman-1 ist nicht perfekt. Laut dem Team von Bytedance werden „Referenzbilder von geringer Qualität“ nicht die besten Videos erzeugen, und das System scheint bestimmte Posen zu bekämpfen. Sehen Sie sich die seltsamen Gesten mit dem Glas Wein in diesem Video an:
Trotzdem hat der Omnihuman-1 leicht über den vorherigen DeepFake-Techniken Köpfe und Schultern und kann durchaus ein Zeichen dafür sein, was kommt. Obwohl Bytedance das System nicht auf den Markt gebracht hat, nimmt die KI -Community tendenziell nicht viel Zeit, um technische Modelle wie diese umzukehren.
Die Auswirkungen sind besorgniserregend.
Letztes Jahr breiteten sich die Matt -Politiker wie Feuer auf der ganzen Welt aus. Am Wahltag in Taiwan, einer chinesischen Gruppe des kommunistischen Zauberers Gepostet Audio, das von KI erzeugt und irreführend von einem Politiker spielte seine Unterstützung hinter einem Pro-China-Kandidaten. In Moldawien stellten Deepfake -Videos den Präsidenten des Landes, Maia Sandu, dar, die sich verzichtete. Und in Südafrika, Ein Deepfake Rapper Eminem unterstützte eine südafrikanische Oppositionspartei, die an der Spitze der Wahl des Landes verbreitet wurde.
DeepFakes werden auch zunehmend zur Erstellung von Finanzverbrechen verwendet. Verbraucher werden von Promi -Deepfakes -Flocken getäuscht Bieten Sie betrügerische Investitionsmöglichkeiten, während Unternehmen werden in Millionen getäuscht von Deepfake -Imitatoren. Entsprechend DeloitteDer von AI erzeugte Inhalt trug bis 2023 zu Betrugsverlusten in Höhe von mehr als 12 Milliarden US -Dollar bei und konnte bis 2027 40 Milliarden US -Dollar in den USA erreichen.
Im vergangenen Februar Hunderte in der IA -Community unterschrieben einen offenen Brief, in dem er um strenger Deepfake gebeten wurde Verordnung. In Ermangelung eines Gesetzes, das Deepfakes auf Bundesebene in den USA kriminalisiert, verkündeten mehr als 10 Staaten Gesetze gegen A. California Law Assisted Repräsentation – Derzeit angehalten – Es wäre das erste, das es den Richtern ermöglichen würde, die Plakate der Deepfakes zu stürzen oder möglicherweise Geldstrafen ausgesetzt zu sein.
Leider sind sie schwer zu erkennen. Während Einige soziale Netzwerke Und Forschungsmechanismen Sie haben Maßnahmen ergriffen, um ihre Ausbreitung zu begrenzen. Das Tiefenvolumen des Inhalts von Deepfake wächst weiterhin mit einer erschreckend schnellen Geschwindigkeit.
In einer Umfrage von Mai 2024 Aus der Jumio Identification VERIFICATION Company gaben 60% der Menschen an, dass sie im vergangenen Jahr eine DeepFake gefunden haben. 70 Prozent der Befragten gaben an, von DeepFakes Daily getäuscht zu werden, während die meisten die Gesetzgebung unterstützten, um mit der Verbreitung von AI -Fälschungen umzugehen.
