Die Bilder der Überschwemmungen in Spanien wurden nicht von KI erstellt. Das Problem ist, dass die Leute denken, dass sie es wären

MMein Blick fiel auf ein beeindruckendes Foto in der neuesten Ausgabe des Substack-Newsletters von Charles Arthur Soziale Erwärmung. Zeigt eine schmale Straße in der Zeit nach dem „Regenbombe“, die die Region verwüstete aus Valencia, Spanien. An einem einzigen Tag fiel die Regenmenge eines Jahres, und in manchen Städten fielen in acht Stunden mehr als 490 Liter pro Quadratmeter. Wasser ist sehr schwer. Wenn es also ein Gefälle gibt, fließt es mit einer solchen Kraft bergab, dass ein schwerer SUV hochgehoben und wie ein Spielzeug weggeschleudert werden kann. Und wenn es durch eine enge Stadtstraße kanalisiert wird, versetzt es geparkte Autos wie King Kong in schlechte Laune.

Das Foto in Arthurs Artikel zeigte, was in einer bestimmten Straße passiert war. Mit einem Teleobjektiv aus der obersten Etage eines Gebäudes aufgenommen, zeigte es eine chaotische, fast surreale Szene: rund 70 Fahrzeuge aller Größen, dicht gedrängt und in verrückten Winkeln entlang der Straße verteilt.

Es war ein verblüffendes Bild, das mich wirklich aus der Fassung brachte. Es überrascht nicht, dass es auch in den sozialen Medien viral ging. Und dann kam die Reaktion: „KI-Image, Fake News.“ Die Fotografie war so lebendig, so seltsam scharf und unwirklich, dass es für den Betrachter wie etwas wirkte, das er mit Midjourney oder Dall-E oder einer Vielzahl anderer generativer KI-Tools hätte nachahmen können.

Aber es war keine Fälschung, wie Arthur in einer guten Detektivarbeit feststellte – Zeichnen Sie einen Balken im Bild nach über Facebook, die Straße auf Apple Maps finden und sie sogar mit Street View „ablaufen“. „Es ist nicht klar, warum diese Leute dachten, dass dieses bestimmte Foto nicht echt sei“, schreibt er. „Vielleicht hat es etwas mit dem Glanz der Autos und den eigentümlichen Rundungen der Formen zu tun, vielleicht aber auch mit dem Fehlen offensichtlicher Schäden.“ Oder führt die Verbreitung von KI-generierten Fälschungen bereits dazu, dass die Menschen zunehmend dazu neigen, nicht an Dinge zu glauben, die real sind?

Ich vermute, dass es sich um Letzteres handelt, denn die sozialen Medien werden von dem überschwemmt, was man als „KI-Verschwendung“ bezeichnet – Bilder und Texte, die mit generativen KI-Tools erstellt wurden. (Der Kindle-Shop von Amazon ist habe ähnliche Probleme mit KI-generierten „Büchern“, aber das ist eine andere Geschichte.)

Man könnte meinen, dass Social-Media-Unternehmen dieser Tsunami an Mist auf ihren Plattformen stören würde. Denken Sie noch einmal darüber nach. Entsprechend Jason Koebler von der Technologie-Newsseite 404 MediaMark Zuckerberg, Vorstandsvorsitzender von Meta, sagte kürzlich in einer Telefonkonferenz zu den Quartalsergebnissen, bei der es vor allem um KI ging, dass wahrscheinlich neue KI-generierte Feeds auf Facebook und anderen Meta-Plattformen verfügbar sein würden. Zuckerberg sagte, er sei begeistert von der „Möglichkeit der KI, Menschen bei der Erstellung von Inhalten zu helfen, die das Esserlebnis der Menschen einfach verbessern“.

Aufbauend auf seinem Thema fuhr Zuck fort: „Ich denke, wir werden eine ganz neue Kategorie von Inhalten hinzufügen, nämlich KI-generierte Inhalte oder KI-zusammengefasste Inhalte oder eine Art bestehender Inhalte, die auf irgendeine Weise von KI zusammengestellt wurden.“ Und ich denke, das wird für Facebook und Instagram und vielleicht auch für Threads oder eine andere Art von Feed-Erlebnis im Laufe der Zeit wirklich spannend.“

Was in gewisser Weise durchaus Sinn macht: Die Gewinne von Meta hängen davon ab, dass die Benutzer ihrer Plattformen „engagiert“ werden – das heißt, dass sie so viel Zeit wie möglich damit verbringen – und ob die Verschwendung von KI dabei hilft, dieses Ziel zu erreichen, wo liegt das Problem?

Auf der Angebotsseite zeigt sich, dass KI-generierte Produkte auch für diejenigen profitabel sind, die sie herstellen. Koebler verbrachte ein Jahr damit, diese Schattenseiten der sozialen Medien zu erforschen. In Indien traf er Gyan Abhishek, einen Analysten, der Online-Viralität untersucht. Abhishek zeigte ihm ein verblüffendes Bild, das zur Generierung von Einnahmen genutzt wurde – ein Foto eines älteren, abgemagerten Mannes, der gebückt von Hunderten Insekten gefressen wurde.

„Die indische Öffentlichkeit ist sehr emotional“ Abhishek. „Nachdem sie Fotos wie dieses gesehen haben, liken sie sie, kommentieren sie und teilen sie. Man sollte also auch so eine Seite erstellen, Fotos hochladen und mit Leistungsprämien Geld verdienen.“ Er behauptet auch, dass Ersteller viraler Bilder 100 US-Dollar pro 1.000 „Likes“ verdienen können, was zumindest für diesen Kolumnisten wie Flügelgeld klingt.

Was wir hier also haben, ist eine schöne positive Rückkopplungsschleife, in der die Ersteller von KI-Abfällen davon profitieren, indem sie die Engagement-Algorithmen von Social-Media-Plattformen füttern, die wiederum von dem zunehmenden „Engagement“ profitieren, das virale Bilder anzieht. Das Problem bei positiven Rückkopplungsschleifen besteht jedoch darin, dass sie zu unkontrolliertem Wachstum führen und die Frage aufwirft, was mit sozialen Netzwerken passiert, wenn sie es werden unheilbar wütend infolge. Das ist die Richtung, in die Meta und Co. gehen.

Was ich gelesen habe

Wie fragil ist die Autokratie?
Eine ernsthafte Einschätzung von Trump und Amerikas Sieg – Wie wird die Zukunft hier aussehen? – von Prof. Dave Karpf von der George Washington University.

Klicken Sie hier für mehr
Ein aufschlussreicher Essay von Jason Kottke über die Kunst des Schreibens für das Web und die Kraft, die Hyperlinks haben, um eine Diskussion zu intensivieren.

Der Moschuseffekt
Machiavelli vom Markt – ein aktueller Aufsatz über die enorme Macht von Unternehmern, von Alex Gourevitch.