Skip to content
PodSubs
ShowsPeopleGuestsJobsNewsEvents
More
BlogPodCred
Menu
ShowsPeopleGuestsJobsNewsEventsBlogPodCredNetworksSign in
Join nowSign in
  • Shows
  • People
  • Jobs
  • News
  • More
    • Guests
    • Events
    • Blog
    • PodCred
    • Networks
    Join nowSign in

LEDZtalk

LEDZtalk artwork

Wer braucht denn noch echte Influencer?

Oct 1, 202623 minAudio
ShareXLinkedInFacebookWhatsAppEmail

Die ersten Ausschnitte beleuchten die schleichende und oft inoffizielle Integration von künstlicher Intelligenz in den deutschen Arbeitsalltag, bei der Beschäftigte eigeninitiativ experimentieren und die betriebliche Einführung oft überholen. Zudem zeigt sich eine deutliche Ungleichheit bei der Nutzung zwischen verschiedenen Berufs- und Bildungsgruppen, weshalb der versprochene, durchschlagende Produktivitätsschub vielerorts noch ausbleibt. Demgegenüber thematisieren die zweiten Auschnitte den Missbrauch digitaler Identitäten im Influencer-Marketing, wo öffentlich zugängliche Bildarchive von realen Personen genutzt werden, um täuschend echte Werbekampagnen zu generieren. Durch diese Technologie wird das menschliche Gesicht als Werbeträger zwar weiterhin benötigt, die eigentliche Zustimmung der Betroffenen jedoch zunehmend überflüssig. Beide Texte verdeutlichen somit auf unterschiedliche Weise, dass moderne Automatisierungs- und KI-Technologien zwar allgegenwärtig sind, aber oft unkontrolliert ablaufen und etablierte Strukturen herausfordern. Unternehmen und Plattformen stehen gleichermaßen vor der Herausforderung, diese Eigendynamiken zu regulieren, um rechtliche Grauzonen und Sicherheitsrisiken zu minimieren. Grundlage jeder Folge ist ein Artikel von georgschneider.de, der mit Unterstützung von KI und Google NotebookLM für das Podcast-Format aufbereitet wird. Die verwendeten Stimmen sind synthetisch. Über Georg Schneider und das Logbuch einer defekten Zukunft Hi, ich bin der aus der URL. Ich schreibe über das, was bei genauerem Hinschauen von der Zukunft übrig bleibt. Das ist meistens etwas weniger glänzend als angekündigt. Es geht um KI, das Leben im Netz, Berufe im Wandel und die Frage, welche der großen Versprechen den Kontakt mit der Wirklichkeit überstehen. Um Utopien, technische Fortschritte, digitale Absurditäten und gelegentlich um Dinge, bei denen man sich fragt, ob wirklich jemand vorher darüber nachgedacht hat. Und wenn die Welt dafür zu klein wird, geht es eben um den Kosmos. Die Zukunft kommt sowieso. Überraschend ist nur, wie oft sie schon da war und niemand sie bemerkt hat. https://georgschneider.de

Audio and video play straight from the show's own hosting. PodSubs stores and serves no media.

Transcript

From the show. Tap a time to play from there.

SPEAKER_00Stell dir mal für einen kurzen Moment folgende Situation vor. Du sitzt abends so ganz entspannt auf der Couch. Scrollst. Also du scrollst einfach nur so ein bisschen durch dein Social Media Feed.

SPEAKER_01Jo, so wie jeden Abend halt, ne?

SPEAKER_00Genau, wie jeden Abend. Und plötzlich bleibt dein Daumen stehen. Weil du siehst da eine Werbeanzeige.

SPEAKER_01Okay.

SPEAKER_00Das Produkt, das da beworben wird, hast du noch nie in deinem Leben gesehen.

SPEAKER_01Wahrscheinlich so ein völliges Nischending.

SPEAKER_00Ja, absolut. Du kennst die Firma dahinter überhaupt nicht, aber, und das ist der irre Teil, das Gesicht, das da im Video frontal in die Kamera lächelt.

SPEAKER_01Das bist du.

SPEAKER_00Das bist buchstäblich du. Dein exaktes Lächeln, deine feine Gestik, deine unverwechselbare Stimme, die da dieses völlig fremde Produkt in den höchsten Tönen lobt.

SPEAKER_01Heftig.

SPEAKER_00Irgendjemand da draußen hat dich da einfach zur Werbefigur gemacht, ohne dich auch nur eine verdammte Sekunde lang zu fragen.

SPEAKER_01Keine Unterschrift, kein Vertrag.

SPEAKER_00Nichts. Und du siehst natürlich auch keinen einzigen Cent von den Einnahmen. Also das klingt halt irgendwie wie so die Eröffnungsszene aus einem echt düsteren, dystopischen Science-Fiction-Film, oder?

SPEAKER_01Total, ja.

SPEAKER_00Aber wir sprechen hier halt nicht von einer fern Zukunft oder einem rein theoretischen Gedankenexperiment. Wir machen heute einen Deep Dive in diese völlig bizarre und rasante neue Realität des digitalen Klons.

SPEAKER_01Ja, und das passiert genau jetzt.

SPEAKER_00Exakt. Echte Menschen werden in diesem Moment durch ihre eigenen unautorisierten digitalen Klone ersetzt. Das Geschäftsmodell einer ganzen Industrie steht da gerade wirklich auf der Kippe.

SPEAKER_01Und wir sprechen ja ja von einer Multimilliarden-Dollar-Industrie, die gerade von genau der Technologie von innen heraus aufgefressen wird, die sie eigentlich erst zu groß gemacht hat.

SPEAKER_00Ja, das ist das Verrückte daran.

SPEAKER_01Voll. Die Entwicklungen der letzten Monate, also die werfen echt fundamentale Fragen auf. Wem gehört unser Gesicht überhaupt noch? Was bedeutet sowas wie Identität im digitalen Raum, wenn plötzlich jede noch so kleine Nuance unserer Persönlichkeit maschinell reproduzierbar ist? Krass, ja. Wir beobachten ja echt so einen Übergang, weißt du, von einer Welt, in der Influencer für ihre Reichweite bezahlt wurden, hin zu einer Welt, in der sie eigentlich nur noch als unfreiwillige Rohstofflieferanten dienen.

SPEAKER_00Rohstofflieferanten für synthetische Werbekampagnen, ja. Das ist genau der Kern unserer heutigen Analyse. Wir wollen wirklich verstehen, wie diese Maschinerie technisch überhaupt so reibungslos funktioniert.

SPEAKER_01Und warum die ganzen Schutzmechanismen versagen.

SPEAKER_00Genau. Warum die großen Plattformen das nicht stoppen. Und vor allem, was das für jeden Einzelnen von uns bedeutet, der jemals auch nur ein Foto von sich ins Netz gestellt hat.

SPEAKER_01Also im Grunde für uns alle.

SPEAKER_00Für uns alle, ja. Aber bevor wir uns jetzt in diese tiefsten Abgründe der KI-Fälschungen stürzen, müssen wir kurz mal das Fundament betrachten.

SPEAKER_01Das alte Modell quasi.

SPEAKER_00Richtig. Das klassische Geschäftsmodell des Influencers wird ja gerade spektakulär sabotiert. Aber um zu begreifen, warum das überhaupt so erschreckend leicht zu sabotieren ist, müssen wir diesen Paradigmenwechsel in der Werbung verstehen.

SPEAKER_01Absolut.

SPEAKER_00Weißt du, früher, da kaufte eine Marke den Platz auf einer Plakatwand oder die Sendezeit im Fernsehen.

SPEAKER_01Ja, die Reichweite war das Produkt, ganz klassisch.

SPEAKER_00Genau. Bei Influencern ist das aber völlig anders gelagert.

SPEAKER_01Sie verkaufen ja nicht primär Reichweite, sondern sie verkaufen sich selbst.

SPEAKER_00Richtig.

SPEAKER_01Sie sind im Grunde das Produkt. Und dieses Geschäftsmodell, das basiert halt auf einer extrem radikalen Form von Authentizität und Nahbarkeit. Die Währung in dieser ganzen Branche, das ist die parasoziale Beziehung.

SPEAKER_00Das musst du vielleicht kurz erklären.

SPEAKER_01Ja, also es ist dieser bewusst inszenierte, scheinbar völlig ungeschönte Alltag.

SPEAKER_00Ah ja, der klassische Küchentisch.

SPEAKER_01Exakt. Es ist der Küchentisch, an dem morgens so völlig ungeschminkt der Kaffee getrunken wird oder das Chaos im Kinderzimmer.

SPEAKER_00Oder diese emotionalen Geständnisse im Selfie-Modus, wenn sie gerade im Auto sitzen.

SPEAKER_01Genau diese Momente. All diese kleinen, hochgradig intimen Details, die senken halt die psychologischen Abwehrmechanismen der Zuschauer total.

SPEAKER_00Man fühlt sich, als wäre man dabei.

SPEAKER_01Das Gehirn des Followers verarbeitet diese ständigen, unperfekten Eindrücke und zieht dann irgendwann einfach den Schluss, ich kenne diese Person.

SPEAKER_00Das ist kein Verkäufer, das ist ein Freund.

SPEAKER_01Ganz genau.

SPEAKER_00Okay, lass uns das mal aufdröseln, um in dieser Industrie überhaupt an die Spitze zu kommen und dieses tiefe Vertrauen der Leute aufzubauen. Da musst du dein Leben ja quasi komplett nach außen kehren, oder?

SPEAKER_01Du hast da eigentlich keine andere Wahl.

SPEAKER_00Ja, du bist gezwungen, über Jahre hinweg massenhaft Fotos, Videos, Sprachnachrichten und persönliche Momente in höchster Qualität hochzuladen.

SPEAKER_01Jeden Tag, immer wieder.

SPEAKER_00Jeden Tag. Und genau das ist doch der fatale Konstruktionsfehler dieses ganzen Systems.

SPEAKER_01Absolut.

SPEAKER_00Ich stelle mir das immer so vor, das ist, als würde man jahrelang ein wunderschönes Schaufenster mit seinem eigenen Leben dekorieren, um die Kunden anzulocken. Richtig, um Kunden anzulocken. Und plötzlich kommt jemand vorbei, scannt dieses ganze Fenster einfach mit einem Laser ab und baut den exakt gleichen Laden auf der anderen Straßenseite auf.

SPEAKER_01Inklusive einer perfekten, sprechenden Kopie von dir als Verkäufer.

SPEAKER_00Ja. Das ist doch irre. Ist diese extreme öffentliche Sichtbarkeit, die ja eigentlich das absolut größte Kapital dieser Leute war, jetzt ironischerweise zu ihrer allergrößten Schwachstelle geworden.

SPEAKER_01Wenn wir das mit dem großen Ganzen verbinden, müssen wir uns einfach mal ansehen, wie künstliche Intelligenz, also speziell maschinelles Lernen, heute eigentlich funktioniert.

SPEAKER_00Okay, hau raus.

SPEAKER_01KI-Modelle generieren ja nicht einfach irgendwie aus dem Nichts ein Gesicht.

SPEAKER_00Nee, die brauchen Futter.

SPEAKER_01Genau. Sie brauchen massive, strukturierte Datensätze, um überhaupt lernen zu können. Und was wir da auf den Profilen von diesen großen Influencern finden, das ist im Grunde der feuchte Traum eines jeden KI-Entwicklers.

SPEAKER_00Oh wow, ja, klar.

SPEAKER_01Wir sprechen hier halt nicht von drei unscharfen Urlaubsfotos aus dem Jahr 2012.

SPEAKER_00Nee, das sind ja Gigabytes an Material.

SPEAKER_01Wir sprechen von tausenden Stunden an hochauflösendem Videomaterial. Die Person ist da aus allen erdenklichen Winkeln gefilmt. In verschiedenen Lichtverhältnissen. Sie lacht, sie weint, sie flüstert, sie schreit.

SPEAKER_00Die Influencer haben also quasi unwissentlich das perfekte Trainingslager für ihre eigenen Klone erschaffen.

SPEAKER_01Sie haben die teuerste und aufwendigste Arbeit der ganzen KI-Entwicklung völlig gratis erledigt.

SPEAKER_00Die Datenerhebung.

SPEAKER_01Exakt, die Datenerhebung. Ein modernes neuronales Netz, das legt dann einfach ein dreidimensionales Gitter über das Gesicht im Video und studiert die Mikromemik.

SPEAKER_00Also wirklich jeden Muskel.

SPEAKER_01Jeden einzelnen Muskel. Es lernt genau, wie sich die linke Augenbrau dieser spezifischen Person hebt, wenn sie sarkastisch wird.

SPEAKER_00Krass.

SPEAKER_01Es analysiert, wie sich die Mundwinkel leicht asymmetrisch verziehen, wenn sie lächelt.

SPEAKER_00Und die Stimme?

SPEAKER_01Aber im Thema Stimme ist der Fortschritt ehrlich gesagt noch viel erschreckender.

SPEAKER_00Okay.

SPEAKER_01Vor ein paar Jahren brauchte man noch wirklich Stunden an sauberen Studioaufnahmen, um eine Stimme zu klonen.

SPEAKER_00Ich erinnere mich, ja.

SPEAKER_01Heute reichen Algorithmen oft schon drei bis fünf Sekunden Audiomaterial.

SPEAKER_00Drei bis fünf Sekunden.

SPEAKER_01Ja, selbst mit Hintergrundgeräuschen. Das reicht ihnen, um die Tonhöhe, den Rhythmus und sogar den spezifischen Dialekt einer Person täuschend echt zu synthetisieren.

SPEAKER_00Das heißt, das komplette Verhaltensprofil ist einfach durchdigitalisiert.

SPEAKER_01Komplett. Es ist alles da.

SPEAKER_00Hier wird es wirklich interessant, denn wir reden hier ja nicht mehr über lustige Deepfake-Spielereien, weißt du?

SPEAKER_01Wo man irgendwie ein Gesicht in den alten Film schneidet.

SPEAKER_00Genau, das meine ich. Wir reden über knallharte, kommerzielle Ausbeutung.

SPEAKER_01Absolut.

SPEAKER_00Ein Fall, der da momentan echt extreme Wellen schlägt, ist der der Lifestyle-Creatorin Emily Schuman.

SPEAKER_01Oh ja, ein extrem wichtiges Beispiel.

SPEAKER_00Sie ist nämlich genau in diese Falle getappt. Und zwar ohne irgendetwas falsch gemacht zu haben.

SPEAKER_01Sie hat einfach nur ihren Job gemacht.

SPEAKER_00Richtig. Sie surft im Netz und entdeckt plötzlich Werbeanzeigen mit ihrem eigenen Gesicht, in denen sie fließend in die Kamera spricht für Firmen, von denen sie noch nie in ihrem Leben gehört hat.

SPEAKER_01Und wir müssen uns da echt mal ansehen, für welche Art von Produkten sie da unfreiwillig geworben hat.

SPEAKER_00Das war nicht nur Kleidung, oder?

SPEAKER_01Nee, überhaupt nicht. Es handelte sich da in einem Fall um ein Telemedizinunternehmen namens Gala. Und die vertreiben unter anderem GLP-1-Präparate.

SPEAKER_00Warte, GLP-1, das sind doch diese extrem gehypten, verschreibungspflichtigen Medikamente zur Gewichtsreduktion.

SPEAKER_01Genau. Wahnsinn. Abnehmspritzen quasi.

SPEAKER_00Wahnsinn. Wir reden hier also von echten medizinischen Produkten, die ja auch massive Nebenwirkungen haben können.

SPEAKER_01Absolut.

SPEAKER_00Das ist kein T-Shirt mit einem witzigen Spruch drauf, das ist der Gesundheitssektor.

SPEAKER_01Ja, und das war auch nicht die einzige Kampagne, in der sie aufgetaucht ist.

SPEAKER_00Oh Gott, was noch?

SPEAKER_01Ein anderer KI-Klon von ihr machte plötzlich großflächig Werbung für Kosmetik von Meruda Cosmetics.

SPEAKER_00Okay.

SPEAKER_01Und wieder andere künstlich erzeugte Bilder von ihr tauchten bei einem Bluttestanbieter auf.

SPEAKER_00Ein Bluttestanbieter?

SPEAKER_01Ja. Ein Unternehmen, das sich Superpower nennt.

SPEAKER_00Krass. Medikamente, Kosmetikprodukte, medizinische Bluttests und alles mit dem Gesicht und der Stimme von Emily Schuman.

SPEAKER_01Aber eben völlig ohne ihr Wissen.

SPEAKER_00Das zeigt doch eigentlich den fundamentalen Unterschied zu klassischen Urheberrechtsverletzungen auf, oder? Wenn früher jemand ein Foto eines Influencers gestohlen und auf seine Webseite gepackt hat, war das ärgerlich.

SPEAKER_01Ja, das war ein simpler Bilderklau.

SPEAKER_00Genau, Bilderklau. Aber das hier, das sprengt doch jede Definition.

SPEAKER_01Das ist eine völlig andere Liga.

SPEAKER_00Hier wird nicht einfach ein Bild geklaut, hier wird eine komplette eigenständige Werbekampagne aus dem Nichts generiert.

SPEAKER_01Ja, die Täter mieten sich quasi die über Jahre mühsam aufgebaute Glaubwürdigkeit einer Person. Und das ohne den Preis dafür zu zahlen.

SPEAKER_00Und vor allem ohne sich mit dem echten Menschen und seinen Moralvorstellungen auseinandersetzen zu müssen.

SPEAKER_01Das ist der Punkt, ja.

SPEAKER_00Der KI-Klon ist aus Sicht dieser ganzen dubiosen Firmen doch der perfekte Angestellte.

SPEAKER_01Er verlangt kein Honorar.

SPEAKER_00Genau, er hat keine Gewerkschaft, er wird nie krank. Aber noch viel wichtiger, er stellt absolut keine kritischen Fragen. Null. Der Klon fragt nicht, ob diese GLP-1-Präparate wirklich sicher sind oder ob der Bluttest wissenschaftlich fundiert ist.

SPEAKER_01Er hält einfach brav und lächeln, das sind die Kamera, was der Prompter ihm vorgibt.

SPEAKER_00Die ethische Instanz des Menschen, die es da komplett wegrationalisiert.

SPEAKER_01Die Maschine kennt halt keine Skrupel.

SPEAKER_00Wahnsinn.

SPEAKER_01Sie maximiert einfach nur die Konversionsrate der Werbeanzeige. Das ist echt die pure Essenz von Manipulation.

SPEAKER_00Aber halt, da muss ich jetzt mal massiv reingrätschen. Okay.

SPEAKER_01Schieß los.

SPEAKER_00Ist das nicht eigentlich völlig absurd? Also, ich verstehe die Technik dahinter, das haben wir ja gerade besprochen. Aber wir reden hier doch über echte Menschen auf der anderen Seite des Bildschirms. Die Follower von Emily Schumann, die folgen ihr ja teilweise seit Jahren.

SPEAKER_01Ja, die sind oft sehr treu.

SPEAKER_00Die kennen ihre Werte, ihre Art zu sprechen. Wie kann die Glaubwürdigkeit einer Person denn erhalten bleiben, wenn die Seele, also der echte Mensch, gar nicht mehr involviert ist?

SPEAKER_01Ja, das ist die große Frage.

SPEAKER_00Fällt den Followern dieser Betrug denn nicht auf? Die müssten doch nach drei Sekunden merken, Moment mal, diese Wortwahl passt doch überhaupt nicht zu Emily oder sie würde niemals ungetestete Medikamente bewerben.

SPEAKER_01Das sollte man denken, ja.

SPEAKER_00Warum funktioniert dieser Betrug beim Konsumenten dann trotzdem so gut?

SPEAKER_01Deine Frage ist absolut berechtigt. Und sie führt uns eigentlich direkt in die Psychologie der digitalen Wahrnehmung.

SPEAKER_00Okay.

SPEAKER_01Wir überschätzen da systematisch unsere eigene Fähigkeit, solche Fälschungen zu erkennen.

SPEAKER_00Wir glauben, wir merken das sofort.

SPEAKER_01Genau. Wir glauben, wir würden super analytisch an solche Videos herangehen. Aber das tun wir auf Plattformen wie Instagram oder TikTok einfach nicht.

SPEAKER_00Weil wir zu schnell sind.

SPEAKER_01Ja, wir befinden uns dort in einem Zustand der ständigen kognitiven Überlastung. Wir scrollen in einem unglaublich rasanten Tempo durch diese Feeds. Und unser Gehirn nutzt in diesem Modus sogenannte Heuristiken.

SPEAKER_00Heuristiken.

SPEAKER_01Ja, also mentale Abkürzungen, um überhaupt schnelle Entscheidungen treffen zu können.

SPEAKER_00Wir schalten das kritische Denken also quasi ab, um Energie zu sparen.

SPEAKER_01Exakt so ist es. Wir nutzen das sogenannte System 1 unseres Gehirns, wie der bekannte Psychologe Daniel Kahnemann das mal genannt hat.

SPEAKER_00Ah, schnelles Denken, langsames Denken.

SPEAKER_01Richtig. System 1 ist das schnelle, instinktive, stark emotionale Denken.

SPEAKER_00Okay, verstehe.

SPEAKER_01Wenn die KI das Gesicht jetzt perfekt nachbildet, wenn die Stimme identisch klingt und das Video in diesem typischen intimen Selfie-Modus aufgenommen ist.

SPEAKER_00Wo der Influencer immer direkt zu uns spricht.

SPEAKER_01Genau. Dann feuern in unserem Gehirn sofort die etablierten Vertrauensschalter. Ach krass. Wir sehen das vertraute Gesicht und das Gehirn meldet einfach nur Freund. Sicherheit. Glaubwürdig.

SPEAKER_00Und wir hinterfragen es gar nicht erst.

SPEAKER_01In diesem superflüchtigen Bruchteil einer Sekunde, in dem wir entscheiden, ob wir weiterscrollen oder den Link klicken, da reicht die reine visuelle Übereinstimmung einfach völlig aus.

SPEAKER_00Wow.

SPEAKER_01Bis dann das langsame, kritische System 2 einsetzt und wir vielleicht die unnatürliche Wortwahl bemerken.

SPEAKER_00Falls wir das überhaupt tun.

SPEAKER_01Ja, falls wir es tun. Bis dahin hat die Werbebotschaft ihr Ziel schon längst erreicht. Der Klick ist längst passiert.

SPEAKER_00Wir lassen uns also von der bloßen Verpackung täuschen, weil die Plattformen uns quasi auf Geschwindigkeit trainiert haben.

SPEAKER_01Ganz genau.

SPEAKER_00Wahnsinn. Aber das bringt mich direkt zum nächsten logischen Problem. Wenn das so offensichtlich in derart großem Stil passiert, wo sind dann bitte die Schiedsrichter?

SPEAKER_01Die Plattformen.

SPEAKER_00Ja, wir reden hier ja nicht über irgendwelche dunklen Foren im Darknet. Diese Fake-Anzeigen laufen auf Plattformen wie Instagram, die zu Meta gehören.

SPEAKER_01Einem der größten Unternehmen der Welt.

SPEAKER_00Einer der mächtigsten und technologisch fortschrittlichsten Konzerne überhaupt. Willst du mir jetzt ernsthaft sagen, die wissen nicht, was da auf ihren eigenen Plattformen passiert?

SPEAKER_01Oh, die wissen sehr wohl Bescheid.

SPEAKER_00Echt?

SPEAKER_01Meta hat dieses Phänomen intern längst analysiert, die bezeichnen das offiziell als Celebbait, also Promiköder.

SPEAKER_00Celebbait.

SPEAKER_01Sie sind sich der Problematik total bewusst, dass Betrüger gezielt bekannte Gesichter nutzen, um Nutzer in Anlagebetrug oder halt den Kauf fragwürdiger Produkte zu locken.

SPEAKER_00Und tun sie was dagegen?

SPEAKER_01Meta betont öffentlich natürlich, dass sie massiv gegen diese Netzwerke vorgehen. Es gibt ja auch echt umfangreiche Richtlinien gegen Identitätsmissbrauch und so nicht autorisierte KI-Kopien.

SPEAKER_00Warte mal, das kaufe ich Meta jetzt aber nicht so einfach ab.

SPEAKER_01Wieso?

SPEAKER_00Naja, Meta macht sein Geld zu fast 100% mit Werbeeinnahmen.

SPEAKER_01Ja, das ist ihr ein Geschäftsmodell.

SPEAKER_00Wenn eine gefälschte Emily Chew-Anzeige für ein Abnehmmedikament drei Tage lang unentdeckt durch die Netzwerke rollt, dann hat Meta in diesen drei Tagen an jedem einzelnen Klick prächtig verdient. Sind die Plattformen da nicht eigentlich finanziell komplett fehlanreizgesteuert? Es ist doch absolut in ihrem wirtschaftlichen Interesse, bei gut konvertierenden Anzeigen im Zweifel erstmal wegzuschauen.

SPEAKER_01Das ist der zynische, aber durchaus realistische Blick auf die ökonomischen Anreize, ja.

SPEAKER_00Ist doch wahr.

SPEAKER_01Die Plattformen haben dann grundlegendes strukturelles Dilemma. Aber was hier faszinierend ist, selbst wenn wir Meta mal die allerbesten Absichten unterstellen.

SPEAKER_00Was schon schwerfällt.

SPEAKER_01Zugegeben. Aber selbst dann, wir sehen hier die extreme technologische Asymmetrie dieses Konflikts. Wir erleben hier echt eine völlig neue Form der asymmetrischen Kriegsführung.

SPEAKER_00Wie meinst du das?

SPEAKER_01Die Betrüger haben doch nicht mehr Ressourcen als ein absoluter Tech-Gigant wie Meta.

SPEAKER_00Sie haben keine größeren Budgets, nee.

SPEAKER_01Aber sie haben die Architektur des Systems komplett auf ihrer Seite.

SPEAKER_00Okay, erklär das mal.

SPEAKER_01Stell dir vor, du versuchst den Regen bei einem extremen Unwetter mit einem Nudelsieb aufzufangen.

SPEAKER_00Sehr bildhaft.

SPEAKER_01Das ist in etwa die Situation der Moderatoren bei Meta. Die Betrüger nutzen nämlich programmatische Schnittstellen. Sie laden nicht eine gefälschte Anzeige hoch, sie lassen von der KI einfach mal 10.000 leicht variierte Versionen der Emily Schuhwann-Werbung generieren.

SPEAKER_0010.000?

SPEAKER_01Ja, 10.000 verschiedene Texte, verschiedene Hintergründe, winzige Änderungen im Code und sie jagen diese Masse an Anzeigen völlig automatisiert in das Werbesystem.

SPEAKER_00Und das System checkt das nicht.

SPEAKER_01Naja, die Algorithmen der Plattform fangen vielleicht 9900 davon sofort ab. Aber die 100, die durchrutschen, die werden durch den Optimierungsalgorithmus der Plattform sofort an Millionen von Nutzern ausgespielt.

SPEAKER_00Weil sie so gut konvertieren.

SPEAKER_01Weil sie extrem gut klicken, genau. Wegen des bekannten Gesichts. Und bevor auch nur ein einziger menschlicher Moderator bei Meta den Löschen-Button drückt, da haben die Betrüger ihren Gewinn längst gemacht und den Account einfach gelöscht. Wow. Die Plattformen reagieren halt nur auf Einzelfälle, während die Betrüger die schiere Masse agieren lassen.

SPEAKER_00Das ist ein Katz-und-Maus-Spiel.

SPEAKER_01Die Technologie der Angreifer skaliert unendlich viel schneller als die Kontrollmechanismen der Verteidiger.

SPEAKER_00Also, was bedeutet das jetzt alles? Tja. Wenn nicht einmal ein Gigant wie Meta, der ja wirklich Milliarden in KI-Sicherheit und Moderationstools pumpt, dieses Problem irgendwie in Echtzeit in den Griff bekommt. Wie soll sich dann der Einzelne überhaupt schützen?

SPEAKER_01Gar nicht. Im Moment.

SPEAKER_00Das löst doch ein völliges Ohnmachtgefühl aus. Emily Schuman sitzt zu Hause, sieht ihr Gesicht bei dubioser Medikamentenwerbung und im Grunde ist sie komplett machtlos.

SPEAKER_01Absolut.

SPEAKER_00Sie kann auf Melden klicken und dann hoffen, dass der Support-Bot von Instagram irgendwann in ein paar Tagen reagiert, während ihr Gesicht weiter fröhlich Pillen verkauft.

SPEAKER_01Diese Ohnmacht ist momentan leider die bittere Realität. Das Rechtssystem und die ganzen Durchsetzungsmechanismen der Plattformen, die hecheln der technologischen Machbarkeit einfach hoffnungslos hinterher. Und das zwingt uns, über einen viel tieferen systemischen Wandel nachzudenken. Inwiefern? Was wir hier beobachten, ist nicht einfach nur so eine temporäre Welle von Betrug. Es ist die fundamentale Neuordnung der gesamten Ökonomie des Influencertums.

SPEAKER_00Weil sich die Wertschöpfungskette verändert hat.

SPEAKER_01Genau. Bis vor kurzem war die wirtschaftliche Gleichung eigentlich simpel. Und sie verlangte nach dem Menschen.

SPEAKER_00Klar.

SPEAKER_01Eine Firma wollte Reichweite, also bezahlte sie einen Menschen. Dieser Mensch fungierte als glaubwürdiger Mittelsmann. Er nahm das Produkt, testete es vielleicht sogar und hielt es dann an die Kamera.

SPEAKER_00Der Mensch war das unersetzliche Bindeglied zwischen der Marke und dem Konsumenten.

SPEAKER_01Heute, und das beweist der Fall Schumann ganz klar, reicht das digitalisierte Abbild dieser Person völlig aus, um exakt denselben ökonomischen Effekt zu erzielen. Das Gesicht ist das Asset, der Mensch dahinter ist nur noch ein lästiger Kostenfaktor.

SPEAKER_00Man extrahiert das Vertrauen aus dem Gesicht wie ein Rohstoff aus einer Mine. Der echte Mensch wird aus seiner eigenen Geschäftsidee einfach wegrationalisiert.

SPEAKER_01Das wirft eine wichtige Frage auf, nämlich was bleibt eigentlich vom Konzept der menschlichen Souveränität, wenn die visuelle und akustische Identität so wahnsinnig einfach vom menschlichen Willen getrennt werden kann. Die Reichweite und das Gesicht, die bleiben für den Markt extrem wertvoll.

SPEAKER_00Die wollen sie haben, ja.

SPEAKER_01Aber die Zustimmung des Menschen, das, was uns überhaupt erst zu selbstbestimmten Individuen macht, das wird vom Markt technisch als völlig verzichtbarer Luxus behandelt. Das ist wirklich die konsequenteste, kaltblütigste Form des Influencer-Marketings, die man sich vorstellen kann. Die Illusion des Influencers bleibt bestehen. Nur der fehleranfällige, teure Mensch, der wurde einfach aussortiert.

SPEAKER_00Die Zustimmung als verzichtbarer Luxus. Das muss man sich wirklich mal auf der Zunge zergehen lassen. Und hier möchte ich den Ball direkt mal an dich spielen, der uns hier gerade zuhört. Was fällt dir dabei auf? Denk mal an deine ganz eigene Camera Roll auf dem Smartphone. Denk an deine eigenen Instagram Stories, deine TikToks, deine Profilbilder.

SPEAKER_01Alles voll davon.

SPEAKER_00Wir alle füttern diese gigantische Maschine doch jeden Tag völlig freiwillig mit unseren Gesichtern, unseren Stimmen, unseren kleinen Emotionen. Das ist die Realität. Wir laden buchstäblich die Baupläne hoch, mit denen man uns jederzeit digital nachbauen könnte. Es betrifft doch längst nicht mehr nur die Stars mit Millionenreichweite, oder?

SPEAKER_01Überhaupt nicht. Die Technologie ist mittlerweile so absurd billig geworden, dass sie theoretisch jeden ins Visier nehmen kann, der irgendwie eine digitale Fußspur hinterlässt.

SPEAKER_00Okay, krass. Lass uns die wichtigsten Erkenntnisse unserer heutigen Analyse noch einmal ganz kurz verdichten.

SPEAKER_01Sehr gern.

SPEAKER_00Wir haben den grundlegenden Konstruktionsfehler des Influencer-Modells aufgedeckt. Die jahrelange detaillierte Dokumentation des eigenen Lebens liefert der KI einfach das perfekte Trainingsmaterial, um einen digitalen Klon zu erschaffen. Am Fall von Emily Schumann haben wir dann gesehen, dass dies bereits knallharte Praxis ist. Unautorisierte Klone bewerben dubiose Medikamente und Kosmetika.

SPEAKER_01Ohne Eh Wissen, ohne ihre Zustimmung. Richtig.

SPEAKER_00Wir haben auch verstanden, dass unser Gehirn beim schnellen Scrollen auf reine visuelle Reize reagiert und das kritische Denken ausschaltet, weshalb der Betrug so erschreckend gut funktioniert.

SPEAKER_01Das schnelle System 1.

SPEAKER_00Und wir haben festgestellt, dass die Plattformen den vollautomatisierten KI-Angriffen strukturell unterlegen sind oder vielleicht aus finanziellen Gründen gar nicht so mega genau hinschauen wollen.

SPEAKER_01Das Dilemma, ja.

SPEAKER_00Am Ende steht dann echt so eine bizarre neue Ökonomie, in der unser Gesicht zum Abbaubaren Rohstoff wird und unsere menschliche Zustimmung keinen echten Wert mehr hat.

SPEAKER_01Es ist im Grunde ein Epochenwechsel. Die Spielregeln für Identität, für Urheberrecht und auch für das Konzept von Wahrheit im digitalen Raum, die werden gerade in Echtzeit komplett neu geschrieben.

SPEAKER_00Ohne dass wir gefragt werden.

SPEAKER_01Ohne dass wir als Gesellschaft bisher irgendwelche Antworten darauf gefunden hätten.

SPEAKER_00Und genau deshalb möchte ich dir, bevor wir uns für heute verabschieden, noch einen letzten, echt provokanten Gedanken mit auf den Weg geben. Ein Gedanke, der mir beim Eintauchen in dieses Thema gekommen ist und der mich irgendwie echt nicht mehr loslässt.

SPEAKER_01Ich bin gespannt.

SPEAKER_00Wenn die visuelle Glaubwürdigkeit eines jeden Menschen so unfassbar einfach von seiner echten Persönlichkeit getrennt werden kann, durch künstliche Intelligenz gekapert und massenhaft missbraucht werden kann, wie lange dauert es dann noch, bis wir als Gesellschaft aufhören, überhaupt irgendeinem menschlichen Gesicht in einem Video zu vertrauen?

SPEAKER_01Das ist eine krasse Vorstellung.

SPEAKER_00Und wenn dieser Kipppunkt erreicht ist, wenn wir keinem Influencer, keinem Promi und vielleicht nicht mal mehr dem Videoanruf unserer besten Freunde blind glauben können, was passiert dann? Werden wir dann paradoxerweise wieder anfangen, kühlen, statischen und völlig gesichtslosen Markenlogos mehr zu vertrauen als den Gesichtern unserer Mitmenschen?

SPEAKER_01Wow.

SPEAKER_00Einfach weil ein altes Firmenlogo halt berechenbar ist und nicht von einer KI als Bauchrednerpuppe benutzt werden kann?

SPEAKER_01Da ist was dran, ja.

SPEAKER_00Denk mal genau darüber nach, wenn du das nächste Mal durch deinen Feed scrollst und ein vermeintlich bekanntes Gesicht siehst.

SPEAKER_01Sehr guter Punkt.

SPEAKER_00Wir verabschieden uns für heute. Danke, dass du uns bei diesem tiefen Einblick begleitet hast. Pass echt gut auf deine Daten auf, sei skeptisch bei dem, was du da so siehst, und bis zum nächsten Mal.

SPEAKER_01Bis zum nächsten Mal. Bleibt kritisch und hinterfragt eure Wahrnehmung.

Open the transcript file

Hosts and Guests

Nobody is credited on this episode yet.

Credit the people on this episode

Be the first to rate this episode

More episodes

All episodes
  1. Musikindustrie verleiht Preise an KI

    Nov 19, 20266 minAudio

    Die Musikindustrie hat kürzlich eine neue Ära eingeläutet, indem sie bei den ersten AI Music Awards in Los Angeles Preise für vollständig oder teilweise computergenerierte Werke verglichen und verliehen hat. Als größte...

    Credit the people on this episode

  2. Empörung verkauft sich besser als Vernunft

    Nov 18, 20266 minAudio

    Die vorliegenden Quellen beleuchten, wie moderne Internetplattformen durch Algorithmen auf maximale Interaktion optimiert sind und dabei gezielt menschliche Empörung ausnutzen. Da Wut und moralische Aufregung messbares...

    Credit the people on this episode

  3. Microsoft und das lachende Internet

    Nov 16, 20267 minAudio

    Eine globale Microsoft-Panne im November 2026 legte zahlreiche Unternehmen sowie Behörden lahm und zwang viele Beschäftigte zu einer unfreiwilligen Arbeitspause. Während kritische Institutionen unter den Ausfällen...

    Credit the people on this episode

  4. Der Kalte Krieg bekommt neue Mitarbeiter

    Nov 15, 20266 minAudio

    Die NATO erprobt im Rahmen der Initiative Task Force X-Arctic unbemannte Roboter für den Einsatz in der extremen Kälte der Arktis. Diese autonomen Boden- und Wasserfahrzeuge sollen zur Überwachung abgelegener Regionen...

    Credit the people on this episode

  5. Manchmal wird das Internet persönlich

    Nov 14, 20265 minAudio

    Die Digitalisierung hat den öffentlichen Diskurs zwar demokratisiert, gleichzeitig aber auch zu einer besorgniserregenden Zunahme persönlicher Anfeindungen im Netz geführt. Vor allem Journalistinnen sind im Alltag...

    Credit the people on this episode