Skip to content
PodSubs
ShowsPeopleGuestsJobsNewsEvents
More
BlogPodCred
Menu
ShowsPeopleGuestsJobsNewsEventsBlogPodCredNetworksSign in
Join nowSign in
  • Shows
  • People
  • Jobs
  • News
  • More
    • Guests
    • Events
    • Blog
    • PodCred
    • Networks
    Join nowSign in

LEDZtalk

LEDZtalk artwork

Warum perfekt klingende KI gefährlich ist

Oct 2, 20266 minAudio

Die wachsende Sprachgewandtheit moderner Computersysteme birgt die Gefahr, dass Anwender fehlerhafte Aussagen fälschlicherweise für absolute Wahrheiten halten. Obwohl Algorithmen bei komplexen Herausforderungen enorme Fortschritte erzielen, bleiben sie weiterhin anfällig für inhaltliche Erfindungen und mangelnde Verlässlichkeit. Da selbst hochentwickelte Modelle einfache Fehler machen und keinerlei Verantwortung übernehmen können, verlagert sich die zentrale Anforderung an den Menschen von der reinen Fragestellung hin zur kritischen Überprüfung. Ohne fundiertes Fachwissen besteht die Gefahr, dass fehlerhafte Ergebnisse durch eine überzeugende Formulierung lediglich einen professionellen Anstricherhalten. Letztlich erfordert der verantwortungsvolle Umgang mit dieser Technologie die Fähigkeit zu erkennen, wann eine scheinbar plausible Antwort keine Gültigkeit beanspruchen darf. Grundlage jeder Folge ist ein Artikel von georgschneider.de, der mit Unterstützung von KI und Google NotebookLM für das Podcast-Format aufbereitet wird. Die verwendeten Stimmen sind synthetisch. Über Georg Schneider und das Logbuch einer defekten Zukunft Hi, ich bin der aus der URL. Ich schreibe über das, was bei genauerem Hinschauen von der Zukunft übrig bleibt. Das ist meistens etwas weniger glänzend als angekündigt. Es geht um KI, das Leben im Netz, Berufe im Wandel und die Frage, welche der großen Versprechen den Kontakt mit der Wirklichkeit überstehen. Um Utopien, technische Fortschritte, digitale Absurditäten und gelegentlich um Dinge, bei denen man sich fragt, ob wirklich jemand vorher darüber nachgedacht hat. Und wenn die Welt dafür zu klein wird, geht es eben um den Kosmos. Die Zukunft kommt sowieso. Überraschend ist nur, wie oft sie schon da war und niemand sie bemerkt hat. https://georgschneider.de

Audio and video play straight from the show's own hosting. PodSubs stores and serves no media.

Transcript

From the show. Tap a time to play from there.

SPEAKER_01Hast du dich schon mal dabei ertappt, wie du jemandem blind geglaubt hast? Einfach nur, weil die Person völlig vielerfrei und extrem flüssig gesprochen hat, also so ganz ohne das kleinste zögern?

SPEAKER_00Ja, das ist total menschlich. Wir alle machen das.

SPEAKER_01Genau. Wir setzen nämlich Eloquenz instinktiv mit Intelligenz gleich. Und wenn wir diesen tief verankerten Reflex auf künstliche Intelligenz anwenden, dann tappen wir in eine ziemlich gefährliche Falle.

SPEAKER_00Oh ja, absolut.

SPEAKER_01Wir haben uns für unsere heutige Analyse nämlich zwei wirklich brandaktuelle Quellen vorgenommen. Einmal den Stanford AI-Index 2026 und dann noch einen sehr kritischen Bericht der US-Behörde NIST. Da geht es um die Vertrauenswürdigkeit von KI.

SPEAKER_00Richtig.

SPEAKER_01Und unsere Mission für unser heutiges Eintauchen in diese Quellen ist es, herauszufinden, warum wir einer KI eigentlich umso weniger vertrauen sollten, je besser und je überzeugender sie klingt.

SPEAKER_00Also die sprachliche Brillanz dieser heutigen Systeme, die verschleiert ja eigentlich nur ihre Mechanik. Wir müssen echt verstehen, dass Sprachmodelle die Welt nicht so begreifen wie wir.

SPEAKER_01Sie haben gar kein echtes Weltbild, oder?

SPEAKER_00Nee, null. Sie besitzen kein echtes Verständnis für Fakten. Sie arbeiten rein probabilistisch. Das bedeutet, sie berechnen anhand gigantischer Textmengen lediglich, welches Wort oder welches Token statistisch gesehen am wahrscheinlichsten als nächstes kommen sollte.

SPEAKER_01Okay. Das Resultat ist dann also diese grammatikalisch und stilistisch makellose Struktur.

SPEAKER_00Genau. Selbst wenn der inhaltliche Kern des Satzes faktisch völliger Unsinn ist.

SPEAKER_01Das ist im Grunde wie ein extrem charmanter Hochstapler im sündhaft teuren Maßanzug.

SPEAKER_00Ja, tolles Bild.

SPEAKER_01Ich meine, so einem Typen glaubst du auf einer Party instinktiv auch eher als jemanden, der stottert oder fachlich unsicher wirkt. Selbst wenn der Mann im Anzug dir eiskalt ins Gesicht lügt.

SPEAKER_00Das trifft es perfekt. Wenn die äußere Form immer so plausibel wirkt, verwechseln wir Wahrscheinlichkeitsrechnungen sofort mit echtem Wissen. Die Behörde NIST hat für diese souverän vorgetragenen Hirngespinste übrigens den Begriff Confabulations etabliert.

SPEAKER_01Confabulations, okay.

SPEAKER_00Ja, und die Gefahr, die der NIST-Bericht hierbei besonders betont, liegt halt in unserer Reaktion. Wir lassen uns von diesem Maßanzug blenden, weil die klassischen Warnsignale fehlen.

SPEAKER_01Stimmt. Früher haben wir so Spam-Mails oder rudimentäre Chatbots ja sofort an holprigen Sätzen erkannt.

SPEAKER_00Ganz genau. Diese furchtbaren Übersetzungsfehler immer. Aber heute ist die Illusion der Kompetenz so perfekt, dass unsere kritische Distanz total schwindet.

SPEAKER_01Aber das macht KI-Tools für Anfänger oder Laien in einem Fachgebiet doch zu einer absoluten Falle. Also wenn das System darauf trainiert ist, immer mit absolutem Selbstbewusstsein aufzutreten.

SPEAKER_00Ja, egal, ob es recht hat oder nicht.

SPEAKER_01Genau. Nimmt mir das dann überhaupt noch Arbeit ab? Ich meine, wenn ich die richtige Antwort nicht ohnehin schon kenne, um sie zu überprüfen, kann ich dem Output doch schlichtweg nicht vertrauen.

SPEAKER_00Und genau das belegt der aktuelle Stanford AI-Index für 2026 mit empirischen Daten. Die beschreiben da ein wirklich faszinierendes Phänomen. Ein Kompetenzparadoxon.

SPEAKER_01Ein Kompetenzparadoxon? Wie äußert sich das?

SPEAKER_00Also die Leistungsfähigkeit der KI entwickelt sich extrem asymmetrisch. Die Spitzenmodelle können mittlerweile hochkomplexe mathematische Probleme lösen, und zwar auf dem Niveau von internationalen Wettbewerben. Wahnsinn. Ja, da kommen selbst Experten ins Schwitzen. Aber gleichzeitig scheitern dieselben Modelle völlig an Aufgaben, die uns Menschen geradezu banal erscheinen.

SPEAKER_01Hast du da ein Beispiel?

SPEAKER_00Etwa beim räumlichen Denken oder bei alltäglicher logischer Schlussfolgerung. Also da, wo es eigentlich auf simplen, gesunden Menschenverstand ankommt.

SPEAKER_01Das heißt, der Fokus unserer menschlichen Arbeit muss sich radikal verschieben. Weg vom Generieren von Inhalten hin zum intensiven und kritischen Prüfen.

SPEAKER_00Exakt.

SPEAKER_01Ein Mitarbeiter, den das tiefe Fachwissen fehlt, wird durch KI also nicht plötzlich kompetenter in seinem Job. Er bekommt lediglich ein sehr mächtiges Werkzeug in die Hand.

SPEAKER_00Richtig. Ein Werkzeug, um seinem eigenen Unwissen oder halt eher Fehlkalkulation der Maschine einen hochprofessionellen Anstrich zu gurben. Wer heute Fehler in einem perfekten Text finden will, braucht mehr Domänwissen denn je.

SPEAKER_01Und das bringt uns direkt zu einer viel weitreichenderen Frage aus dem NIS-Bericht, oder?

SPEAKER_00Ganz genau. Was passiert nämlich, wenn wir diese eloquenten Systeme auf der reinen Textproduktion herausholen und sie für Entscheidungen nutzen, die reale Menschen betreffen? NIST sieht das ausdrücklich nicht nur als technisches Problem.

SPEAKER_01Sondern als handfestes Risiko für Individuen, für Organisationen und echt die gesamte Gesellschaft.

SPEAKER_00Absolut.

SPEAKER_01Ich meine, eine KI ist fantastisch darin, riesige Datensätze zu sortieren, Muster zu erkennen und Prozesse effizient zu machen. Aber sie ist völlig blind für ethische Kontexte.

SPEAKER_00Das ist der springende Punkt.

SPEAKER_01Wenn ein Algorithmus anfängt, über die Vergabe von Krediten, über medizinische Behandlungspläne oder Personalentscheidungen zu urteilen, da treffen wir auf Parameter, die sich nicht einfach auf Effizienz maximieren lassen.

SPEAKER_00Richtig. Eine Maschine kann zwar komplexe Wahrscheinlichkeiten berechnen und Empfehlungen aussprechen, aber sie kann niemals die Verantwortung für diese Entscheidungen tragen.

SPEAKER_01Ihr fehlt das Konzept dafür.

SPEAKER_00Ja, sie weiß nicht, wann reine Effizienz in den Hintergrund treten muss, um Fairness zu gewährleisten. Sie begreift einfach nicht, was es bedeutet, die Würde eines Menschen zu respektieren oder ihn vor Schaden zu bewahren.

SPEAKER_01Mathematik hat da eine klare Lösung, aber menschliche Würde passt nun mal in keine Excel-Tabelle. Sie lässt sich nicht als Druckenwahrscheinlichkeit berechnen.

SPEAKER_00Genau deshalb ist die wichtigste Fähigkeit der Zukunft auch nicht, dieses vielbeschwonene Prompt Engineering.

SPEAKER_01Also zu lernen, wie man der KI die perfekten Fragen stellt.

SPEAKER_00Nee, überhaupt nicht. Die wichtigste Fähigkeit ist die menschliche Urteilskraft. Wir müssen wissen, wann ihre Antwort schlichtweg keine sein darf.

SPEAKER_01Wann eine Entscheidung so tiefgreifend ist, dass sie unter gar keinen Umständen von einer Wahrscheinlichkeitsmaschine getroffen werden sollte.

SPEAKER_00Absolut richtig.

SPEAKER_01Wenn wir uns nun im Alltag immer mehr an diese perfekt polierten, grammatikalisch-makellosen und unerschütterlich selbstbewussten Texte der KI gewöhnen, dann wirft das für dich als Zuhörer am Ende echt eine fast schon beunruhigende Frage auf.

SPEAKER_00Oh ja.

SPEAKER_01Werden wir irgendwann anfangen, echter menschlicher Kommunikation zu misstrauen? Nur weil sie natürlich im Eifer des Gefechts unperfekt und ein bisschen unordentlich ist?

Open the transcript file

Hosts and Guests

Nobody is credited on this episode yet.

Credit the people on this episode

Be the first to rate this episode

More episodes

All episodes
  1. Musikindustrie verleiht Preise an KI

    Nov 19, 20266 minAudio

    Die Musikindustrie hat kürzlich eine neue Ära eingeläutet, indem sie bei den ersten AI Music Awards in Los Angeles Preise für vollständig oder teilweise computergenerierte Werke verglichen und verliehen hat. Als größte...

    Credit the people on this episode

  2. Empörung verkauft sich besser als Vernunft

    Nov 18, 20266 minAudio

    Die vorliegenden Quellen beleuchten, wie moderne Internetplattformen durch Algorithmen auf maximale Interaktion optimiert sind und dabei gezielt menschliche Empörung ausnutzen. Da Wut und moralische Aufregung messbares...

    Credit the people on this episode

  3. Microsoft und das lachende Internet

    Nov 16, 20267 minAudio

    Eine globale Microsoft-Panne im November 2026 legte zahlreiche Unternehmen sowie Behörden lahm und zwang viele Beschäftigte zu einer unfreiwilligen Arbeitspause. Während kritische Institutionen unter den Ausfällen...

    Credit the people on this episode

  4. Der Kalte Krieg bekommt neue Mitarbeiter

    Nov 15, 20266 minAudio

    Die NATO erprobt im Rahmen der Initiative Task Force X-Arctic unbemannte Roboter für den Einsatz in der extremen Kälte der Arktis. Diese autonomen Boden- und Wasserfahrzeuge sollen zur Überwachung abgelegener Regionen...

    Credit the people on this episode

  5. Manchmal wird das Internet persönlich

    Nov 14, 20265 minAudio

    Die Digitalisierung hat den öffentlichen Diskurs zwar demokratisiert, gleichzeitig aber auch zu einer besorgniserregenden Zunahme persönlicher Anfeindungen im Netz geführt. Vor allem Journalistinnen sind im Alltag...

    Credit the people on this episode