Der Erfahrungsbericht beleuchtet die Frustrationen bei der Nutzung von künstlicher Intelligenz, die oft mehr Aufwand verursacht als sie einspart. Anhand eines konkreten Beispiels wird geschildert, wie die Software bei simplen Aufgaben wie der Erstellung eines formatierten Google-Docs-Dokuments komplett versagt und stattdessen unbrauchbare Dateiformate liefert. Besonders tückisch ist dabei das selbstbewusste Auftreten des Programms, das nicht vorhandene Funktionen und Formatierungsoptionen vollmundig verspricht. Anstatt dem Anwender Arbeit abzunehmen, erfindet die KI technische Möglichkeiten und verliert zudem völlig den inhaltlichen Kontext, was zu völlig absurden Textresultaten führt. Letztendlich führt dies zu einer veränderten Rollenverteilung, bei der der Mensch nicht mehr nur das Endergebnis prüft, sondern permanent die tatsächlichen Kompetenzen des Systems überwachen muss. Die versprochene Arbeitserleichterung verkehrt sich somit in ihr Gegenteil und entpuppt sich als einseitige Belastung. Grundlage jeder Folge ist ein Artikel von georgschneider.de, der mit Unterstützung von KI und Google NotebookLM für das Podcast-Format aufbereitet wird. Die verwendeten Stimmen sind synthetisch. Über Georg Schneider und das Logbuch einer defekten Zukunft Hi, ich bin der aus der URL. Ich schreibe über das, was bei genauerem Hinschauen von der Zukunft übrig bleibt. Das ist meistens etwas weniger glänzend als angekündigt. Es geht um KI, das Leben im Netz, Berufe im Wandel und die Frage, welche der großen Versprechen den Kontakt mit der Wirklichkeit überstehen. Um Utopien, technische Fortschritte, digitale Absurditäten und gelegentlich um Dinge, bei denen man sich fragt, ob wirklich jemand vorher darüber nachgedacht hat. Und wenn die Welt dafür zu klein wird, geht es eben um den Kosmos. Die Zukunft kommt sowieso. Überraschend ist nur, wie oft sie schon da war und niemand sie bemerkt hat. https://georgschneider.de
Audio and video play straight from the show's own hosting. PodSubs stores and serves no media.
Transcript
From the show. Tap a time to play from there.
SPEAKER_01Stell dir vor, du kaufst dir so einen sündhaft teuren, hochmodernen Saugroboter. Du drückst auf Start, legst die Füße hoch und denkst, cool, die Arbeit ist erledigt.
SPEAKER_00Ja, das klassische Versprechen.
SPEAKER_01Genau. Aber stattdessen fegt das Ding den Dreck gezielt in die Ecken, frisst irgendwie deine Vorhänge und am Ende stehst du da mit dem Handbesen und machst halt doch alles selbst.
SPEAKER_00Und das ist ja nicht nur nervig, das ändert ja die komplette Dynamik von deinem Alltag. Also du bist plötzlich kein Nutzer mehr, der entspannt Arbeit abgibt.
SPEAKER_01Sondern?
SPEAKER_00Naja, du managst plötzlich so einen hoch engagierten, aber völlig realitätsfremden Praktikanten. Dem musst du echt jeden Handgriff kontrollieren.
SPEAKER_01Richtig, und genau das ist das Thema unserer heutigen Analyse. Wir haben hier nämlich die Aufzeichnungen von einem Nutzer vorliegen, ein Erfahrungsbericht mit dem Titel Wenn die KI mehr Arbeit macht als der Nutzer.
SPEAKER_00Ein sehr treffender Titel, wie wir gleich sehen werden.
SPEAKER_01Absolut. Unsere Mission für diesen Deep Dive ist also diesen echt spektakulär gescheiterten Versuch mit einem Gemini-Notebook mal zu sezieren. Wir wollen gucken, was da unter der Haube eigentlich passiert, wenn KI an den einfachsten Aufgaben scheitert.
SPEAKER_00Lass uns da direkt mal in das Experiment einsteigen. Die Aufgabe war ja echt bemerkenswert banal, was das Ganze umso aufschlussreicher macht.
SPEAKER_01Ja, total. Also der Nutzer wollte von der KI eigentlich nur einen Universalprompt für ein Übersichtsdokument. Formatiert für Google Docs und am besten in der Schriftart Georgia.
SPEAKER_01Würde man denken. Aber das Modell startet daraufhin eine völlig absurde Odyssee der Dateiformate. Zuerst liefert es einfach ein PDF.
SPEAKER_00Was zum Bearbeiten natürlich super unpraktisch ist.
SPEAKER_01Genau. Und als der Nutzer dann nachsteuert, kommt eine simple TXT-Datei. Also wirklich mit dem Charme einer alten Diskette. Völlig unbrauchbar für eine ordentliche Textverarbeitung.
SPEAKER_00Das zeigt halt sofort ein grundlegendes Missverständnis darüber, was diese Modelle eigentlich sind. Wir denken oft, die KI ist so eine Alleskönner-Software.
SPEAKER_01Ist sie aber nicht.
SPEAKER_00Nee. Sprachmodellen fehlen schlichtweg die nennen wir es mal digitalen Hände. Also die direkten Schnittstellen, um einfach so ein formatiertes Google-Doc im System des Nutzers anzulegen.
SPEAKER_01Das ist ja, als würdest du im Restaurant eine Pizza bestellen und der Kellner bringt dir Mehl, Wasser und Tomaten an den Tisch und sagt, misch das mal schön selbst zusammen.
SPEAKER_00Exakt. Und genauso endete das Ganze ja auch. Die KI hat dann letztlich eine Word-Datei ausgespuckt und den Nutzer gebeten, diese doch bitte selbst runterzuladen und händisch, also wirklich manuell, in sein Google Drive zu importieren.
SPEAKER_01Wahnsinn. Okay. Wenn der KI aber diese digitalen Hände fehlen, dann verstehe ich den nächsten Schritt in dem Bericht überhaupt nicht.
SPEAKER_00Du meinst die Sache mit den Schriften.
SPEAKER_01Ja, genau. Die KI hat dem Nutzer dann nämlich felsenfest versichert, sie könne direkt im Webinterface die Schriftart Georgia und Größen wie 16 oder 24 Punkte einstellen. Aber das Webinterface lässt das technisch gar nicht zu.
SPEAKER_00Richtig.
SPEAKER_01Warum lügt das System denn dermaßen selbstbewusst über Funktionen, die es nachweislich gar nicht hat? Ist das nicht viel gefährlicher als ein simpler Systemabsturz?
SPEAKER_00Das ist ein riesiges Problem, ja. Aber es lügt halt nicht im menschlichen Sinne. Also es gleicht keine Fakten ab. Large Language Models sind letztlich extrem komplexe Text-Vorhersagemaschinen.
SPEAKER_01Okay, also es rät einfach das nächste Wort.
SPEAKER_00Genau. Die wurden mit Milliarden von Dokumenten trainiert. Und in diesen Daten taucht sowas wie Schriftart Georgia unfassbar oft direkt neben Bestätigungen auf, wie Größe 16 eingestellt.
SPEAKER_01Ah, okay.
SPEAKER_00Das Modell berechnet also nur das statistisch wahrscheinlichste nächste Wort. Es baut einen sprachlich perfekten Satz, der exakt wie eine Vollzugsmeldung klingt. Es ist aber völlig blind dafür, dass ihm das eigentliche Werkzeug im echten Interface fehlt.
SPEAKER_01Krass. Wir verwechseln also sprachliche Eloquenz mit echter funktionaler Kompetenz.
SPEAKER_00Genau, das ist die Gefahr von diesen sogenannten Feature-Halluzinationen.
SPEAKER_01Nur weil das Ding so klingt, als wüsste es genau, welchen Knopf es drücken muss, heißt das halt noch lange nicht, dass es diesen Knopf überhaupt sehen kann.
SPEAKER_00Und genau hier liegt das unerkannte Risiko. Du musst als Nutzer plötzlich auf einer ganz neuen Meta-Ebene kontrollieren. Du prüfst nicht mehr nur den Text auf inhaltliche Fehler, sondern du musst technisch evaluieren, ob die KI überhaupt in der Lage ist zu tun, was sie da gerade vollmundig verspricht. Du wirst zum KI-Babysitter.
SPEAKER_01Und was passiert, wenn man das System dann genau mit diesen Fehlern konfrontiert? Der Nutzer hat die KI dann gebeten, ihre eigenen Fehler in so einem journalistischen Text zusammenzufassen. Und da bin ich beim Lesen echt ausgestiegen.
SPEAKER_00Ja, das war der Punkt, wo es komplett entgleist ist.
SPEAKER_01Plötzlich fängt die KI an, über militärische Drohnen und autonome Waffensysteme zu schreiben. Also wie kommt man denn von einer fehlenden Schriftart auf Waffensysteme? Da muss doch eine Sicherung durchgebrannt sein.
SPEAKER_00Das ist der totale Kontextverlust. Stell dir den Kontextspeicher der KI einfach wie das Kurzzeitgedächtnis von einem Goldfisch vor.
SPEAKER_01Okay.
SPEAKER_00Jede KI hat nur so ein bestimmtes Fenster an Informationen, das sie gleichzeitig im Blick behalten kann. Und der Nutzer hat das Modell hier durch ständige Fehlermeldungen, Dateiformate und Korrekturschleifen gejagt.
SPEAKER_01Ah, und das war dann zu viel.
SPEAKER_00Genau. Diese ständigen neuen Instruktionen verdrängen den ursprünglichen Auftrag irgendwann komplett aus dem Arbeitsgedächtnis. Das Modell vergisst einfach, warum es eigentlich ging und greift dann wild auf alte Prompts oder dominante Trainingsdaten zurück.
SPEAKER_01Es fängt also komplett neu an zu halluzinieren, weil der Profer voll ist.
SPEAKER_00Absolut. Der Kontext ist weg. Wahnsinn.
SPEAKER_01Die große Verheißung der Arbeitserleichterung bestand hier also am Ende darin, falsche Dateien zu testen, erfundene Funktionen zu entlarven und das System mühsam an das eigentliche Thema zu erinnern.
SPEAKER_00Eine sehr einseitige und unfreiwillig komische Zusammenarbeit, ja.
SPEAKER_01Das bringt mich zu dem Gedanken, den du, ja, genau du, der uns gerade zuhört, heute mal mit in den Tag nehmen solltest.
SPEAKER_00Da bin ich gespannt.
SPEAKER_01Wenn wir in Zukunft echt immer mehr Zeit damit verbringen müssen, die Versprechungen und diese Arbeitswege der KI zu überwachen, anstatt die Arbeit einfach kurz selbst zu machen, ab welchem kritischen Punkt wird dieses mächtige Werkzeug in deinem eigenen Alltag dann eher zu einer echten Zeitfalle als zu einem Helfer? Ein Gedanke, den man definitiv mal sachen lassen sollte.
Die Musikindustrie hat kürzlich eine neue Ära eingeläutet, indem sie bei den ersten AI Music Awards in Los Angeles Preise für vollständig oder teilweise computergenerierte Werke verglichen und verliehen hat. Als größte...
Die vorliegenden Quellen beleuchten, wie moderne Internetplattformen durch Algorithmen auf maximale Interaktion optimiert sind und dabei gezielt menschliche Empörung ausnutzen. Da Wut und moralische Aufregung messbares...
Eine globale Microsoft-Panne im November 2026 legte zahlreiche Unternehmen sowie Behörden lahm und zwang viele Beschäftigte zu einer unfreiwilligen Arbeitspause. Während kritische Institutionen unter den Ausfällen...
Die NATO erprobt im Rahmen der Initiative Task Force X-Arctic unbemannte Roboter für den Einsatz in der extremen Kälte der Arktis. Diese autonomen Boden- und Wasserfahrzeuge sollen zur Überwachung abgelegener Regionen...
Die Digitalisierung hat den öffentlichen Diskurs zwar demokratisiert, gleichzeitig aber auch zu einer besorgniserregenden Zunahme persönlicher Anfeindungen im Netz geführt. Vor allem Journalistinnen sind im Alltag...