Skip to content
PodSubs
ShowsPeopleGuestsJobsNewsEvents
More
BlogPodCred
Menu
ShowsPeopleGuestsJobsNewsEventsBlogPodCredNetworksSign in
Join nowSign in
  • Shows
  • People
  • Jobs
  • News
  • More
    • Guests
    • Events
    • Blog
    • PodCred
    • Networks
    Join nowSign in

NEU DENKEN

NEU DENKEN artwork

Künstliche Intelligenz NEU DENKEN mit Aljoscha Burchardt

Nov 17, 20261 hr 21 minAudio

Künstliche Intelligenz verändert, wie wir arbeiten, lernen und Entscheidungen treffen. Doch wie intelligent ist KI eigentlich? Was kann sie wirklich, wo liegen ihre Grenzen und welche Vorstellungen von menschlicher Intelligenz stecken hinter dieser Technologie? Vor allem aber: Wie können wir ihre Entwicklung so gestalten, dass sie uns als Gesellschaft zugutekommt?

Audio and video play straight from the show's own hosting. PodSubs stores and serves no media.

Transcript

From the show. Tap a time to play from there.

Speaker 1: Künstliche Intelligenz verändert gerade alles. Speaker 1: Wie wir arbeiten, wie wir lernen und wie wir Informationen finden, wie die Dinge produzieren und zunehmend eben auch wie wir die Welt wahrnehmen und uns in ihr fühlen. Speaker 1: Und dabei sprechen wir über KI immer häufiger so als wer sie irgendeine Natur gewalt, die bei uns herein bricht und über die wir keinerlei Kontrolle haben. Speaker 1: Aber Technologie entwickelt sich nicht einfach von selbst. Speaker 1: Auch bei den ausgebrochenen Agenten waren Programmierungen dahinter und damit die Frage welcher Zielsetzung, die gefolgt sind.

Speaker 1: Es sind immer noch Menschen, die entscheiden welche Systeme wir bauen mit welchem Daten sie trainiert werden und für welche Aufgaben wir sie einsetzen. Speaker 1: Und deshalb ist es auch so wichtig die digitale Revolution nicht als eine Ansammlung von Einzelanwendung zu sehen sondern genauer nachzuschauen welche ökonomischen sozialen und politischen Bedingungen die Entwicklung vorantreiben. Speaker 1: Denn im Prinzip können wir diese Revolution auch nutzen, um lange beschriebene Potenziale einer nachhaltigen Entwicklung zu heben – und damit auch viele der aktuellen Krisen überwinden zu können!

Speaker 1: Warum also fabulieren die einflussreichsten Akteure der KI-Entwicklung lieber vom Mars und erklären Demokratie zum Problem? Speaker 1: Darüber sprechen wir mit Aljosha Burchardt. Speaker 1: Er forscht am Deutschen Forschungszentrum für künstliche Intelligenz und ist einer der wichtigsten Experten für neue Sprach- und Wissenstechnologien. Speaker 1: Seit vielen Jahren beschäftigt er sich damit, was KI technisch kann – wie wir sie sinnvoll und verantwortungsvoll in den Dienst gesellschaftlicher Ziele stellen können! Speaker 1: Mein Name ist Maja Güppel, ihr hört neu denken dem Podcast von Mission Wertvoll heute zum Thema Künstliche Intelligence.

Speaker 1: Lieber Joscha herzlich willkommen. Speaker 0: Hallo, Maja. Speaker 1: Als erstes die Gritchenfrage was ist künstliche Intelligenz? Speaker 0: Die Wissenschaftler antworten darauf an. Speaker 0: Es ist ein großer Sammelbegriff für viele verschiedene Dinge ... Auf jeden Fall kann man sagen, dass der Begriff neunzehntsechsundfünfzig in die Welt kam bei diesem bekannten Datemouth Workshop wo eben das erste Mal dieser Begriff Artificial Intelligence oder künstliche Intelligenz von ein paar Leuten benutzt wurde. Speaker 0: Pioniere der Informatik, die gesagt haben mit Computern muss man doch mehr machen können als ballistische Kurven berechnen.

Speaker 1: Ballistische Kurven Speaker 0: berechnen das. Speaker 0: Das war damals die State of the Art, Computer waren diese riesigen Hallen voll Röhren und so weiter. Speaker 0: Man hat Mathematik betrieben. Speaker 0: Computer heißt erst mal rechnen, Speaker 0: d.h., Speaker 0: die ersten Computer haben gerechnet da eben was man halt damals berechnend wollte z.B. Speaker 0: ballistische kurven. Speaker 0: Und dann haben sie gesagt, man muss doch mehr mit diesen Computern machen können. Speaker 0: kann man damit nicht auch Texte übersetzen oder ähnliche Dinge für die man bei Menschen Intelligenz unterstellt? Speaker 0: gut für Berechnern auch. Speaker 0: Und so kam eben die Idee, da können wir doch mal gucken was man da alles ausreizen kann bei den Computern. Speaker 0: Was man noch mehr machen kann.

Speaker 1: Ja das Spannende ist ja an der ganzen Begrifflichkeit dass wir noch nicht so eine ganz eindeutige Antwort vorhaben was es eigentlich menschliche Intelligenz? Speaker 0: Das ist das Interessante. Speaker 0: Wir reden über was, was wir bei uns vermuten, aber nicht so richtig festnageln können. Speaker 0: Bei Tieren ist ja auch nicht klar, wann kommt die ins Spiel? Speaker 0: In der Evolutionsgeschichte kamen sie rein. Speaker 0: Können wir auch nicht genau sagen, wann es losging und wofür man sie braucht. Speaker 0: Trotzdem haben wir natürlich das Gefühl, dass wir mehr oder weniger verfügen. Speaker 0: Jetzt ist die künstliche Intelligenz ein Sammelbegriff, dass sich die Methoden mit der Zeit geändert haben bzw zwei grundsätzlich unterschiedliche Herangehensweisen hat.

Speaker 0: Das eine, das ist die symbolische Wissensbasierte, ich sag mal geskriptete und gemanagte Herangehensweise. Speaker 0: Und das andere, dass es das maschinelle Lernen aus großen Datenmustererkennung heute eben, neuronale Netze. Speaker 0: Das sind einfach zwei grundsätzlich andere Herangehhensweisen. Speaker 0: in der symbolischen Versuchst du als Mensch das Problemen, die Aufgabe den Lösungsweg ziemlich genau zu verstehen und zu modellieren? Speaker 0: Die Maschine kann dann da aufsetzen Bekannte Situation oder auf eine neue Situation dann anwenden und du als Mensch kannst relativ gut nachvollziehen, was sie da gerade macht.

Speaker 0: Und beim Lernen aus Daten ist es eben anders. Speaker 0: Wenn wir vielleicht wirklich mal mit KI Ostin sechziger-sebzigerjahren mal anfangen wollen... Vielleicht ist das ganz spannend sich immer so etwas wie Suche anzuschauen. Speaker 0: Suche klingt jetzt erstmal nach was Standardinformatik. Speaker 0: Schauen wir uns mal heuristische Suche an, geh mit mir auf die Reise in die Sechziger Jahre, du bist ein Computer, hast ganz wenig Hauptspeicher und hat ganz wenig Rechenkapazität und hast zum Beispiel alle Bahnenlinien Deutschlands gespeichert und sollts jetzt die kürzeste Strecke von Berlin nach Heidelberg raussuchen.

Speaker 0: Was machst du also? Speaker 0: Du startest irgendwo in Berlin mit deinem virtuellen Suchalgorithmus. Speaker 0: Da gibt es fünf Richtungen, die du von Berlin nach Hauptbahnhof fahren kannst. Speaker 0: Dann kommt eine Weiche, dann kommt ein Bahnhof und dann gehst du einen Schritt. Speaker 0: Und dann gehste von dort noch mal zwei Schritte. Speaker 0: Das ist wie so'n Spinnennetz was sich von Berlin aus fortsetzt. Speaker 0: Und da kannst du ja sagen das mache ich jetzt so lange bis irgendwo auf der Strecke Heidelberg auftaucht. Speaker 0: Du füllst ziemlich viel Speicher weil du ziemlich viele Richtungen gehst, die nicht so sinnvoll sind. Speaker 0: Gehst vielleicht auch manchmal im Kreis also füllts ziemlich viel speicher mit irgendwas. Speaker 0: und dann haben sich Leute gedacht dass muss doch intelligenter gehen.

Speaker 0: Und dann hat man zum Beispiel die sogenannte heuristische Suche erfunden damals und hat gesagt, wenn wir noch ein zweites Kriterium hätten was uns die einzelnen Wegstrecken bewerten würde ob die in die richtige Richtung gehen oder möglicherweise auch völlig in die andere Richtung gehen. Speaker 0: Dann können wir doch besser suchen ja? Speaker 0: Und dann ist man zB jetzt indem dahergegangen hat gesagt Wenn wir jetzt aus den Koordinaten von dem Bahnhof der Weiche und Heidelberg die Luftlinie berechnen zwischen dem wo wir gerade sind und Heidlberg, dann können wir bei jedem Schritt gucken bringt er uns näher luftlinienmäßig nach Heidelberg oder nicht.

Speaker 0: Jetzt ist natürlich nicht immer in jedem Schritt unbedingt eine Annäherung erforderlich, du kannst auch mal um den Berg rumfahren oder irgendwo durch einen Tal Speaker 0: fahren.". Speaker 1: Ist das das, was Google Maps bis heute macht? Speaker 1: Weil ich finde wenn man erst mal die Distanz eingibt dann sieht es nach verdammt wenig Kilometern aus und wenn du dann dir die Strecke anzeigen lässt wachsen die Kilometer dazu. Speaker 1: Das ist das erste die Luftlinie und das andere... Das Speaker 0: mag sein! Speaker 0: Es ist einfach ein großes Problem nach wie vor eben kürzeste Wege ausrechnen. Speaker 0: Heute macht man's natürlich noch anders. Speaker 0: Heute kommen noch Staubprognosen mit rein eben auch gelerntes Daten sozusagen wie lange wie schnell fahren die Leute auf welcher Streckel typischerweise und sowas.

Speaker 0: dass kommt natürlich heute mit rein und deshalb würde des Sinn ergeben zu sagen wir nehmen erstmal eine Und dann berechnen wir das wirkliche Ding. Speaker 0: Das heißt, ich umfahre Staus und andere Dinge. Speaker 0: Dann kann es im Detail nochmal anders aussehen. Speaker 0: Jetzt mit der heuristischen Suche sagst du, ich mache ein zweites Kriterium rein. Speaker 0: Das bewertet mir die Züge. Speaker 0: Wenn ich drei oder vier Mal nicht Richtung Heidelberg gekommen bin, lasse ich diesen Fahrt sein. Speaker 0: Oder wenn ich zwei mal denselben Bahnhof sehe, bin ich im Kreis gefahren usw. Speaker 0: Heute ist das Informatik-Standardwerk. Speaker 0: Da würde kein Mensch mehr sagen, warum ist das KI?

Speaker 0: Aber damals war es KI nur um zu zeigen wie sich die Zeiten geändert haben und so eine Form von Suche jetzt fast vorbevielfassend in den Alphago am Werk gewesen also an dem KI System was den Go Meister damals geschlagen hat was eben in China diesen riesen KI Hype. Speaker 0: Das war eigentlich auch eine Suche, die in jedem Schritt dieses Go-Spielbrett bewertet hat und gesagt hat. Speaker 0: In welche Richtungen suchen wir weiter? Speaker 1: Die Interessante war es ja... Also ich habe so eine allgemeine Definition von Künstlingen ganz gesucht.

Speaker 1: Die haben mir damals auch in dem Bericht vom WBGU als ich noch wissenschaftliche Beirat globale Umweltveränderung war und wir dies digital gut angemacht haben. Speaker 1: Es ist im Grunde genommen eine Fragestellung auf der du dann technologisch unterstützt, eine Teil automatisiert oder vollautomatisierte Antwort suche aufsetzt. Speaker 1: Wer das so was, wo man an die Base rankommt? Speaker 1: Also dieses Verhandeln darüber wer stellt eigentlich noch die Frage ist ja heute wieder voll im Zeitpunkt Speaker 0: ... Wieder zur Verfügung. Speaker 0: Ja aber damals na klar. Speaker 0: also die Idee ist natürlich ne Aufgabenstellung kommt vom Mensch oder ne Frage kommt vom Menschen und das System muss eben den Lösungsweg selber bauen dass es geht eben Prima und Probleme, wo der Lösungsweg vorher unbekannt ist.

Speaker 0: Aber hier beim kürzesten Weg von Berlin nach Heidelberg ist die Art und Weise wie man den Lösungs-Weg findet, bekannt aber was der genaue Weg ist, ist unbekannt. Speaker 0: Aber dann gibt es ja noch andere Aufgaben, wo die Lösung noch unbekannter ist zum Beispiel Websuche. Speaker 0: Ist auch ein KE System das wir alle kennen, was es seit den tausenden Jahren so gibt. Speaker 0: Die ersten Suchmaschinen kamen auf. Speaker 0: Das ist das maschinelle Lernen dann. Speaker 0: Da geht man wieder anders vor, wenn du jetzt eine Web-Suche machst und du suchst nach Gen Zee Proteste in Berlin oder so... Dann ist ja die Frage welche Webseite ist für dich relevant?

Speaker 0: Und da hat natürlich niemand vorher einprogrammiert! Speaker 0: Wenn Marja diesen Suchbegriff eingibt, muss ich die jene zehn Webseiten ihr zeigen. Speaker 1: Ist das nicht genau, wo der Algorithm für dich langsam hinläuft? Speaker 1: Da Speaker 0: kommen wir vielleicht zur Manikulation gleich. Speaker 0: Bleiben wir erst mal in der guten Alten-Internetwelt, wo die Aufgabe ist, die Webseite zu finden und wo die Information für dich geeignet dargestellt wird. Speaker 0: Das macht man durch maschinelles Lernen, dass man natürlich die Seiten scannend und die Begriffe da irgendwie abgleicht. Speaker 0: Aber dann macht man eben auch ein großes Menschheitsexperiment.

Speaker 0: Man macht einfach Versuche! Speaker 0: Ja, ich gebe den einen Nutzern diese Seite. Speaker 0: Ich geb den anderen Nutze jene Seite und wenn die denselben Begriff gleich wieder eingeben war das wahrscheinlich nicht gut denn suchen sie erneut und wenn sie wegbleiben dann haben Sie wahrscheinlich ein zufriedenes Ergebnis gehabt. Speaker 0: Das heißt man kann einfach sozusagen aus diesen Nutzungsdaten dann dieses Thema immer und immer besser machen. Speaker 0: Und da sind wir gleich in der Plattform. Speaker 0: logik indem du darauf hinaus wolltest natürlich in dem The Winner takes it all. Speaker 0: Die Suchmaschine ist natürlich am besten mit der alle Leute dann suchen Speaker 1: Und die für dich dann auch kuratiert, was relevante Quellen sind und wie sie ausgelesen werden.

Speaker 0: Es wird ja immer behauptet es wird nicht sehr stark personalisiert aber du kannst natürlich mit deiner Suchanfrage schon in Richtung gehen und man weiß natürlich welches Gerät du hast, in welcher Hemisphäre du dich aufhältst Speaker 0: usw., Speaker 0: das sind natürlich alles Informationen, die man nutzen kann. Speaker 1: Gut und jetzt neulich kam mir auch die Auswertung dazu im Grunde am Chat GPT bedient sich stark bei den Springermedien. Speaker 1: So kann man sagen, ja gut. Speaker 1: Business-Modell sind wir im Moment ganz gut drin bei Audi-Delta und auch so ein Businessmodell das der mit Trump für Allkampf macht. Speaker 1: Gut, er muss halt in den USA investieren.

Speaker 1: Business Modell die Springerpresse waren die Ersten, die gesehen haben. Speaker 1: ChatGPT wird einen Großteil unserer Informationsbereitstellung machen. Speaker 1: also machen wir mal unsere Archive auf womit natürlich unser eigenes Geschäftsmodell unter Druck gerät. Speaker 1: wenn ich nicht zufällig Milliarden im Hintergrund habe aber ich sitze dann natürlich auch an dem Hebel zu sagen Die Interpretation der Welt, die dann die künstliche Intelligenz an die Leute ranträgt. Speaker 1: Genau Speaker 0: das ist deine Welt sich dein Schnack, der in die Welt getragen wird und zwar eben skaliert in hunderte von Millionen Leuten täglich.

Speaker 0: Bisher haben eigentlich alle wissenschaftlichen, systematischen Untersuchungen ergeben. Speaker 0: Dass die Systeme noch einigermaßen ausgewogen, ich sag mal nordamerikanisch-linksliberal Ticken sowie das Internet und Wikipedia usw. Speaker 0: auch gestartet sind, dass die noch diese Systeme eher in diese Richtung gehen oder angepasst werden erst von GROC oder anderen abgesehen wo man weiß es ist eben willentlich anders gemacht wird. Speaker 0: aber wie lange? Speaker 0: Das weißt du natürlich nicht. Speaker 0: wenn diese Firmen ja auch stark mit Trump zusammenhängen oder wie auf der andern Seite chinesische Modelle haben, die stark mit der Regierung zusammenhängen.

Speaker 0: Da haben wir natürlich keine Ewigkeitsgarantie darauf, dass das was jetzt vielleicht durch zuvor in der Zeit lang noch gut geht immer gut geht. Speaker 1: Wieso hast du dem Griff linksliberal genannt? Speaker 1: In den Zusammenhang? Speaker 0: Das ist das, was man so... Die Leute haben immer irgendwelche Labels gegeben sozusagen und haben gesagt, das ist das wie diese Ticken. Speaker 0: Ich sag mal die nordamerikanische Wikipedia-Weltsicht. Speaker 0: Das ist einfach das Label was man da häufig einmal gehört hat. Speaker 1: Aber ist das nicht genau das Problem? Speaker 1: Also ich habe nämlich wirklich oft darüber nachgedacht, es gibt ja hier jetzt auch die Anwürfe und dass sowohl in der Wissenschaft als auch im öffentlich-rechtlichen Rundfunk die Menschen angeblich eher grün oder links wählen würden.

Speaker 1: Und das ist deshalb keine ausgewogene Sicht auf die Welt sei! Speaker 1: Ich hab' die ganz steile These mal in den Raum gestellt – sind das Speaker 1: Nichtpersonengruppen?! Speaker 1: die quasi Job aufgefordert sind, möglichst genau in der Welt hinzugucken. Speaker 1: Was passiert und ob das was wir tun auch unseren gesellschaftlichen Zielen nahekommt? Speaker 1: Also ich kann es sagen zumindest von einer ökologischen Perspektive, tun wir das ja nicht beschreiben drauf Wir machen Politik mit den Klimazielen im Einklang steht stimmt aber gar nicht Und ich hatte das dann schon stark also in besagten Beirat dass wir haben gut achten geschrieben darüber wie sich die globalen Umwelt Koordinaten verändern und was das für die Gesellschaft bedeutet, wie man darauf reagieren könnte.

Speaker 1: Und dann kamen diese machen ja grünen Politik. Speaker 1: Ich sag ne also welche Partei das als ernsthafte Evidenzbasis benutzt oder nicht. Speaker 1: Das ist ja für uns nachgeschaltet. Speaker 1: und wenn der Journalismus darüber berichtet, dass die Verteilungsfrage nicht unbedingt mit Chancengerechtigkeit und Grundrechten wie Zugang zu Wohnraum usw. Speaker 1: zusammenfällt, warum ist es links? Speaker 1: Also da hab ich manchmal das Gefühl wir müssen Speaker 0: echt aufpassen, Speaker 1: warum wir das darauf schreiben, wenn doch aber die gesellschaftlichen Ziele gar nicht von den Personen vorgegeben wurden also dieser Falt.

Speaker 1: darum Was ist links, was ist rechts? Speaker 1: Da habe ich das Gefühl, wir kriegen es dann eigentlich wieder runtergebrochen. Speaker 1: Und da war auf die KI auch eine Chance. Speaker 1: Also zumindest nicht Speaker 0: studieren Speaker 1: und gehen rein. Speaker 0: Du gehst genau an einen Punkt, den ich dachte, zu dem wir später kommen. Speaker 0: Jetzt sind wir da. Speaker 0: Das ist wunderbar! Speaker 0: Lass uns den Auskosten an der Stelle... Mats Pankow hat ein schönes Buch geschrieben gerade Die Wahrscheinliche Wahrheit wo er darüber saniert, was passiert. Speaker 0: Wenn wir weg von einem kausalen Wahrheitsbegriff kommen, den wir in der alten Welt immer hatten und hin zu so einem statistischen, stochastischem, eher auf Korrelation basierten Wahrheits Begriff.

Speaker 0: Und er sagt eben die Modelle können durchaus verschiedene Position hier auch anschlussfähig zeigen. Speaker 0: Die können Leute mit verschiedenen Geschmacksrichtungen, die möglicherweise dasselbe wollen aber in ihrer Geschmacksrichtung zeigen. Speaker 0: sowie Bei den Grünen ist vielleicht der Naturschutz eingebaut als eines ihrer Hauptziele und bei christlichen Leuten ist das sozusagen aus dem Erhalt der Schöpfung eigentlich dasselbe Ziel. Speaker 0: Es heißt nur anders, man könnte eigentlich diese Anschlussfähigkeit herstellen. Speaker 0: Und er vergleicht es im rechtlichen so ein bisschen mit der Aufgabe von Richterinnen und Richtern oder Anwälten, die da gibt es ein geschriebenes Gesetz.

Speaker 0: Und die übersetzen das dann aber in reale Situationen. Speaker 0: Die Aufgabe ist ja dieser Anpassungsnett des Gesetzes allgemein formuliert und dann passt man das auf konkrete Situation an. Speaker 0: Das ist eigentlich der interessantere Teil der ganzen Geschichte dass die KI-Systeme in diesem Übersetzungsprozess durchaus helfen könnten. Speaker 0: Das was du gesagt hast sozusagen wenn wir sie bauen würden dann könnten Eigentlich vielleicht den Traum, den wir mit den sozialen Medien bis zum Erhabischen Frühling hat. Speaker 0: Wir sitzen im Global Village und stricken an die Lösungen der Probleme der Welt.

Speaker 0: Das Internet startete dezentral herrschaftsfrei. Speaker 0: Es kam aus der kalifornischen Hypikultur eigentlich. Speaker 0: Dann wurde das von den Plattformen übernommen in eine ökonomische Richtung gedrückt. Speaker 0: Heute wissen wie es funktioniert. Speaker 0: Dennoch ist das Internet immer noch einigermaßen in der Anlage frei. Speaker 0: Es gibt immer noch keine zwei Geschwindigkeiten im Internet, es kann theoretisch eben jeder mitmachen. Speaker 0: und bei KI hatten wir diese Visionen eigentlich überhaupt nicht, diese demokratische soziale Vision sondern wir haben von Anfang an den Hyperscalern aufgeguckt und gesagt boah ihr macht das so toll ja und wir bezahlen euch doppelt also einmal für die Token und dann mit unseren Daten und gucken eigentlich zu wie toll ihr das macht.

Speaker 1: Da müssen wir gleich noch mal in die Unterscheidung gehen. Speaker 1: Was du gerade beschreibst, ist ja eine Perspektive. Speaker 1: Ich würde die soziotechnische Systeme beschreiben ... Speaker 0: Absolut! Speaker 0: Das ist immer der Wissenschaftlerbegriff, den ich noch befallen lasse an der Stelle aber es trifft's halt einfach. Speaker 1: Also dass jede technologische Entwicklung eingebettet is in einen breiteren Kontext und dieser Kontext durch bestimmte Interessen, bestimmte Vaterpengigkeiten, bestimmten Formen wie auch sich Zukunft vorgestellt wird ein Ein Treiber, da sitzen unterschiedliche Treiber dahinter. Speaker 1: Jetzt auch geoeconomische Interessen sehr stark und deshalb nicht eine Technologie als würde sie vom Himmel fallen sondern eben tatsächlich eingebaut in diese unterschiedlichen Aushandlungsprozesse.

Speaker 0: Ja, nur was man vielleicht im Hinterkopf noch halten muss, dass viele Arten von Beeinflussungen auch unbewusst einfach passieren durch die Art und Weise wie die Technik funktioniert. Speaker 0: Also das soziale Medien zum Beispiel Leute gegeneinander aufhetzt – das machen die ja nicht unbedingt weil sie Leute aufhetzen wollen sondern weil der Aufreger eben Quote bringt. Speaker 0: Weil die Leute einfach wenn sie lässt dann können oh die Genderin, oh der ist noch Bratwurst Speaker 0: usw., Speaker 0: dass man auf diese Art und Weise die Leute gegenseinander ausspielen kann und sie bei der Stange hält immer wieder in die Social Media aufzumachen, weil man sich selber gut fühlt Irgendwie blöd sind.

Speaker 0: Das ist ein Prinzip, was aus der Technik rauskommt, aber nicht notwendigerweise von Menschen eigens erfunden wurde? Speaker 1: Das ist dieser Dual-Use-Charakter, dass bei jeder Technologie weiß sie kann für unterschiedliche Zwecke eingesetzt werden und dann beeinflusst das natürlich auch die Entwicklung und den Anwendungsfall. Speaker 1: Also wenn du sagst wir haben noch relativ gleiche Chancen im Internet also wer Bot-Amen bezahlen kann eigentlich inzwischen auch eine andere Chance. Speaker 1: Aber das Spannende ist ja, wenn ich das nochmal so aufgreife diese technologische Entwicklung am Anfang mit dieser Idee die Demokratisierung des Wissens und so.

Speaker 1: Das lag ja stark darin eben tatsächlich zu überlegen wie kann man damit eine ganz andere Form auch der Kommunikation global in Echtzeit gleichberechtigt usw. Speaker 1: herstellen? Speaker 1: Und die erste Welle war diese Kommerzialisierung. Speaker 1: Wenn du groß werden willst, brauchst du Investoren. Speaker 1: Das heißt, du musst dir irgendwas verkaufen und dann war ja der Heck wir machen das Geschäftsmodell in zwei Teile. Speaker 1: Wir tun so als wäre es umsonst für die Leute sie benutzen weil dann hast du die Barrieren sehr geringes kann ja jeder mal ausprobieren und rumdatteln usw. Speaker 1: Wir klauen die Daten Wir müssen uns draufschreiben, aber irgendwie sind wir so gewöhnt.

Speaker 1: Und die verkaufen wir dann? Speaker 1: Also du hast einen Kaufprozess in zwei Teile mit zwei unterschiedlichen Verhältnissen gepackt und dadurch hast du den Eintritt möglichst easy-peasy gemacht und inzwischen auch die Abhängigkeit sehr groß. Speaker 1: und auf dem anderen Anteil kannst du halt beliebig sagen ja ihr kriegt die Daten, ihr kriegst die Informationen ... Speaker 0: Du verkaufst die Werbung und dann kannst du mit Entshedification halt den Service eigentlich beliebig schlecht machen und die Leute sind halt abhängig weil es keine Alternative gibt. Speaker 1: Da laufen wir ja gerade so ein bisschen drauf zu. Speaker 1: Je breiter du das alles in dein Leben einbaust, umso schwieriger ist den Stoppknopf zu finden? Speaker 1: Dass

Speaker 0: du diese Chancenbasierte so stark sagst, dass haben wir doch am Anfang eigentlich als die Chatbots kam und wir noch so ein bissel naiver auf die Welt schaunten. Speaker 0: Wir haben auch gesagt was für eine Chance. Speaker 0: jetzt können Leute grade Briefe schreiben, die vorher sich kaum sprachlich ausdrücken konnten. Speaker 0: Jetzt kann jeder Musikkomponien jetzt können wir alle Bilder malen wie herrlich! Speaker 0: Auch Leute, die eben nicht künstlerisch begabt sind, wir haben ja auch erstmal vielleicht auch ein bisschen blauäugig uns das angeschaut und gesagt herrliche eine Demokratisierung von Wissen und Kommunikationen und Schöpfertum, die wir so vorher nicht hatten?

Speaker 1: Es geht ja weiter. Speaker 1: Also ich finde auch dieses Roboter – das ist ja das nächste Versprechen – die nehmen dann alle möglichen Arbeiten ab. Speaker 1: Das ist ja auch ein bisschen. Speaker 1: jetzt können wir alle Bedienstete haben! Speaker 1: Also dieser Gedankeut ist die technologische Revolution in dem Bereich... für alle da ist, die wird ja weiter aufrechterhalten. Speaker 1: Also Thema Geschichten erzählen oder ich benutze jetzt ... Ich kenne Leute im Ministerium also diese Gedanke. Speaker 1: mit ChatGPT sage ich lass mich mal kurz informieren was in der Rede eines Politikers gestimmt hat oder nicht oder was der angeblich gesagt hat und dann werden da aber konfrontative E-Mails rausgegangen.

Speaker 1: Ich krieg die zum Teil auch einmal durch ChatGPPT. Speaker 1: das was sie da gesagt haben ist ja überhaupt nicht zu Ende gedacht. Speaker 1: es ist ja wohl logisch jeder Idiot kann das einmal online nachchecken. Speaker 1: Was sagt das über ihr Buch? Speaker 1: Jenseits von, was war die Fragestellung. Speaker 1: Wie sind die Daten ausgelesen worden? Speaker 1: und so weiter? Speaker 1: wird diese vermeintliche, objektive Zusammenfassung der Welt wie ein Empowerment ... Ich bin genauso klug wie du, Experten. Speaker 1: tun wir dir auch nivelliert. Speaker 1: Elon Musk ist angetretener gesagt jeder kann Journalist sein. Speaker 1: auf meiner tollen News-Plattform hat ja jetzt auch X in eine News-Platform umbenannt.

Speaker 1: also das heißt es wird immer Demokratisierung versprochen Aber eigentlich qualitative Differenzierung damit niedergemacht, oder? Speaker 1: Zunehmend. Speaker 1: Ich würde sagen, das ist die dritte Etappe jetzt, weil ich glaube, dass neben der Kommentalisierung und dem Brandbeschleunigung des Konsumismus Speaker 1: usw., Speaker 1: wir wirklich aufpassen müssen, weil es eine Politisierung ist ... Auf jeden Speaker 0: Fall. Speaker 0: Und wir wissen natürlich auch, was es für Einflüsse auf Individuen jetzt hat. Speaker 0: Die eben diese Technologie nutzen, dass unsere sprachliche Ausdrucksfähigkeit normiert wird und damit dann auch unsere persönlichen Profile, unsere Diversität, unsere Bundheit normiert werden.

Speaker 0: Unser Denken natürlich auch normalisiert wird weil das eben auch ganz starke Rückablosprozesse auf uns hat. Speaker 0: und auch Stichwort Ankereffekte und Priming usw. Speaker 0: Alles, was wir natürlich vorgefertigt schon sehen... Musst du Speaker 1: kurz sagen, Anker Effekt und Primings? Speaker 0: Ankereffekte, Priming-Effekte heißt das wenn wir etwas sehen unser Gehirn sofort damit losarbeitet. Speaker 0: Also angenommen du sagst jetzt ich möchte mir für ein Kindergeburtstag jetzt drei Themenvorschläge von KI generieren lassen und selbst wenn ich die dann wegwerfe und sage Ich mache mir einen vierten Vorstand Dann haben diese drei ganz stark beeinflusst was ich jetzt noch denken konnte. Speaker 0: Das heißt die haben mich schon in eine Denkrichtung gedrückt und andere Sachen habe ich vielleicht gar nicht mehr gedacht weil sie nicht eben in diesen Raum mehr passen.

Speaker 0: da gab es Zu Anker-Effekt dieses wunderschöne Experiment von Karnemann, du kennst das schnelles Denken, langsames Denken. Speaker 0: Da hat man ein Glas Murmeln auf den Tisch gestellt, da war es in der Mitte so eine ganz normale Glockenkurve wie man sie kennt und dann hat man als Anker irgendeine absurde Zahl in den Raum gestellt, bevor man andere Leute befragt hat. Speaker 0: Da gesagt sind das mehr als zwei Murmeln oder weniger?

Speaker 0: Oder sind es mehr als eine Million Murmen? Speaker 0: und das hat die Schätzung der gesamten Kohorte nach links oder rechts verschoben. Speaker 0: Das heißt weil diese zwei im Raum stand sagst du dann nicht mehr ich glaube das sind zweihundert. Speaker 0: dann sagst Du das sind glaube ich hundert. Speaker 0: neunzig. Speaker 0: So funktioniert unser Gehirn. Speaker 0: Es reagiert eben auf diese Speaker 1: Anker ... Speaker 0: Denkt nicht an den pinken Elefanten? Speaker 0: Ja, genau! Speaker 0: Und das sind auch die Effekte, die wir bei Fake News und Desinformation natürlich in diesem Fake-Video gesehen haben. Speaker 0: Selbst wenn du weißt, dass es fake ist.

Speaker 0: Wenn du nächstes Mal Habex siehst dann das Handschellen, Handschellen, Handschellen halt in deinem Unterbewusstsein. Speaker 0: Wir werden natürlich durch alles was wir sehen schon beeinflusst und manipuliert. Speaker 0: Die Negativvision habe ich dann eigentlich in der Papstentzüglichkeit zu KI gelesen, wo ich erst gedacht habe, da geht er ja ein bisschen drüber. Speaker 0: Woher schreibt, naja, der Mensch ist nur noch einen Zahnrat sozusagen im hochkommerzialisierten Endstadion quasi des Plattformkapitalismus für was du gerade anskizziert hast.

Speaker 0: und der Mensch wischt nur noch an den Stellen nach, wo halt die Maschinen einfach nicht können oder wo es nicht mehr teuer genug, wo Menschen billiger sind? Speaker 0: Da wischt der Mensch nach und er ist nur noch ein Rädchen in so einem ganz großen Getriebe, wo ich auch gedacht hab, es ist vielleicht ein bisschen drüber. Speaker 0: Aber eigentlich ... Speaker 1: Der hat Wolli gesehen den Film? Speaker 1: Eigentlich ist Speaker 0: das ... Speaker 1: Wo die alle im Welt abgedriftet sind. Speaker 1: Als unerwünschtes Speaker 0: Szenario an die Wand zu malen, dass das nicht ist, wo wir hin wollen, ist vielleicht doch sinnvoll.

Speaker 1: Ich würde gerne mit dir noch mal so ein bisschen die generelle, dieses socio-technische und wie wir evolutionär technologische Entwicklung verstehen können. Speaker 1: Damit wir so einen Pack an haben. Speaker 1: Da möchte ich einmal dystopisch mit dir abbiegen um dann zu sagen... Und jetzt nur was selber in die Hand! Speaker 1: Was ich wahnsinnig geliebt habe in der Zusammenarbeit, dass wir Personen aus unterschiedlichen Fachrichtungen hatten. Speaker 1: Und ich ganz viel natürlich selber als Nachhaltigkeitstante gewesen mit politischer Ökonomie im Schwerpunkt jetzt bei den Ingenieuren und Experten zu dem Bereich zum Beispiel erst gelernt hab über so was wie eine Technosphäre nachzudenken.

Speaker 1: Und damit eben auch diese gesamtgesellschaftliche Perspektive einzunehmen. Speaker 1: So sagen es ist total normal ... dass Menschen sich in ihrer ganzen Geschichte bestimmte Technologien entwickelt haben, um Veränderungen wahrscheinlicher zu machen. Speaker 1: Und die sich vorgestellt haben. Speaker 1: Wir haben versucht, größere Stufen zu unterscheiden. Speaker 1: Also das Neolithische, wo du erst mal durch Rat und durch Tiere usw. Speaker 1: und Ackerbau eine andere Größenordnung von menschlicher Versammlung aber dann auch Verstätigung geschaffen hat. Speaker 1: Dass industrielle ... Boah! Speaker 1: Durch fossile, ganz andere Motorisierungen, Distanzen Geld, aber auch wurde dann ja erst erfunden.

Speaker 1: Also gerade Fiat-Geld, dass wir das so ein bisschen drucken können und dann Kredit vergeben. Speaker 1: Und das fand ich so wichtig zu verstehen, dass die technische Vermittlung zwischen Menschen und dem was sie nutzen um ihre Entwicklung im Grunde genommen in Wert zu setzen wenn man es ökonomisch ausdrückt. Speaker 1: Dass das ein Continuum ist und deshalb das Historische was du schon mal an gespielt hattest eben auch wichtig ist nicht aus den Augen zu verlieren, um auch zu sehen wo ein und das gleiche eben für unterschiedliche Dinge dann auch genutzt wird. Speaker 1: Und damit aber neue Realität schafft.

Speaker 1: Würdest du da also was würdest du sagen wenn man so ein bisschen diese Perspektive einen etwas vielleicht die wichtigsten Parameter sind die man verstehen sollte? Speaker 1: Gucken wir, wie wir heute gelandet sind? Speaker 0: In der Vergangenheit ging es ja häufig darum, Muskelkraft zu ersetzen durch Technologie. Speaker 0: Das war oft der Deal im Ackerbau oder in der Fabrik oder anderswo. Speaker 0: und jetzt sind wir natürlich in der neuen Situation, dass wir jetzt kognitive Prozesse auslagern können an die Maschine mit allen Einschränkungen, die das hat.

Speaker 0: aber, Das ist auf jeden Fall neu. Speaker 0: und jetzt ist so, ich habe kürzlich mit dem Wissenschafts-Historiker Jürgen Renn gesprochen. Speaker 0: Jetzt auch Max Blank-Institut für Geoantropologie in Jena der sagt, eigentlich wenn die Menschen eine neue Wissensrepräsentation hatten oder neue Wissenstechnologien haben dann haben sie eigentlich mit dem zusammen immer das nächste Level erreicht. Speaker 0: Also dadurch dass du ein Kerpholz hattest, konntest du die Zahlen erfinden? Speaker 0: Konntest Du Arithmetik? Speaker 0: Dann könntest du Tabellenkalkulationen? Speaker 0: Du kamst eigentlich immer mit diesen neuen Tools auf neue Ideen und konntes wieder die Welt besser verstehen oder abstrahieren deine Aufgaben besser lösen deinen Markt besser regeln.

Speaker 0: Deshalb bin ich an der Stelle so ein bisschen patsig und sage, warum soll das bei KI jetzt eigentlich aufhören? Speaker 0: Also bei den aktuellen, den großen Modellen. Speaker 0: Warum sollen wir sagen ab heute wird nur noch KI schlauer und Menschen werden nur noch blöder? Speaker 0: Das heißt die Frage wie kommen wir hier in eine Co-Evolution sowie er das nennt zwischen Mensch und KI? Speaker 0: dass wir sie so nutzen, dass wir uns eben erweitern. Speaker 0: Und da habe ich ja vorhin in dem von Mats Panko ein bisschen angedeutet, dass man sie zum Beispiel als Moderation, KI viel stärker als Modération zwischen inkompatiblen Sichtweisen oder vielleicht Menschen einsetzt und das. Speaker 0: Und unser kommunikativen Probleme stärker in den Vordergrund setzt denn wir haben ja gar nicht so viele Wissensprobleme.

Speaker 0: der Klimawandel Ich meine diese Sache auch immer von Ditford, Ausschnitt von neunzehntneunzig. Speaker 0: Der immer wieder durch die sozialen Medien gibt die Grenzen des Wachstums von neunsundseinzebzig Jahren kann es sagen. Speaker 0: Sechzig Jahre sind sie so eine wahnsinnig lange Zeit aber das ist schon eine lange Zeit. Speaker 0: Viele Dinge sind ja lang bekannt und wohlbekannt und ich glaube wir haben häufiger keine Wissensprobleme sondern Kommunikationsprobleme auch was jetzt Trassenbau- und Endlagerdiskussionen usw. Speaker 0: anbetrifft haben bei dem Problem dass wir andern da vorbeireden. Speaker 0: Dass wir einfach obwohl wir wissen Das Problem zu lösen sind wir kommunikativ nicht auf den Grünen Zweig kommen, dann wird das ausgesessen.

Speaker 0: Dann gibt es Neuwahlen. Speaker 0: Dann wird alles noch mal neu aufgerollt und so weiter und sofort. Speaker 0: Und eigentlich wissen wir was die Aufgaben sind und kommen und kommen nicht dazu irgendwie auf eine Lösung zu kommen mit der wir alle leben können. Speaker 0: Wir brauchen jemanden, der uns Hand nimmt über den Kopf streichelt und sagt, einigt euch mal vermittelt mal. Speaker 0: Das Ganze natürlich weltweit. Speaker 0: Und sozusagen haben wir jetzt mit Michi und Putin und Trump die Hoffnung, dass wir uns weltweit sozusagen auf KI ... Du zuckst einigen, so wie wir auch mit den Klimaprotokollen uns weltweit geeinigt haben und das aber alles reißen und ignorieren.

Speaker 0: Und deshalb würde ich mal sagen Kommunikation nicht aus den Augen verliehen. Speaker 0: Wir müssen jetzt kommunikativ eigentlich ins nächste Level gehen. Speaker 1: Ich finde also eine total interessante ... Beobachtung, wir haben im Jahr zum Bericht geschrieben. Speaker 1: Und dachte so wow okay da haben wir also es entwickelt sich ja wahnsinnig schnell das sind wir uns alle einig. Speaker 1: aber Wir haben dann noch geschrieben in den meisten Anwendungsbereichen der KI geht es ohnehin nicht darum menschliche Fähigkeiten möglichst genau nachzuahmen.

Speaker 1: Sondern wenn man das sogenannte mal Maraväckische Paradox war und ich hoffe ich spreche nicht mehr aus Maraväg Ernst nimmt, gibt es so eine co-evolutionale Total-Superchance. Speaker 1: Nämlich die KI-Systeme auf die Probleme anzusetzen, wo der Mensch nicht so gut ist in der Problemlösung? Speaker 1: Weil sie tendenziell anders an Problemläsungen herangeht als Menschen und umgekehrt nicht so Gut ist darin, indem wir Menschen besonders gut sind. Speaker 1: Also man hätte dieses Co-Evolutionen nehmen können und heute reden wir die ganze Zeit nur darüber ... Und an Tropic hat das ja als Mission!

Speaker 1: Wir wollen alles genauso gut oder besser machen können wie Menschen. Speaker 1: An Tropic sind wir schon da. Speaker 1: Danach kamen erst im Grunde genommen die Chatbots und so weiter in die Welt, aber warum sind wir denn den Twist gegangen zu sagen? Speaker 1: Wir versuchen jetzt Menschen zu ersetzen anstatt diese Co-Evolutionen im Fokus zu behalten. Speaker 1: Ich glaube Speaker 0: das Ding war, dass wir damals ... Da gab es ja auch die Enquetekommission des Deutschen Bundestages Speaker 1: durch den Fall von year two Speaker 0: thousand eighteen bis zwanzig. Speaker 0: Das war alles vor den großen Sprachmodellen. Speaker 0: Sprachmodelle gab's schon, kannten wir in der Sprachttechnologie auch schon lange, Und damals war ja, wenn du dich erinnerst immer noch der große ... Die große Rede von schwacher und starker KI haben wir immer gesagt.

Speaker 0: Es gibt schwache Domänen-KI, das gibt Systeme die können Texte übersetzen, es gibt Systemen die können in der Industrieproduktion irgendwie den Energieverbrauch optimieren oder smarten Grids steuern. Speaker 0: Es sind Systeme, die können beim Hautkrebs irgendwie ... In der Krebsforschung helfen zwei Hundert verschiedene Hautkrebstypen zu unterscheiden. Speaker 0: Wir haben gesagt, diese schwachen KI-Systeme hast du als Einzelne betrachtet. Speaker 0: Wo man sie braucht, trainiert man sie für diesen einen Zweck und nimmt sie. Speaker 0: Jetzt haben wir die Systeme, die alles können mit großen Sprachmodellen oder multimodale Modelle, Action-Modelle, Agenten, was auch immer du noch drauf setzt.

Speaker 0: Die vom Sudoku bis zum Jurarexamen irgendwie alles können. Speaker 0: Eine Sache ist einfach aus der Not geboren. Speaker 0: Wenn diese Dinge gebaut werden, dann werden Sie auf unseren Texten trainiert. Speaker 0: Das heißt, Sie lernen das, was wir können? Speaker 0: Was sollen sie sonst lernen? Speaker 0: Sie lernen natürlich erst mal aus unseren Texten das, was wir so an Aufgaben machen. Speaker 0: Und dann werden sie natürlich immer an Testbatterien sogenannten Benchmarks, werden die Dinger natürlich optimiert und auch gemessen. Speaker 0: Die beinhalten natürlich auch Aufgaben, die wir Menschen gestellt haben eben Jura-Exams oder Übersetzungs-, Rechenaufgaben oder was auch immer man als Menschheit in diese Benchmark gemacht hat.

Speaker 0: Da hat man ja nicht gesagt da machen wir jetzt Aufgaben rein für die überhaupt keine Lösungen kennen Weitgehend, sondern Dinge für die wir Lösungen kennen. Speaker 0: Und ich glaube so passiert das dann? Speaker 0: Dass dieses Thema halt eigentlich ... Das was wir können imitieren und in vielen Bereichen besser können weil sie skalieren. Speaker 1: Wo ist da die Heuristik? Speaker 1: Eigentlich ist es total traurig. Speaker 1: Dann tun wir so Homodeos, schreibt Harari. Speaker 1: Wir sind jetzt die neuen Gott-Gleichenwesen. Speaker 1: Aber eigentlich imitierten wir das, was schon da ist um technologisch inszenierten weniger Performanten Abklatschen, sondern nicht

Speaker 0: mal. Speaker 0: Aber das Problem ist ... Das Problem uns fehlt ja auch der Weg zurück. Speaker 0: eigentlich. Speaker 0: also wenn wir wissen jetzt, wir wissen selber nicht genau wie unser Gehirn funktioniert? Speaker 0: Jetzt bauen wieder diese künstlichen Neuronen da sind ja auch diese sozusagen die so was wie Nervenzellen, die irgendwie Verbindungen haben und so weiter diesen Neuron oder diese Künstlichen. Speaker 0: aber ob das, ob die Denkprozesse ähnlich sind für unsere Denk Prozesse, dass es erst einmal dahingestellt, das ist erstmal nur eine Analogie. Speaker 0: Und wenn diese Dinge jetzt aber anders die Aufgaben lösen, ich habe das in meiner eigenen Forschung mit Medizinerinnen und Medizinern erlebt.

Speaker 0: Dann sagen sie ja warum empfiehlt es? Speaker 0: oder warum macht das System jetzt die folgende Vorhersage? Speaker 0: Dann bohren wir das auf und sagen die und die Eigenschaften des Patienten aus der Patientenakte haben eben die Wahrscheinlichkeit hochgepusht dass diese Person eben an Folgen der Erkrankungen bekommen. Speaker 0: dann sagen die Ärzte Ja aber da muss doch noch mehr darin sein. Speaker 0: also sagen wir die erwarten dann auch noch irgendeine Magic Und damit können wir Menschen auch nicht gut jetzt umgehen. Speaker 0: Das zu wissen, da ist eine Maschine die hat das irgendwie anders als ich das gelernt habe aus Daten. Speaker 0: Irgendwie kommt sie zu ähnlichen oder besseren Ergebnissen als ich.

Speaker 0: aber das kann man einfach nicht so wirklich erklären wie Sie dahin kommen. Speaker 0: Das ist also von daher als Erkenntnis Gewinn höchst unbefriedigend und auch zum Teil dann schlecht nutzbar. Speaker 0: Es wird viel über explainable AI und aufbohrenden zugesprochen, aber wir müssen auch mal nüchtern anerkennen. Speaker 0: Da sind auch Grenzen, die lernen es halt anders. Speaker 0: Ich bin das Speaker 1: bei Quantum. Speaker 0: Genau, bei Quantum irgendwann können wir nicht mehr hinterher. Speaker 0: Und deshalb wäre eigentlich auch meine Aufgabe ... Du kennst mich vielleicht, ich bin so ein bisschen berufsooptimistischer Mensch zu sagen, dass aber als Zwischenzustand bestenfalls zu akzeptieren, zu fragen was kommt danach?

Speaker 0: Ja, ich habe jetzt hier in meiner Firma ganz viele Daten aus alten Systemen und so weiter. Speaker 0: Keiner blickt mehr durch alte Tabellen, ich schmeiß da jetzt mal ein KI-System drüber und das kapiert was los ist und steuert meine Firma, meine Abläufe und hilft mir erst einmal. Speaker 0: Dann ist doch die Frage wann komme ich wieder in einen gemanagten sauberen Prozess zurück wo ich Herrin oder Herr im Haus bin und sagen kann Ich weiß was in meinen Daten drinsteckt, ich weiß was meine Assets sind, ich weiss was ich hier habe. Speaker 0: also sozusagen einfach mindestens nicht zu sagen Das ist der Endzustand Sondern zu sagen, das ist von mir aus ein Zwischenzustand.

Speaker 0: Dass wir Systeme haben die irgendwie eine gute Performance haben aber wir sind so bisschen draußen aus der Loop. Speaker 1: Ja in the loop ist ja so ein bisschen der Anspruch. Speaker 1: dann ja human-intheloop ich weiß nicht vielleicht noch human on the loop. Speaker 1: also es gibt Speaker 0: tausend verschiedene genau man loopt sich so ein bißchen drumherum Speaker 1: und das blöde is ja also in den zwei Varianten die momentan gepusht werden. Speaker 1: Ich finde es geht sehr viel um das Ersetzen von Menschen. Speaker 1: Also die kapitalistische Logik macht ja dein Geschäftsmodell auch günstiger, wenn du einfach sagen kannst ich muss weniger für Lohnen und Natur bezahlen.

Speaker 1: Es ist die Externalisierungslogik, die sich auf Menschen wie auf Natur gleichzeitig auswirkt. Speaker 1: Das heißt alles was du in skalierbarer Form ersetzen lassen kannst ist für deinen Geschäfts-Modell, wenn Du nur ökonomisch effizient drauf guckst in Zweifel die Self-Proposition. Speaker 1: Aber Speaker 0: kurzsichtig, wir haben gerade diese Mitnahmeeffekte, dass keine Juniors mehr eingestellt werden im Beratungsagentur und weil so ein paar Folienpräsentationen kann auch KI machen oder Juniorprogrammiererinnen nicht mehr einggestellt werden, weil ein bisschen Anfängerprogrammierung kann eben KI sehr gut machen und dann wird das eben an die Seniors... hochdelegiert, die Qualität zu prüfen und hoffentlich zu verstehen was in den Folien oder in den Programmen drin ist.

Speaker 0: Und das dann eben abzunicken. Speaker 0: Aber Speaker 0: d.h., Speaker 0: ein paar Jahre hast du keine Seniors mehr, dann hast du eben niemanden mehr der es von der Pieke auf irgendwie gelernt hat. Speaker 0: D.h. Speaker 0: das sind erst mal auch zum Teil doselige kurzfristige Mitnahmeeffekte. Speaker 0: hast du nicht an morgen gedacht? Speaker 0: Das ist eben auch etwas, was man beobachtet Speaker 1: gerade. Speaker 1: Ja aber nichts zu Ende denken ist ja sowieso glaube ich der Untertitel von allem, was wir gerade so als Erfolge feiern. Speaker 1: Wir haben Speaker 0: vor Folgentitel KI nicht zu Ende gedacht! Speaker 1: Also ist ja A das und B nur auf meinem einzelnen Unternehmen gedacht. Speaker 1: Die gesellschaftlichen Schäden sind ja riesig, die dann eben auch mit einhergehen.

Speaker 1: Bis hin zu der ganzen Frage was machen wir mit all den Personen, die arbeitslos sind? Speaker 1: Da hörst du mal Elon Musk so, die kriegen alle einen Grundeinkommen. Speaker 1: Deshalb hast du Dorsch zugemacht und Millionen von Kindern die Lebenschancen genommen. Speaker 1: So wie Speaker 0: die Bergarbeiter, die alle Juhu gerufen haben in den Neunzigerjahren als ... Speaker 1: Ja, auch diese Gedanke macht uns aus. Speaker 1: Dieses Menschenbild, dieses ... Eine Stillhalte-Premier wird uns dann glücklich machen so. Speaker 1: Aber Speaker 0: über Postwachstum zu reden und zu fragen was kommt nach der Erwerbsarbeit? Speaker 0: Die Gewerkschaften haben schon lange gesagt es muss nicht sein dass Leute die Woche arbeiten wenn nur das Gehalt stimmt.

Speaker 0: Denk an die Sechziger, Siebziger Jahre. Speaker 0: da war das Menschenbild. Speaker 0: die Hälfte der Bevölkerung kann schön zu Hause stehen und so bekochen während die andere Hälfe der Menschheit Arbeiten geht, das war auch keine gute Idee. Speaker 0: Wir haben keine gesunden Ideen da wie diese Gesellschaft aussehen könnte. Speaker 0: aber trotzdem sich zu überlegen ob es dann nicht noch was anderes geben kann außer dieser vierzig Stundenwoche Erwerbstätigkeit. Speaker 0: Da wäre ich ja noch dabei. Speaker 1: Unbedingt! Speaker 1: Das hätte Keynes uns schon vor hundert Jahren nagelegt. Speaker 1: wir konnten mal darüber nachdenken wie eine technologische Revolution als Utopie für unsere Enkel. Speaker 1: also wir haben bis zwanzig dreiundzwanzig.

Speaker 1: Was würden wir machen mit der gewonnen Zeit? Speaker 1: Aber momentan ist dass wir das für die Dinge einsetzen, von denen die ganze Glücksforschung sagt. Speaker 1: Dass es uns gut täte Beziehungen, Gesundheit, kulturelle Weiterbildung etc. Speaker 1: Aber Speaker 0: müssen wir uns nicht auch ein bisschen an der Stelle an die eigenen Nase fassen? Speaker 0: Wenn du sagst, es wird nicht groß genug gedacht ist denn der Diskurs breit genug und geistet sozusagen in genug Köpfen hier klar was da eigentlich gerade passiert? Speaker 1: Nein, aber das liegt ja auch wirklich daran.

Speaker 1: Dass die Geschichte, also Thema welche Utopie oder welche Ideologie wird vertreten nimmt ja so ein bisschen vorweg was die Ergebnisse wahrscheinlich macht und diese hat sehr stark von einigen wenigen Bros besetzt. Speaker 0: Und dessen Lied singen wir konstant? Speaker 1: Undankenswerterweise! Speaker 1: Also jetzt wäre ich an dem Moment, wo sagen wir go a bit dystopisch. Speaker 1: du kannst gerne mal sagen wie du es wahrnimmst. Speaker 1: dann sage ich dir was ich über den Transhumanismus gelebt Speaker 0: habe. Speaker 0: Ja, wir singen deren Lied. Speaker 0: Wir sagen da und ach, Europa ist abgehängt, Deutschland hat gar keine Chance mehr und nur die können das.

Speaker 0: und dann sagen sie jetzt sind die auch noch ausgebrochen und auch noch gefährlich geworden. Speaker 0: also habt ihr eigentlich Glück dass ihr nicht mit dieser Technologie das wir für euch machen weil wir ja die einzigen sind die das überhaupt noch im Griff haben. Speaker 0: und dann schlagen wir euch vor wie wir reguliert werden wollen und dann macht ihr das gerne. Speaker 0: dann kommen unsere Freunde zu uns rein machen dann Inspektionen bei uns und gucken, ob alles gut ist. Speaker 0: Das heißt es ist alles so durchsichtig eigentlich und so unschönig. Speaker 0: Kannst du Speaker 1: das noch mal ganz langsam sagen? Speaker 1: Dass der Wirtschaftsteil unsere ganzen Zeitung das versteht! Speaker 0: Ja Eigentlich könnten wir ja sagen, hey! Speaker 0: Wir sind eine mittelstandsbasierte Wirtschaft.

Speaker 0: Wir haben sehr viel Ingenieurswissen und spezielle Datenschätze vorhanden – zum Teil noch nicht Digitalisierung erster Stufe abgeschlossen aber das können wir mit KI jetzt eigentlich überbrücken. Speaker 0: Wir könnten ja überlegen was denn die Dinge, die wir gut haben und mit denen wir hier punkten können? Speaker 0: Da müssen wir auch nachher noch mal drüber sprechen. Speaker 0: Natürlich müssen wir das große Endkundengeschäft, die Frontiermodelle, die jetzt alle Leute nutzen, darüber reden. Speaker 0: Aber wir können ja auch über das andere alles reden. Speaker 0: Wo können wir mit der Technologie in unseren Sphären Wertschöpfung hier machen?

Speaker 0: Mit unseren Daten und unseren eigenen Firmen Speaker 0: usw., Speaker 0: darüber wird eben nicht genug diskutiert. Speaker 0: oder wir sagen, Deutschland ist nur auf Platz neunzehn von irgendeinem Ranking irgendwo international... Was sind uns denn diese anderen Firmen voraus? Speaker 0: Man macht maximal vier Jahre Entwicklung, länger geht es ja nur nicht. Speaker 0: Wir sind im Jahr irgendwie vier der Entwicklungen. Speaker 0: und auf der anderen Seite siehst du natürlich klar wenn jetzt die USA dieses Jahr sechshundert Milliarden US-Dollar oder so sind immer die Schätzungen in diesem Jahr für KI und Technologieentwicklung ausgegeben haben. Speaker 0: das ist natürlich ein Batzen Geld.

Speaker 0: Den haben wir so erst mal nicht. Speaker 1: Du meinst jetzt die staatliche Hand? Speaker 1: Weil unter den Firmen ist es in der Summe schon mehr, aber schön im Kreis investiert. Speaker 0: Ja ich höre immer verschiedene. Speaker 0: Manche sagen siebenundfünfzig Milliarden und das ist irgendwie sozusagen... Da können wir jetzt ... Groß. Speaker 0: Es ist Big, ja? Speaker 0: Wir sagen immer, es ist too big! Speaker 0: Also wir können nichts dagegen setzen. Speaker 0: Die Frage eben was man sieht in China auch zum Beispiel dass man schon durchaus mit kleineren Modellen was machen kann oder aus den großen was raus destillieren kann. Speaker 0: aber ich sage mal diese Mutlosigkeit und Fantasielosigkeit das einfach so anzugucken und nicht zu sagen wie können wir... Und ich habe Zahlen gelesen, dass wir mit UK zusammen achtzehn bis fünfundzwanzig Prozent des KI-Nutzungsmarktes sind als Europa.

Speaker 0: Warum können wir nicht sagen, hey! Speaker 0: Wir sind ein Fünftel oder Viertel eures Marktes Leute. Speaker 0: Wir wollen irgendwie was abhaben. Speaker 0: Wir müssen irgendwie sehen dass wir nicht nur doppelt bezahlen mit Daten und direkt... Speaker 1: Und zwischen erpresst werden? Speaker 0: Ja, abhängig sind natürlich sozusagen in jeder Hinsicht also nicht nur natürlich unsere Geschäftsmodelle wenn wir die darauf basieren. Speaker 0: Also was ist denn jetzt mal GPS und Starlink und ChatGPT und Google usw. Speaker 0: abgestellt? Speaker 0: und mit Microsoft das wissen wir alles Was dann hier passiert? Speaker 0: Wissen Speaker 1: auch, dass es schon längst gemacht wird und politischen Druck ausführen. Speaker 1: Genau Speaker 0: die neuesten Modelle gehen vielleicht nicht mehr an die deutsche Wissenschaft, an die Deutsche Entwicklung, an den deutschen Firmen weil sie gerade nicht opportun ist.

Speaker 0: aber auf der anderen Seite eben auch in was für eine mit dieser Sekundereffekte über die wir mal nur so am Rande gesprochen haben? Speaker 0: ich meine Verblödung jetzt einfach das man, dass man die nutzt, dass die Studierenden die nutzen sozusagen um Prüfungen zu kapern oder anderen Stellen also was wir eben mit uns als Gesellschaft machen lassen ohne halt einen riesigen Diskurs darüber zu führen, wollen wir das eigentlich und wie wollen wir es? Speaker 0: Aber du wolltest noch dystopischer werden glaube ich erstmal. Speaker 1: Ja, und ich fand den einen Punkt, den du eben formuliert hast so wahnsinnig wichtig. Speaker 1: Dass zum Teil diese Schrecknachrichten dafür genutzt werden dass jetzt Regulierung eingefordert wird die aber diejenigen, die ihre Art und Weise die Modelle zu entwickeln schützen wollen.

Speaker 0: Also wenn der Anthropicschefen drei Punkte planen macht wie reguliert werden soll das Stichwort Anker Effekt dann gibt er uns ja vor in welche Richtung wir mit der Regulierung denken und wir denken nicht mehr in eine andere Richtung. Speaker 0: man könnte auch sagen hey diese Firmen die sind monopole die müssen zerschlagen werden. Speaker 0: Ja, das ist so gefährlich. Speaker 0: Stichwort Atomwaffen-Sperrvertrag oder so zu sagen hey international wir machen mit euch nicht mehr wenn ihr diese Firmen so groß und so mächtig bleiben. Speaker 0: Das ist uns alles zu schnell. Speaker 0: Wissenschaft, Zivilgesellschaft Wir sind alle außen vor Wir können gar nichts Sinnvolles dazu sagen auch nicht sinnvoll dazu sagen wie reguliert und evaluiert werden sollten weil wir nicht beteiligt sind Und nicht wissen was ihr da macht.

Speaker 0: Das wäre ja auch eine Sache über die man reden könnte Die aber nicht in seinem drei Punkteplan drin stehen? Speaker 1: Nee, und in den drei Punkteplanen ist ja Open Source theoretisch weniger gut zu kontrollieren. Speaker 1: Und deshalb gefährlicher! Speaker 0: Das ist auch ein Punkt, das sehe ich an der Stelle wirklich. Speaker 0: Also wenn man Open Source ... Das bringt mich eigentlich zu meinem Lieblingsthema im Betrieb. Speaker 0: aber du wolltest gerne noch die Dystopie machen. Speaker 0: können wir danach Dystopien machen? Speaker 0: also mein wirklich bauchschmerziger Punkt ist ja wer kann eigentlich diese KI hier in Europa betreiben.

Speaker 0: Wir versuchen jetzt Daten zu sammeln, Rechenzentren aufzubauen und Experten auszubauen. Speaker 0: Dann bauen wir Modelle, dann haben wir Modellen. Speaker 0: aber bei wem laufen die Daten? Speaker 0: unsere Gesundheit unses Privatlebens unser Arbeit unserer Ausbildung? Speaker 0: Bei wem laufen diese ganzen Daten zusammen? Speaker 0: wer ist eben derjenige der auch daraus dann die besseren Modelle baut die nächste Generationen baut? Speaker 0: Wer ist derjenig der dem für den Betrieb sorgen kann? Speaker 0: Und habe ich gesagt brauchen wir sowas wie ein öffentlich rechtlichen also gebühren finanziert staatsfern für ganz europa Pluralismus sicherstellt, dass es verschiedene Modellvarianten gibt die eben eine politische Spektrum abbauen.

Speaker 0: Dass der Werbeanteil nicht und so weiter wie wir öffentlich-rechtlich organisiert haben? Speaker 0: brauchen wir sowas Halbstaatliches wie den Energiesektor wo wir sagen der ist stark reguliert und trotzdem aber irgendwie Markt orientiert? Speaker 0: brauchen wir das was ich ESA plus Plus. Speaker 0: Brauchen wir etwas ganz Neues wo wir noch gar nichts drüber nachdenken können. Speaker 0: also dieser Diskurs eben auch Wer soll denn? Speaker 0: und auf der anderen Seite, wie können wir eine Grundversorgung sicherstellen? Speaker 0: Dass unsere Studierenden, unsere Schülerinnen und Schülern, unsere Wissenschaften usw. Speaker 0: immer und stets super KI zu einem günstigen Preis oder zu fast keinem Preis auf dem Tisch haben.

Speaker 0: Also wo diskutieren wir denn dieses Ganze? Speaker 1: Also du hast ja gerade die unterschiedlichen Anwendungsbereiche wunderbar skizziert also einerseits Lernumgebungen beispielsweise dann aber natürlich... Industrielle KI wird ja auch diskutiert. Speaker 1: Da brauchst du Datensätze, die total akkurat und geprüft sind und wo die Modelle nicht anfangen zu hallucinieren. Speaker 1: Und das ist ein Riesenthema. Speaker 1: Der dritte Punkt mit dem öffentlich-rechtlichen ... da geht es viel um die kommunikative Infrastruktur, wie bewusst manipuliert wird inzwischen. Speaker 1: Nicht nur mit der Aufmerksamkeitsökonomie oder wüchtig machen im Design, wie Meta jetzt auch im Grunde noch erklärt, bis hin zu wen regeln wir runter?

Speaker 1: Allein Speaker 0: die Tatsache, dass normale Suche durch KI Suche ersetzt wird Ja, die Verhinderungsbibliothekaren wie Roberto Simonowski in seinem Buch Sprachmaschinen so schön sagt. Speaker 0: Die Verhinterungsphibliothekarin, die zwischen dir und den Inhalten sitzt... ...die dir die Antworten gibt stattdessen du in die Bibliotheke... Speaker 1: Die arme Bibliothekare waren eigentlich mal ganz tolle bereitende Speaker 0: Personen! Speaker 0: Ja ich weiß, kann ja auch der Verhindungs-Bibliotekar sein, dass du in eine Bibliotik gehst und selber nachstaust erzählt, der dir eben Wasser in den Büchern alles gelesen hat und was Phase ist? Speaker 1: Aber dann müsste man ein Biblioticsverhinderungsinstrument sagen oder...? Speaker 0: Das Bibliotesverhinderungsinstrument sozusagen, das wir nicht mehr selber recherchieren kommen nicht mehr auf Qualitätsinhalte lesen bei der Süddeutschen Zeitung oder irgendwo, was Phase ist.

Speaker 0: Sondern KI sagt uns was Phase. Speaker 0: Möglicherweise um die noch zitiert sind und dasselbe natürlich auch ökonomisch. Speaker 0: ich will mir neues Fahrrad kaufen und diese Chatbot erzählt mir welches Fahrrad ich jetzt kaufen soll. Speaker 0: das bricht ja ganzes CO-Markt zusammengebrochen. Speaker 0: Das sind ja unmittelbare Effekte. Speaker 0: Die können wir sogar im Prinzip als Verbraucherinnen und Verbrauchern durch unser Verhalten beeinflussen denn wir die KI Suche nicht nutzen wenn wir sie nicht brauchen. Speaker 1: Die wird ja mehr recht aggressiv überall angeboten. Speaker 1: Ja, Speaker 0: die wird uns aggressiv angeboten sozusagen so da lassen wir uns einruhlen. Speaker 0: und das mittlere die Industrie und die Daten da hast du natürlich auch rechnet.

Speaker 0: da arbeiten wir natürlich auch mit anderen zusammen hier in Deutschland daran Modelle für die für die industrie zu bauen die man dann eben selber betreiben kann und mit eigenen mit eigenen Daten füttern kann. Speaker 0: Da müssen wir natürlich lernen. Speaker 0: auch dass datenscharing datentauschen also steuerberater in deutschland sind oft sehr kleine büros. Speaker 0: die haben jeder allein nicht genug. Speaker 0: Aber wenn alle Steuerbaratterinnen sich zusammentun würden, hätten sie eine ganze Menge Daten. Speaker 0: Und dein Punkt? Speaker 0: Das gebe ich doch nicht in der hallucinierende KI ist natürlich auch völlig richtig und ... Die ganze Zeit bin ich jetzt großzügig gewesen, wenn wir über die KI sprechen.

Speaker 0: Es gibt viele Formen! Speaker 0: Und du kannst natürlich hybride Systeme bauen, digital Twins bauen, die die physikalische Welt abbilden und aber auch die physikalischen Gesetze kennen. Speaker 0: Du kannst natürlich Kombisysteme aus einem Modell plus einer Datenbank oder irgendeinem anderen KI-System oder auch eine herkömmlichen Software, die kontrolliert was daraus kommt. Speaker 0: Das heißt es ist ja nicht gesagt dass man nur mit dem Modell alleine alle Probleme löst sondern gerade in der Kombination plus eben Human In the loop, in the loop. Speaker 0: So wird ja dann Schuh Speaker 0: draus.". Speaker 1: Ja aber das wäre genau das pluralistische womit wir dem wie ich finde zunehmend dystopischen etwas entgegensetzen könnten weil da ist ja das crazy Versprechen alles in eine Superintelligenz.

Speaker 1: jetzt neulich nachdem der große Stift von Donald Trump wieder über ein Papier gefahren ist dürfen die Leute in den USA ich weiß gar nicht ob ihr das alles ist gar nicht mehr künstliche Intelligenz sagen sondern müssen super Intelligenzen und die Brosas mit am goldenen Tisch. Speaker 1: Aber damit ist ja auch schon die Perspektive, wo sie hin. Speaker 1: Also Thema Ideologie. Speaker 1: sagt mir was die Ideologie ist und dann kann ich dir sagen auf welches Ergebnis hingewirkt wird eigentlich manifestiert worden. Speaker 1: es geht darum dass einige wenige Riesenmaschinen in die Kontrolle bekommen die im Zweifel Thema General Purpose Technologie.

Speaker 1: du kannst überall einsetzen aber Sie auch in jeden der Lebensbereiche so rein verästern. Speaker 1: das finde ich mehr ohne. Speaker 1: sie können Speaker 0: sich selber vielleicht vorliegenden glauben, dass man damit der Menschheit halt was Gutes tut. Speaker 0: Dass sozusagen alles geregelt wird von meinem Supersystem. Speaker 0: Da braucht keine menschliche Beurteilung oder irgendwas, die auch schieflegen kann. Speaker 0: Ja, sozusagen spielt keine Rolle mehr mein System und löst alle Probleme in der Welt. Speaker 0: Das ist ja wirklich die ideetechnische Lösung für gesellschaftliche und andere Probleme. Speaker 0: Und das ist natürlich nicht das, was wir uns vorstellen.

Speaker 1: Aber das ist ja die Frage. Speaker 1: Also, was treibt diese Faszination gerade? Speaker 1: Und welche Geschichte erzählen Sie? Speaker 1: und diese Abandons ist ja so ein bisschen das Wort für das, was du grade beschrieben hast. Speaker 1: Das is' ja die Polikrise von Klima über Konflikte, demokratischer Wandel usw.. nicht anzuerkennen und zu fragen, wie sind wir denn reingekommen? Speaker 1: Was könnten wir vielleicht anders machen, sondern sagen, Gaspedal durch die technologische Revolution wird es irgendwie dann magic richten. Speaker 1: Also ich hab da wirklich crazy Sachen gehört von Nicht nur Energieüberfluss, sondern die Physik ist ja alles neu und du kannst dir Haut aus dem D-Drucker und keine Probleme mehr...

Speaker 0: Und wenn's auf diesem Planet nervt, fliegt man halt auf den nächsten? Speaker 1: Eben! Speaker 1: Also das ist ja so diese komische Abandons-Story, wo du denkst und jede Form von Kritikäußerung. Speaker 1: Wenn du dann so Marc Andresen, Optimist Manifesto oder sowas liest bis hin zum Antichristen, Kriterzumerk also alles was ein bisschen dieser Idee dass die Technologie uns so überlegen sein wird. Speaker 1: Die Intelligenz möchte ihre nächste evolutionäre Stufe einnehmen. Speaker 1: wer sind wir? Speaker 1: menschliche Mängelwesen im Weg stehen.

Speaker 1: Das wird richtig absurd, wenn du da mal reinliest in diese Speaker 0: Vordenker. Speaker 0: Ist das eine wirklich offene Frage? Speaker 0: Ist es nicht ein ähnliches Muster was wir jetzt auch in Sachsen-Anhalt und anderswo sehen dass Leute durch die Polykrisen schlichtweg überfordert sind? Speaker 0: einfach der Mensch soll verantwortlich sein für diesen Überschwemmungen und Waldbrände usw. Speaker 0: Diese Polykrizen machen mich einfach fertig dass ich einen Anteil daran habe mit meiner Lebensweise und meinem Konsum. Speaker 0: Dass man einfach dicht macht, nach irgendeiner angenehmen Erklärung sucht die mir dann jemanden der eine sagt, es ist ein Ausländer sind schuld und ich als Führer, ich werde dir die siebziger Jahre zurückholen und andere sagen diese sind das nicht ähnliche Muster irgendwo?

Speaker 1: Ich finde da schon mal ein gutes Statement weil man da dieser kompletten Überheblichkeit den Rose mal so bisschen in Stecker zieht, weil das ist ja auch ein Teil der Geschichte über Menschen. Speaker 1: Das ist ja hardcore nicht nur rassistisch, sondern an mehreren Ebenen konnotiert. Speaker 1: Männer sind auch viel besser als Frauen, weil die haben nicht diesen Empathie bei es und sie sind nicht so unverhersigbar, vermeidlich rationaler. Speaker 1: Also gibt's viele Konnotationen, das Weiße ist besser als das andere. Speaker 1: Das ist durchtränkt im Grunde genommen von vielen unterschiedlichen Schulen des Sortierens ... Da

Speaker 0: versteht man sich ganz gut in diesen Communitys? Speaker 0: Es wird Speaker 1: sehr klein da oben. Speaker 1: sehr reich und rücksichtslos, er weiß. Speaker 1: Und sei männlich sein musst du ja okay dann hast du irgendwann die Essenz der Elite zusammengebracht und nutzt dann eben Speaker 0: ... Ja aber auch unsere Rechtsextremen wollte ich sagen verstehen sich ja auch sind ja mit den Tech Brothers. Speaker 0: da haben keine nicht so große Probleme mit denen und umgekehrt kriegen wir auch Sponsorship und so. Speaker 0: Genau Speaker 1: also ist ja Teil der Erzählung. Speaker 1: ich frage mich manchmal wieso die sich einbilden bis zur Springerpresse. Speaker 1: dass sie irgendwie als ähnlich wertig von denen wahrgenommen werden sind ja auch nur Nützliche Ideen.

Speaker 1: Das ist interessant, aber dieser Überheblichkeitskomplex geht sehr schnell in das Ego über vielleicht aus der Überforderung heraus. Speaker 1: Aber ich erzähle einfach mal ... Den kann ich sehr empfehlen. Speaker 1: im Podcast The Undivided Attention heißt der von Tristan Harris. Speaker 1: Sie machen die Center of Humane Technology, also er ist auch ein Aussteiger eben aus dem Silicon Valley und überlegt genau an den Sachen wo wir auch sind. Speaker 1: wie könnte man diese Revolution denn eigentlich in den Dienst der menschlichen Vortrittserzählung stellen? Speaker 1: Ich fand das sehr spannend, weil die versucht haben zu sortieren was dieses Denken dieser Ideologie ausmacht und um drei Punkte stark gemacht.

Speaker 1: Hierarchie, Exit- und Scale als Antwort auf diese Politkrise. Speaker 1: Hierarchy waren wir eben in diesen Übermenschen. Speaker 1: es geht um die kognitiven Fähigkeiten zu explodieren was uns in der menschlichen Natur als Limitationen vorgegeben wurden. Speaker 1: Ist da kathesianischer Effekt? Speaker 1: Ich denke, bin ich. Speaker 1: Wird auf Speed gesetzt und das verfallorientierte biologische ... wird mal so abgestreift. Speaker 0: Winnetext at all, auf jeden Fall! Speaker 1: Das auf jeden fall. Speaker 1: Einige wenigen bleiben übrig und sind dann auch die souveränen Individuen.

Speaker 1: Der Kuralismus Speaker 0: und diese Demokratie mit diesem langsamen Konsensverfahren... Speaker 1: Nein, also das ist Hemd. Speaker 1: Da sind wir bei den Sachen ... Der Exit ist konsequent gedacht vom Wohlfahrtsstaat angefangen. Speaker 1: Da gibt es dieses Beruf, das hofft ein Individuum. Speaker 1: Peter Thiel in der Neuherflage, auch das Vorwort geschrieben hat und das wirkt wie Sci-Fi aber jetzt gerade ja auch für Demokratie Vordenker. Speaker 1: Ich denke Leute, für wie doof haltet ihr uns denn? Speaker 1: Aber also steht da alles drin!

Speaker 1: Ein eigenes Geldsystem, also Thema Krypto. Speaker 1: Dass du unabhängig wirst von irgendwelchen Instanzen, die im Zweifel einen Einfluss draufnehmen können? Speaker 1: Gerade auch beim Geldsystem über dem Recht stehen ist dann ganz Normale ... oder wird auch nicht gesagt, der Wohlfahrtsstaat könnte kollabieren. Speaker 1: Sondern er wird kollabiert und es wird so kommen. Speaker 1: Deshalb wollen wir euch zeigen wie ihr oben stehen könnt weil das habt ihr verdient ihr seid ja die kognitive Elite Und so zieht sich dass da so durch. Speaker 1: also exit aus dem menschlichen Körper gehört dazu diese longevity. Speaker 1: geschichten dieses hundert und sonstwie werden bis zum upload von Wenn du da mal reinliest, was die sich als Bedtime-Stories ...

Speaker 0: In meiner physischen Veranlagung ist es leider nicht so stark. Speaker 1: Ich fände das auch nicht so schlimm, wenn ich auf wahnsinnig viel Geld und zugegangen bin. Speaker 1: Das sind Speaker 0: die Leute, die Speaker 1: mit Speaker 0: viel Geld gerade unsere Kommunikationen, öffentliche Sphäre oder private Sphere nach hinten haben. Speaker 0: Die Druckerpresse ist erfunden, sie sind aber diejenigen, die an der Presse stehen die Hebel in der Hand haben. Speaker 0: Wir Speaker 1: sind alle viel zu klein, also das Multiplanetaris, Acceleration ... Denen geht's darum, wir werden das zweite Gesetz der Thermodynamik mit der Entropie aushebeln, weil größer schneller weiter, the sky is limit.

Speaker 1: und dann haben sie auch Cyborg-Avatar über Elon Musk, hab ich das mal wirklich durchverfolgt bis ich irgendwann auf X zu sein, da hat er ja mal irgendwie ein Maximus sowieso account, den er sich parallel als er douche übernommen hat, war ja so bei einem High Fly. Speaker 0: Du meinst, da gegen SSG-Engineering und eFuels habenlos? Speaker 1: Da sagen, das geht noch größer gedacht. Speaker 1: Also wirklich ... Das ist so spaced out zum Teil und dann aber in dieser Rücksichtslosigkeit selbst legitimieren. Speaker 1: Das liebste Bombe von Peter D., die zwei dir rumgehen sind ja so dieses.

Speaker 1: Sie sind schon dafür, dass die Menschheit überleben sollte wie er da siebzehn Sekunden zögert in dem einen Interview, das läuft im Moment immer viral. Speaker 1: So come on! Speaker 1: Möchtest du, dass ihr Menschen überlebt? Speaker 1: Und das schön fand ich auch dieses Jahr ... Also es ist ja nicht gut und schlecht, sondern gut und böse. Speaker 1: Vielleicht die eigentliche Gegenüberstellung, die wichtig ist? Speaker 1: Und wenn man böses, kriegt man wenigstens Sachen gebacken. Speaker 1: Es ist doch eigentlich gut! Speaker 1: Aber wenn man das weiß, dass diese so ticken, dann sollte man sich von diesen ganzen Stories auch nicht so verarschen lassen. Speaker 1: Selbst wenn man durch den Kauf dieser Aktien gerade wahnsinnig viel Geld verdienen kann... Die treibt mich um.

Speaker 1: Deshalb macht ihr die Wirtschaftsredaktion, dass sie dem so aufsitzen und wir immer noch neidvoll gucken. Speaker 1: Wow! Speaker 1: Das ist der erste Billionär. Speaker 1: Wow das sind die größten Firmen ... Ja aber es sind Parasiten. Speaker 0: Und alle europäischen Entwicklungen werden dann runtergeschrieben und schlecht gemacht? Speaker 1: So, jetzt gehen wir da wieder raus. Speaker 1: Aber diese Entronung ist doch wirklich notwendig und das kann man doch auch ganz in Ruhe machen indem man auf so ein Zeug verweist.

Speaker 1: also wenn du keine Steuern zahlst digitalsteuer wäre ja auch so ein wichtiges ding wenn im Grunde genommen die gesamten datensätze der welt beraubt hast um sie dann in dein modell zu machen um sich dann als dein eigentum wieder zurückzuverkaufen. Speaker 1: Da kann man das faszinieren. Speaker 1: Das ist der größte Raub der Geschichte am Intellectual Property. Speaker 1: Die Frage, wie wir darüber reden würde uns helfen zu fragen, wollen die wirklich immer? Speaker 1: auf die Cover setzen als die großen Boys der Zukunftsgestaltung. Speaker 1: Oder wollen wir den mal ein bisschen in Überheblichkeitskomplex nehmen, indem man sie zwischendurch einlädt?

Speaker 1: Ein Ruhe zu erklären wie Sie Schritt für Schritt in die Abandons kommen wollen anstatt dass man diesen blöden Stories aufsetzt. Speaker 1: Man sagt das ja auch offen. Speaker 1: Auf dem Weg wird es einiges Schlimmes geben aber danach wird alles Supi. Speaker 1: und auf dem Weg einige Schlimme sind wir. Speaker 0: Und gleichzeitig eben ... Auch diese nur-Toolsicht auf KI, dann immer so. Speaker 0: Die Leute sind ein bisschen crazy aber die haben echt ein geiles Teil da uns gerade gebaut als wenn die dir hier irgendwie einen Käsehobel oder so gemacht hätten der super ist.

Speaker 0: Also nicht zu sehen, welchen Einfluss eben KI auf alles haben wird und den wir einfach sozusagen gerade akzeptieren. Speaker 0: Digitalisierung war ja eigentlich auch schon so, dass es immer so Themen sind die will man eigentlich wegdelegieren. Speaker 0: Das macht ja das Digitalministerium, das macht der Informatikunterricht... Da machen wir jetzt schon ganz viel! Speaker 0: Ich möchte mich da jetzt nicht geistig mit beschäftigen wollen. Speaker 0: Und das knallt natürlich an allen Ecken und Enden. Speaker 0: wenn wir jetzt wissenschaftliche Konferenzen hatten wo achtzigtausend Papiere eingereicht werden Speaker 1: Ja, Speaker 0: dann ist natürlich das Thema Qualitätssicherung und Peer Review tot.

Speaker 0: Und wenn die Leute mit KI eben diese Papiere schreiben und andere Leute mit KAI dann diese Papieren begutachten, da bist du endlich in einem vicious Circle. Speaker 0: Menschen noch... Blub, ja. Speaker 0: Also das ist... Pillepalisierung? Speaker 0: Pilepalisierung sozusagen. Speaker 0: und auf der anderen Seite sage ich auch immer die Disruption genießen. Speaker 0: wenn wir jetzt an der Uni merken dass diese Massenvorlesung und diese komischen Essays die Studierenden schreiben sie nicht motivieren das selber zu machen sondern sie dann lieber die Abkürzung nehmen dann ist da in dem System schon lange was faul und das wissen wir auch schon lange über Flip, Glassroom oder andere Formen der Vermittlung.

Speaker 0: Oder wenn man mit Leuten zusammensitzt, dass man sich Inhalte runterbeten lässt, es vielleicht nicht so eine gute Nutzung von achthundert Menschen und Raum und Zeit. Speaker 0: Dann sage ich immer die Disruption erst mal genießen, die KI uns bringt, wenn wir im Medizinbereich jetzt zu siehst ... Da sind bis zu ... ... sechszig Prozent der Arbeitszeit von Ärztinnen Ärzten um medizinischem Personal ist Dokumentation. Speaker 0: Da sehen wir ganz viele Stellen, wo KI schon jetzt ansetzen kann oder wo zumindest mal KI einen Weckruf ist. Speaker 0: Oder ein Katalysator ist, der uns sagt, hey Leute macht mir eure Hausaufgaben an denen und den anderen die laufen euch nämlich gerade weg.

Speaker 0: Insofern finde ich das erst einmal ganz... Und wartet Speaker 1: nicht bis die Versicherungen euch dann das Tool bereitstellen und damit die Patienten auslesen? Speaker 0: Lass uns doch an dieser Stelle eben in Eigenentwicklungen gehen, lass uns dann Wertschöpfung machen. Speaker 0: Ein Stichwort Nachhaltigkeit. Speaker 0: Wie können wir möglichst klein bauen, möglichst Datenspaß anbauen? Speaker 0: Wie kann man vermeiden dass wir dauernd Updates machen und so weiter und sofort? Speaker 0: also wie können wir energie sparend sein und energiesparen indem wir besser planen wege optimieren und usw. Speaker 0: Waschzyklen Reparatur zyklen und so weit optimieren?

Speaker 0: Also wie können Wir nachhaltig mit reingehen? Speaker 0: Wie kriegen wir die Arbeitszufriedenheit höher von den Leuten, was du gesagt hast so zu technisches System? Speaker 0: Die wenigen Arbeits- und Fachkräfte, die wir noch haben. Speaker 0: Wie können wir das schaffen in den nächsten vier fünf Jahren wenn uns so viel Wissen gerade in Rente geht? Speaker 0: wie können wir jetzt noch in die digitalen Prozesse bringen? Speaker 0: In die Verbesserung der digitalen prozesse bringt damit wir es dann abrufbar haben? Speaker 0: Wenn die Leute in Rende sind wird keiner mehr weiß was eben für Herr Müller und Frau Schulze jetzt noch wissen über die Kunden und über die Prozese. Speaker 0: wenn sie erst mal weg sind dann fehlt uns dass.

Speaker 0: also ich sage mal diese ganze Positiv Bilanz, was wir gesagt haben. Speaker 0: Barrierefreiheit die wir mit KI erstellen können Leute einfach besser abholen können lenken können und so weiter. Speaker 0: Und wenn wir dann sagen die digitale Dividende das was wir an Zeit Einsparen hoffentlich dann mit der digitalen Technologie auch auch übrigens ein heyday der Gewerkschaften natürlich an so einer Stelle zu sagen Was passiert mit der gewonnenen zeit? Speaker 0: Das hast du vorhin schon gesagt ja nutzen wir die denn für die analogen Kunden eine um die wir uns sonst nicht kümmern ist nie jemand ans Telefon gegangen weil wir den schreibtisch voll hatten. Speaker 0: vielleicht können wir dann mal als telefon gehen Oder können dann mal Innovationen an anderer Stelle machen oder können mal gucken, wie geht wir mit unseren Alten?

Speaker 0: Mit unseren Kindern und anderen Leuten um die vielleicht unsere Zeit auch bräuchten. Speaker 0: Ich werde jetzt sozial romantisch aber wir wollten ein Dreh machen also sozusagen diesen Diskurs heißt. Speaker 0: das heißt aber auch auf der anderen Seite Wir müssen auch die Wertschöpfung in die Hand nehmen. Speaker 0: Irgendwann müssen wir das Ganze ja bezahlen und so wie wir es derzeit machen Nehmen wir sie nicht in die hand. Speaker 1: Aber das ist ja auch der Punkt. Speaker 1: Die Gegenargumente sind immer, wir sind zu langsam und es skaliert nicht. Speaker 1: Deshalb eine Kapitalmarktunion um zu sagen lasst uns reinbringende EU-Ink eine Rechtsform finden.

Speaker 1: Lasst uns gewisse Handelsbarrieren standardisieren in den Bereichen wo's Sinn macht damit man auch in einer Größenordnung antreten kann. Speaker 1: dass wird ein bisschen einzahlen auf was du gesagt hast eigentlich sehr großer Markt. Speaker 1: Also wir verzwergen uns auf der einen Seite in dem Gefühl, was wir uns zutrauen und auf der anderen Seite kriegen wir es ja aber auch wirklich nicht gebacken Thema soziotechnisch mal zu überlegen. Speaker 1: wie können wir denn das Umfeld leichter machen indem die technologische Entwicklung dann aber anders geankert oder geerdet Speaker 0: Aber diese perspektivische Sicht vollkommen fehlt.

Speaker 0: Das ist so yet another tool, da kann sich jemand darum kümmern. Speaker 0: machen wir jetzt auch super? Speaker 0: ja irgendwie wir machen jetzt alle berichten irgendwie toll. Speaker 0: Wir machen jetzt mit ki x y z aber dieses was eigentlich alles möglich ist und was dafür alles nötig ist das wird glaube ich einfach auch wirklich nicht gesehen Und die abhängigkeiten werden halt glaub ich auch nicht genug gesehen. Speaker 1: Aber wir waren weiter. Speaker 1: Also Twin Transition war ja so ein großes Schlagwort zu sagen, wie kann man denn eigentlich diese digitale Revolution auf die Solbuchstellen der Nachhaltigkeit anwenden? Speaker 1: Und für alle, die ständig sagen nachhaltigkeit kümmer jetzt mal vergessen.

Speaker 1: Liebe Leute, geoeconomische Konfrontation ist das Ergebnis von nicht-nachhaltigen Wirtschaften bis zum Punkt wo die Ressourcen begrenzt sind. Speaker 0: und selbst wenn du in der alten Denke bist dich Wort hybride Angriffe und Nisch-Dichwort sozusagen Blackout. Speaker 0: Auch da müsstest du aus dieser Logik heraus sagen, wir müssen in die Technologie ein eigenes Aufbau investieren genauso wie wir eben im Panzer bauen? Speaker 1: Ja also Versorgungssicherheit. Speaker 1: wenn man das mal zu Ende denkt dann kommen wir bei ökologischen und sozialen Themen raus. Speaker 1: Wenn wir nicht die Cyborg Vision annehmen wollen.

Speaker 1: Und die Cyborgs Vision ich glaube dass alle einig sind für wenn einige wenige sich selbst als die nächste evolutionäre Stufe erklärende Dutz vorbehalten Not my world. Speaker 1: Aber wie kriegen wir denn mit mehr... Speaker 0: Aber sagt mal, stieffer Grundversorgung? Speaker 0: Jeder von uns kriegt irgendwie Post zugestellt bis in den letzten Winkel. Speaker 0: Wir haben Büchereien aufgebaut weil wir meinten dass Leute an Bücher kommen müssen, Lehrmittelfreiheit und ähnliche Dinge, wir haben Schulen und so aufgebaut. Speaker 0: Warum denken wir nicht über eine Grundversorgen von KI eben unser Leute nach? Speaker 0: Wie du gesagt hattest das wird eben ganz wichtig sein einen ganz vielen Prozess nicht mehr wegzudenken sein privat der Medizin wie auch immer im Berufslebende.

Speaker 0: warum sehen wir das nicht als sozusagen? Speaker 0: Das müssen wir organisieren, dass das da ist und das bezahlbar ist. Speaker 0: Dass man nicht hinterher die Schere jetzt einfach aufmacht und sagt, na ja ... Die, die sich leisten können, holen sich die tollen Modelle. Speaker 0: Und die anderen kriegen halt GROCK! Speaker 0: Worauf wir sozusagen gerade hintrudeln? Speaker 0: Also ich versteh's nicht. Speaker 1: Wenn wir noch mal also zurückschrauben bis dann auch diese Krisenhaftigkeit alles ein bisschen durchgerüttelt hat... Ich hatte wirklich das Gefühl Green Deal kann man sagen es viel zu detailliert in der Umsetzung Speaker 1: usw.,

Speaker 1: aber auch da wäre eine Chance. Speaker 1: Pragmatisierung beispielsweise durch Nutzung, gerade auch von künstlicher Intelligenz. Speaker 1: Also viele Unternehmen die ich kenne nutzen das jetzt um die Reportingssachen oder andere Erhebungen oder Terminologie einfach mal zu checken. Speaker 1: also da gibt es ja viele gute Möglichkeiten. Speaker 1: Das wäre immer dieses Denken von okay. Speaker 1: welches Ergebnis wollen wir erreichen? Speaker 1: Welche Prozesse haben wir momentan am Laufen? Speaker 1: wie stehen sie dem im Weg? Speaker 1: Wie kann man die auch vereinfachen? Speaker 1: aber all das würde ich denken bevor Ich dann sage und welche technologischen Power Tools haben wir, um all das neue Design dann auf Speed zu bringen.

Speaker 0: Ja, das ist ein guter Punkt den du ansprichst. Speaker 0: da habe ich mich ein bisschen überzeugen lassen. Speaker 0: so hab' ich auch immer gesagt Wir müssen schlechte Prozesse bringen auch schlechte Digitalprozesse, schlechte Analogprozesses bringen schlechte digital Prozessen. Speaker 0: Trash in, trash out! Speaker 0: Wir müssen erst die Daten bereinigen, Prozeste verantwortlichkeiten klären. Speaker 1: Zu langsam sagste mir Genau, Speaker 0: dann Digitalisierung und dann KI draufsetzen, haben ja andere gesagt De facto Schatten-KI stichwort. Speaker 0: jeder bringt sein Gerät mit und schüttet auf die Legacy Daten, auf die Prozesse einfach KI drauf um überhaupt einen Boden auf die Füße zu kriegen. Speaker 0: Und deshalb habe ich vorhin auch gesagt sich mal ein Stück weit von dem Ziel zu entfernen.

Speaker 0: Wenn ich auf den Dorf zulaufe und da ist ein Bach dann muss ich mich mal ein Stück vom Dorf entfernen bis eine Brücke kommt und dann laufe ich ja wieder aus Dorf zu. Speaker 0: also sich zu überlegen können wir möglicherweise als Zwischentechnologie auch jetzt diese KI Möglichkeiten nutzen um schnell unsere Prozisse erstmal zusammenzugleistern Dann aber mittelfristig eine Idee zu haben, wie wir die zurückholen. Speaker 0: Human wieder in den Loop holen? Speaker 0: Wie wir unsere Daten aufbereiten? Speaker 0: Wie wird das wirkliche Wissen fixieren damit wir auch einen Unterschied machen? Speaker 0: denn deine Mitbewerber haben auch die KI, deine Kundinnen und Kunden haben auch DKI. Speaker 0: wenn du nur noch auf Knopf drückst für sie dann bist Du ein paar Jahren auch weg dann braucht man dich nicht mehr dann drücken die selber auf dem knopf also auch sonst hängen zu gucken.

Speaker 0: was habe ich eigentlich an meinen Daten an? Speaker 0: mein Mitarbeiter steckt eigentlich in deren Köpfchen Was mit KI zusammen noch viel mehr ist und was wir besser aufbereiten können. Speaker 0: Aber das denke ich schon da, auch da braucht man vielleicht einen Paradigmenwechsel oder muss eben auch mal ein Stück weit einen etwas wagen Zustand akzeptieren. Speaker 1: Ja, das ist spannend weil es halt nicht auf so eine Deep Tech-Konferenz in Hamburg gehört dass es gar nicht unbedingt die Regulierung ist, die hier vieles klein hält sondern das Over Engineering & Under Risking Also nicht ins Risiko gehen und ein bisschen das letzte Detail vorplanen wollen.

Speaker 1: Das liegt natürlich auch an unserer Kultur, dass man sehr gerne bei denen, wo es nicht perfekt war dann gleich sagt wie kommen die überhaupt auf? Speaker 1: Wir können uns vielleicht ein bisschen mehr dicke Hose ... Wie Speaker 0: beim autonomen Fahren. Speaker 0: Da gibt's einen Unfall, wo immer zu Tode kommt was schrecklich ist und nicht passieren sollte. Speaker 0: aber ich meine wir haben dreitausend Verkehrstote bei uns jedes Jahr, neunzehnt siebzig waren zwanzig tausend oder ein paar mehr. Speaker 0: Und alle Statistiken oder alle Hochrechnungen sagen, mit den autonomen Autos wären es deutlich weniger.

Speaker 0: Die Datteln nicht auf dem Handy rum und sind nicht übermütelt haben keine schlechten Augen und haben kein Alkohol getrunken. Speaker 0: Trotzdem sind wir dann ein bisschen begott an der Stelle und sagen aber sobald wir nicht mit Nulltoten aus dem Verkehr gehen können wir das ja nicht riskieren. Speaker 0: also das ist dann auch irgendwo strange. Speaker 1: Also neben nicht zu Ende gedacht, wie ich sagen, Doppelstandards ist so das zweite Paradigma unserer Welt. Speaker 1: Weil wenn wir uns angucken was umgekehrt mit den Rogue AIs die jetzt überall schlichtig gegangen sind da wären ja nicht die Mutterkonzerne in irgendeiner Weise in die Haftung genommen Speaker 0: Da reden wir hier Genau, da reden wir.

Speaker 0: Sind die ausgebrochen? Speaker 0: Und wie können wir sie wieder einfangen? Speaker 0: Da sagen wir nicht ... Hey! Speaker 0: Ihr habt eine andere Firma angegriffen und habt Schaden dafür. Speaker 0: Dafür reden wir nicht drüber. Speaker 0: Wie viel müssen Sie eigentlich Strafe zahlen für Ihren Angriff einer anderen Firma? Speaker 0: Ist mir egal, wie der Angriff vonstatten ging erst mal. Speaker 0: Da hat erst einmal eine Firma eine andere gehackt. Speaker 0: Das wäre ja die Headline. Speaker 0: Die Unterhädlern werden, naja das ist passiert weil sie nicht hingeguckt haben oder nicht hingucken wollten. Speaker 0: Als wenn du sagst, mein Kampfhund hat jetzt so eine lange Leine. Speaker 0: Der ist uns ums Haus gelaufen und hat dann ein Kind gebissen.

Speaker 0: Was soll ich denn machen? Speaker 0: Hat der die Leine? Speaker 0: Aber wollte Speaker 1: ich gerne wissen ob mein Kampfholz schneller da ist als deiner? Speaker 0: Genau. Speaker 0: Ob das Kind hätte ja auch schneller laufen können als ein Kampfhunde. Speaker 0: Das ist sozusagen auch ein Double-Standard. Speaker 0: haben wir in beide Richtungen. Speaker 1: Okay, dann denken wir doch jetzt noch mal europäisch! Speaker 1: Und du gibst uns zum Schluss also eine bisschen eine Vision. Speaker 1: Also künstliche Intelligenz... Ich finde drei Punkte ganz wichtig. Speaker 1: Das eine ist es gibt viele Varianten davon. Speaker 1: Es muss nicht diese Superintelligenz sein und wir müssen nicht alles mit dem Hochofen kaputt haben.

Speaker 1: Das ist eben angesprochen, dann kommt die Tokenization rein und es kostet ganz viel weil man immer das größte Modell nimmt aber vielleicht von den Funktionen einen Bruchteil bräuchte. Speaker 1: Dafür telefoniert's nach Hause und sieht zu dass es da lande. Speaker 1: D.h., Speaker 1: es gibt viele Variationen. Speaker 1: Es macht Sinn eine gute Mischung zu finden zwischen der Klarstellung wo will ich hin? Speaker 1: Aber auch ein bisschen Durchwurschteln erlauben Und dann wäre ja so ne gesellschaftlichere Speaker 0: Wissen speichern? Speaker 0: Ja. Speaker 0: Auf jeden Fall sehen, dass wir das wissen was jetzt in Rente geht und so weiter Speichern in den Systemen.

Speaker 0: Und ich hab als Gesellschaft... Speaker 1: Das wissen was es jetzt in Rente geht! Speaker 1: Was machen mit dem Menschen? Speaker 0: Jetzt haben wir keine Ahnung, fünfhunderttausend unbesetzte Stellen im öffentlichen Dienst und zwei tausend dreißig sind ne Million. Speaker 0: dieses Wissen was jetzt rennte geht. Speaker 0: zig tausende Leute die jetzt in rennt gehen nehmen ihr Wissen ja mit. Speaker 0: Das ist mein Punkt. Speaker 0: Wir wissen, das soll nicht in Rente gehen, sondern in die digitalen Prozesse gehen. Speaker 0: Dass man das eben auch als Gesamtaufgabe versteht und nicht sagen wir mal glaubt naja gut wenn ich dann Rente bin können sie ja in Ruhe die KI in Digitalisierung machen. Speaker 0: Dann habe ich meinen Wissen aber schon. Speaker 0: da ist mein Wissen schon abgeflossen es eigentlich zu spät.

Speaker 0: also ich will auch gar nicht sagen alte Leute junge Leute ich meine viele Leute experimentieren gerne mit KI. Speaker 0: das hat mir im Alter nichts zu tun. Speaker 0: aber dass man sich dessen bewusst ist ja dass das Wissen eigentlich in diese Prozisse rein muss. Speaker 0: Und was ich dir gesagt hab, Moderation. Speaker 0: Also die alte Vision von richtigen sozialen Medien ... Die Urversion des Internets, das Global Village. Speaker 0: Die Menschen lösen zusammen die Probleme, indem sie einen offenen Diskursraum haben. Speaker 0: Indem Sie wissen teilen, verändern, diskutieren, verifizieren können und so weiter. Speaker 0: Und werden dabei moderiert.

Speaker 0: Können das alles in ihrer Sprache auf ihrem Niveau machen? Speaker 0: Kriegen kommen man Informationen dran. Speaker 0: da wo sie sie brauchen können mit anderen Leuten sich auseinandersetzen. Speaker 0: Ich denke, diese Vision sozusagen eines Wissens- und Kommunikationsnetzes im sozialen und politischen ... Und wie du sagst natürlich wertegeleitet nach unseren Werten. Speaker 0: Was auch keine Vor-Einstellung ist, sondern jeder Mensch hat andere Werte und Vormittags andere als Nachmittag. Speaker 0: Die Technologie muss sich natürlich an uns passen. Speaker 0: Human Compatible hieß das schöne Buch von Stuart Russell einem KI Pionier.

Speaker 0: die muss kompatibel sein. Speaker 0: ich habe immer das Beispiel genommen von einem Hund. Speaker 0: der muss eigentlich wissen wie weit er vor mir weglaufen darf. Speaker 0: also im Ampelfenbürgersteig muss er bei Fuß laufen und dem Wald kann er auch zwanzig Meter vorlaufen aber er sollte sich immer wieder umdrehen. Speaker 0: bin ich noch da, wo ich sein sollte. Speaker 0: Das ist eigentlich gar nicht meine Aufgabe, dass immer Stichwort auch Alignment und so haben wir ja noch gar nicht drüber gesprochen. Speaker 0: Es war also nicht so wichtig aber das Diesen ausgebrochen dieses Thema müssten sich eigentlich von uns abholen. Speaker 0: Bin ich noch in der Aufgabe drin? Speaker 0: Ist das noch das was du vor mir wolltest oder bin ich längst? Speaker 0: mache ich gerade längst etwas anderes?

Speaker 1: Das ist ja die Fall. Speaker 1: mit wem? Speaker 1: allein die sich... Speaker 0: Aber erstmal ob und dann mit wemen? Speaker 0: genau? Speaker 0: das heißt aber wie brauchen auch einen breiten gesellschaftlichen Diskurs darüber. Speaker 0: Welche kognitiven Aufgaben wollen wir abgeben? Speaker 0: Nicht die Frage, kann KI rechts sprechen. Speaker 0: Kann KI-Patientenbehandeln? Speaker 0: Ja, KI kann recht sprechen. Speaker 0: Aber wollen wir das an der Stelle einsetzen? Speaker 0: Wollen wir es lieber an einer anderen Stelle? Speaker 0: Wo können wir eine andere Zeit sparen, damit wir für die Rechtsprechung und die Patientenbehandlung Menschen haben? Speaker 0: Also auch diesen ganzen Verteilungs ... Diskurs führen und das nicht so sehr phänomenologisch kann KI wie lange bin ich noch safe oder so sondern einfach wir wollen abgeben, wir wollen uns entlasten.

Speaker 0: Und dann haben wir eben gewisse Fähigkeiten abgegeben an die Navigationssysteme und wir können eben nicht mehr mit Kompass- und Moosbewuchs navigieren. Speaker 0: Wir können nicht mehr eine Papierkarte navigieren, das haben wir halt abgegeben. Speaker 0: Andererseits Kopfrechnen können wir immer noch... Das haben wir nicht komplett abgegeben obwohl es technisch ist. Speaker 0: ein paar Beispiele zu haben, mal entscheidet man sich einfach irgendeine Fähigkeit gebe ich ab. Speaker 0: Und eine andere Fähigkeit gebe ich eben nicht ab oder die gebe ich erst dann ab wenn ich genau kontrollieren kann und dann Ergebnis habe was was hundert Prozent stimmt. Speaker 0: und in so einem gesundes Verhältnis ist glaube ich das was mir wichtig ist im sozutechnischen System ein gesundes verhältnis.

Speaker 0: und da bringt es mich auf das was wir vorgespräch vorhin diskutiert haben, das Stichwort One Health. Speaker 0: Du kennst das One-Health-Konzept, Speaker 0: d.h., Speaker 0: die Planetare gesund hat und die Gesundheit der Menschen ist untrennbar miteinander verbunden. Speaker 0: sind die Menschen gesund? Speaker 0: Ist der Planet gesund? Speaker 0: Sind die Menschen gesund? Speaker 0: Nur eins von beiden geht nicht. Speaker 0: also zu sagen ich interessiere mich nur für Menschen aber nicht für Umwelt dass ja wieder das andere Wort Also für den Schutz des Ökosystems geht nicht! Speaker 0: Dann entschützt du auch nicht den Menschen. Speaker 0: wenn Biodiversität flöten geht Und Polklappen abschmelzen dann sind die menschen auch nicht mehr gesund.

Speaker 0: Und ich würde in dieses One Health-Konzept eben diese Digitale Sphäre noch mit reinnehmen. Speaker 0: Also das ganze Thema Fake News und Desinformationen haben wir heute auch nur höchstens mal erwähnt, gehört da rein aber auch insgesamt Verblödung durch KI Anker Effekte alles was wir genannt haben dass wir sagen wir brauchen dieses Konzept von One Health Ökosystem Planet Mensch und Digitalesphäre. Speaker 0: sozusagen müssen wir als gemeinsam miteinander interagierenden Raum auffassen den wir gesund gestalten sollten.

Speaker 1: Ich finde, damit hast du eine total gute Beschreibung für das Gegenerativ oder die andere Utopie beschrieben. Speaker 1: Die nämlich dieses Hierarchy Exit Scale einfach mal checked und erdet. Speaker 1: Also im Prinzip geht es ja dann darum zu sagen der Mensch ist kein Mängelwesen oder kein zu überwindendes Gefängnis Technologie, Intelligenz, was auch immer sie dann sein soll. Speaker 1: Die sich halt Bahn brechen möchte. Speaker 1: Sondern nö! Speaker 1: Erst mal ist es in Ordnung zu sagen diese Verfasstheit des Menschen hat sich in ihrem Potenzial überhaupt nicht dem angenehrt, was eigentlich angelegt ist.

Speaker 1: und das heißt du nimmst zum Ausgangsbasis, dann nicht das technologisch Mögliche sondern eben tatsächlich... Menschlich Speaker 0: wünschenswerte. Speaker 0: Der Papst spricht auch davon menschzentriert natürlich der humanistische KI-Entwicklung Greif Schwartmann, Jurist aus Köln, der sagt er möchte des Primates Menschlichen in unsere Verfassung also ins Grundgesetz reinbringen um zu sagen mir ist san' mir erstmal sind wir die Menschen und wir bestimmen erst mal in unseren Möglichkeiten wie wir es haben wollen. Speaker 0: Wir sind erstmal normativ das Maß der Dinge Speaker 1: Oder wir strecken uns wirklich aus dem Antrote prozentrischen.

Speaker 1: Thema One Health sind wir bereit, andere Lebewesen zu spüren? Speaker 0: Entschuldigung! Speaker 0: Das sollte damit nicht heißen, dass das auf Kosten der anderen Lebewesengeht geht natürlich aber es soll dann gegen die von uns geschaffenen Superintelligenz sozusagen. Speaker 0: ja dann ist jetzt auch schon die Debatte ob die Bewusstsein kriegt und dann eben Bürgerrechte haben müsste usw. Speaker 0: und sofort, dass wir uns diesen Diskurs erst mal nicht anheimfallen. Speaker 1: Ich finde es auch schräg. Speaker 1: Wir sind da, das denke ich cool eure Hunde aussehenden Roboter.

Speaker 1: Warum soll ich fasziniert von denen sein? Speaker 1: Guckt mal aufs Original und ist schon da! Speaker 1: Lasst uns diese technologische Entwicklung in den Dienst besser machen als Lebensbedingungen stellen und damit weitergedacht, dass ja auch jede Person, die geboren ist hätte ... Wenn man zumindest humanistisch denkt, in der ähnlichen Platz hier verdient. Speaker 1: Anstatt dass einige wenige für die Weltbevölkerung und acht Milliarden entscheiden, nö! Speaker 1: Die nächste evolutionäre Stufe liegt übrigens im Multiplanetaren. Speaker 1: Und das mit der Erde machen wir kaputt auf dem Weg und einige von uns werden da bestimmt auch hochkommen.

Speaker 1: Also es ist ja Wahnsinn diese Story. Speaker 1: ich erklär mal für die gesamte Menschheit, dass sie sich überlebt hat weil ich gerade damit viel Geld verdienen kann. Speaker 1: also das ist ja die Sense von dem was die uns grade um die Ohren ballern Speaker 0: Und auch die Individualität, dass jeder und jeder von uns sich anders ausdrückt, andere Möglichkeiten hat. Speaker 0: Das ist ja erst mal ein Geschenk und einen Gewinn sozusagen. Speaker 0: Dass wir alle etwas anders denken, alles anders sprechen. Speaker 0: Auch diese Gefahr der Normierung bei allen Chancen von Zugang Speaker 0: usw., Speaker 0: das dürfen wir nicht außer Acht lassen, dass wir hier nicht den neuen Menschen schaffen.

Speaker 0: Dann sind wir vielleicht das Rädchen in dem System, von dem der Papst spricht? Speaker 1: Ja! Speaker 1: Okay, also wir nehmen mal mit. Speaker 1: Man darf sich wieder menschlich fühlen, man darf mitmenschlich vielleicht mal hochhalten... Ich finde auch dieses Wissen, weil du eben die Wissensträger meintest. Speaker 1: ich hatte so das Gefühl eigentlich ist ja menschliche Fortschrittsgeschichte davon geprägt dass wir wissen und so habe ich dich dann auch verstanden geerntet und allgemein zugängig gemacht haben sodass nicht jede von uns wie davon vorne startet sondern wie eben wie die Bibliothek eigentlich das größer gemacht hat die Enzyklipidie.

Speaker 1: wird es weder manipuliert noch, wird exklusiv das nur noch an einige wenige zur Verfügung gestellt werden die anderen irgendwie abklatscht bekommen. Speaker 1: Ja Speaker 0: und auch die heutige Technologie. Speaker 0: ich sag mal schau dir mal so ein Menü von einer Tabellen-Kalkulation an so möchte ihr eigentlich kein normaler Mensch arbeiten mit so einer Technologie die so wenig auf uns zukommt. Speaker 0: ja wir müssen so sehr voll anpassen an die denn man hat uns jetzt quasi zu Robert dann gemacht die sozusagen diese Teile in diesen sphären Denken können, wie eben so eine Tabellenkalkulation zu bedienen ist. Speaker 0: Auch mit KI zu sehen muss sich eigentlich uns anpassen.

Speaker 0: der Do What I Want Button macht doch einfach was ich will und zeigt mir das Ergebnis. Speaker 0: oder so dass wir eben auch denken müssen Die Möglichkeit einfach auch einer Befreiung aussahen wir mal technologischer Möglichkeiten der neunziger Jahre oder zweitausend. Speaker 0: Oder was auch immer, in denen viele von uns arbeiten. Speaker 0: Da möchte man ja auch ins nächste Level irgendwie gehen. Speaker 0: Das ist uns unmittelbar klar, wenn man mal so drauf schaut. Speaker 0: Erstens das Neue immer ein bisschen ... Aber andererseits ist es das Gegenwärtige oft nicht durfte und wie viele Leute Bullshit-Jobs machen müssen und nur irgendwelche Dinge abkreuzen.

Speaker 0: Und trotzdem die Zeit nicht ausreicht davon noch einen Stück weit wegzukommen. Speaker 0: mehr Menschlichkeit im Soziotechnensystem in der Arbeit Das ist eben auch die Vision, wir sagen auch menschzentrierte KI. Speaker 0: Wer hat's erfunden? Speaker 0: Ich hab das damals wirklich fürs DFKI Berlin mal als Spruch erfunden. Speaker 0: jetzt inzwischen haben wir es als Claim am ganzen DFKI dran also diese mensch-zentrierten KI das wäre mir eben auch wichtig. Speaker 1: Da hast du ja auch einen ganzen Podcast zu dem Thema wo ihr das immer wieder beleuchtet. Speaker 0: KI und Jetzt!

Speaker 1: Wahrscheinlich werden es die Hälfte der Leute denken, das klingt utopisch. Speaker 1: Aber die Machtverhältnisse sind andere. Speaker 1: Ich möchte noch mal stark machen, dass dieses utopische Momentum auf der anderen Seite die Handlungen anleitet und deshalb so wichtig ist diese Geschichten zu explodieren und eine andere danebenzustellen. Speaker 1: Und dann kann das auch handlungsorientiert werden? Speaker 0: Diese Verzwergung, die Druckerpresse ist jetzt erfunden. Speaker 0: Die anderen machen die Nutzen so schuld wie Lassens oder das Internet ist erfunden und die anderen machen so schön wie LASSENS. Speaker 0: also sowie auch beim Klimaschutz zu sagen Deutschland macht nur zwei Prozent der internationalen CO-Zwei wir machen keine Spitztentechnologie mehr.

Speaker 0: Auch wir nutzen jetzt die Technologie die andere uns geben. Speaker 0: dann ist sie halt nicht spitze. Speaker 0: oder wir sind jetzt mal einfach dass das Mittelmaß mit ansage. Speaker 0: ich weiß gar nicht was das für ein Spirit isst. Speaker 0: Also es kennen wir doch anders. Speaker 0: Wir sind doch das Land der Dichter und Denker und Löser und Tüftler alles Leute einen Kopf und Hände haben. Speaker 0: Und Bock, für eine bessere Welt irgendwo einzugestehen. Speaker 0: Das bin ich nicht bereit zu akzeptieren. Speaker 0: in dieses Speaker 0: Narrativ.". Speaker 1: Wir hängen hinterher. Speaker 1: Eine totale Chance, dass wir uns noch nicht komplett verkauft haben. Speaker 1: Ah! Speaker 0: Wir sind noch frisch und so. Speaker 0: Wir sind frei.

Speaker 0: Das macht uns als Menschen. Speaker 0: Das ist übrigens ein interessantes Ding. Speaker 0: Ich habe gerade das Büchthein von Rüdiger Safranski über die vierte Kränkung gelesen, wo es darum geht ... Jetzt nach dem kuppernikanischen Weltbild der Davins Erkenntnis, dass wir vom Affen abstammen und eben freut das wir nicht Herr in Herr im eigenen Haus sind. Speaker 0: Er eigentlich zwei große Unterschiede zwischen KI und Mensch postuliert und das eine ist Bewusstsein Menschen haben Bewusstsein und das andere ist Freiheit. Speaker 0: Menschen können frei entscheiden und die Systeme sind natürlich immer nur getriebener dessen, was ihre Daten und ihr Setup hergibt.

Speaker 0: Und das Interessante an dieser Sache ist dass ja eigentlich diese beiden Dinge auch hart umkämpft in der Philosophie und Neuropsychologie und überall sind das Bewusstsein nicht so wirklich klar wie es bei uns in die weiche Birne reinkommt. Speaker 0: und mit der Freiheit sozusagen. Speaker 0: wir kennen all diese Experimente schnelles Denken, langsames Denk, Determiniertheit usw. Speaker 0: Das finde ich wahnsinnig interessant, dass diese beiden für uns sehr wichtigen aber ungeklärten Konzepte jetzt sind, die hier den Unterschied machen. Speaker 0: Vielleicht lernen wir was über den Menschen noch an der Stelle?

Speaker 1: Das nehme ich mit dem One Health weil Gesundheit bei biologischen Systemen hat immer etwas mit Grenzziehung zu tun und der Freiheitsbegriff der jetzt da proklamiert wird, hat mit ich sprenger alle Grenzen zu tun und tue dann so das trotzdem noch eine menschliche Erlebenserfahrung hinten dranbleiben kann oder eben den nächsten evolutionären Stuf. Speaker 1: Und das ist ja eigentlich das wo wir merken Wir haben die Freiheit bestimmte Beschleunigungen abgeben etc. Speaker 1: auch zu stoppen wenn wir sagen dass es nicht im Sinne von Verbesserung von unserem gesundheitlichen Zustand gesunter.

Speaker 1: ganz ganzheitlich gedacht in dem Moment Speaker 0: Ja Speaker 1: Da fällt mir ein super Clip ein, von Desigual ist eine Werbung. Speaker 1: Aber ich glaube, wenn ich's richtig verstanden bin das sogar Elon Musk's Tochter und sie sitzt am Tisch und hat irgendwie so'n Drink in der Hand und dahinter der Roboter mit dem Rasenmäher und hier und da und sagt he was designed to be I was not Und schmeißt ihr im Drink in den Rasenmeer? Speaker 1: Der dann natürlich wie menschbar geplodiert. Speaker 1: Vielleicht ist das unser Schlusswort. Speaker 1: Danke dir! Speaker 0: Das ist das Schlusswort Prost

Speaker 1: So, vielen lieben Dank fürs Zuhören. Speaker 1: Neudenk ist ein Projekt von Mission Wertvoll – einem Science Society Netzwerk das sich den Chancen und Wegen einer nachhaltigen Zukunft verschrieben hat! Speaker 1: Wie wir da hinkommen, werden wir nur gemeinsam herausfinden und deshalb freuen wir uns über eure Aufmerksamkeit und euer Feedback. Speaker 1: Besonders dankbar sind wir all denen die unsere Arbeit hier durch eine Spende möglich machen. Speaker 1: Wenn auch du Lust hast, Neudenken finanziell zu unterstützen dann guck gerne mal in die Shownotes wie das geht…. Speaker 1: Und hoffentlich Bis auf ein nächstes Mal.

Open the transcript file

Hosts and Guests

Nobody is credited on this episode yet.

Credit the people on this episode

Be the first to rate this episode

More episodes

All episodes
  1. Zuversicht NEU DENKEN mit Elisabeth Niejahr

    Nov 10, 20261 hr 13 minAudio

    Wie zuversichtlich blickt ihr in die Zukunft? Angesichts von Kriegen, Klimakrise und politischer Polarisierung fällt es oft schwer, an positive Veränderungen zu glauben. Doch gerade für unsere Demokratie ist Zuversicht...

    Credit the people on this episode

  2. 1 Jahr NEU DENKEN | Q&A Special mit Julia Reuschenbach

    Nov 3, 20261 hr 26 minAudio

    Zum 1-jährigen Jubiläum von NEU DENKEN beantwortet Maja eure Fragen! In dieser besonderen Q&A-Folge sprechen wir über die spannendsten Erkenntnisse aus den bisherigen Gesprächen, persönliche Erfahrungen und Einblicke...

    Credit the people on this episode

  3. Solidarität NEU DENKEN mit Barbara Prainsack

    Oct 27, 20261 hr 20 minAudio

    Wann habt ihr das letzte Mal etwas aus Solidarität getan? Wahrscheinlich öfter, als ihr denkt. Denn ob Krankenversicherung, öffentliche Schulen oder Rente - Solidarität ist längst fest in unserem Alltag verankert. Doch...

    Credit the people on this episode

  4. Industrie NEU DENKEN mit Janka Oertel

    Oct 20, 20261 hr 7 minAudio

    „Vorsprung durch Technik“ - lange war das deutsche Industrieversprechen weltweit erfolgreich. Doch inzwischen geben andere den Ton an. China investiert massiv in Zukunftstechnologien, die USA fördern strategische...

    Credit the people on this episode

  5. Essen NEU DENKEN mit Chris Methmann

    Oct 13, 20261 hr 11 minAudio

    „Was habt ihr heute gegessen?“ ist nicht nur eine persönliche, sondern auch eine gesellschaftliche Frage. Denn was auf unseren Tellern landet, hängt stark davon ab, was uns überhaupt angeboten wird. Preise, Werbung,...

    Credit the people on this episode