Der EU AI Act reguliert künstliche Intelligenz auf Basis eines stufenweise eingeführten Risikomodells, anstatt allgemeine Verbote auszusprechen. Während einfache Werkzeuge wie Textgeneratoren weitgehend frei nutzbar bleiben, untersagt die Verordnung manipulative Praktiken, unzulässiges Social Scoring sowie gefährliche Formen der vorgreifenden Polizeiarbeit. Besonders sensible Bereiche wie Arbeitsmarkt und Bildung unterliegen strengen Auflagen hinsichtlich Dokumentation und menschlicher Aufsicht. Ergänzend schreiben neue Transparenzvorgaben die eindeutige Kennzeichnung von Deepfakes und KI-Kommunikation vor. Kritiker bemängeln jedoch die schwierige Einordnung von Komplexanwendungensowie den ständigen Anpassungsbedarf angesichts rasant fortschreitender Technologien. Grundlage jeder Folge ist ein Artikel von georgschneider.de, der mit Unterstützung von KI und Google NotebookLM für das Podcast-Format aufbereitet wird. Die verwendeten Stimmen sind synthetisch. Über Georg Schneider und das Logbuch einer defekten Zukunft Hi, ich bin der aus der URL. Ich schreibe über das, was bei genauerem Hinschauen von der Zukunft übrig bleibt. Das ist meistens etwas weniger glänzend als angekündigt. Es geht um KI, das Leben im Netz, Berufe im Wandel und die Frage, welche der großen Versprechen den Kontakt mit der Wirklichkeit überstehen. Um Utopien, technische Fortschritte, digitale Absurditäten und gelegentlich um Dinge, bei denen man sich fragt, ob wirklich jemand vorher darüber nachgedacht hat. Und wenn die Welt dafür zu klein wird, geht es eben um den Kosmos. Die Zukunft kommt sowieso. Überraschend ist nur, wie oft sie schon da war und niemand sie bemerkt hat. https://georgschneider.de
Audio and video play straight from the show's own hosting. PodSubs stores and serves no media.
Transcript
From the show. Tap a time to play from there.
SPEAKER_00Stell dir vor, du bewirbst dich auf deinen, also wirklich auf deinen absoluten Traumjob. Du hast wochenlang an diesem Lebenslauf gefeilt. Das Anschreiben ist quasi perfekt. Du drückst auf Senden und exakt zwei Sekunden später kommt direkt die Absage.
SPEAKER_01Autsch.
SPEAKER_00Ja.
SPEAKER_01Das kennt man ja irgendwie.
SPEAKER_00Genau, und das Ding ist, kein Mensch hat deine Unterlagen je gesehen. Eine Maschine hatte ich einfach aussortiert, weil, naja, weil dein Profil statistisch gesehen halt nicht ins Raster passt.
SPEAKER_01Genau.
SPEAKER_00Und bis vor kurzem war das so eine rechtliche Grauzone, so ein Schulterzucken der Industrie. Aber heute, am 2. Oktober 2026, kann genau dieser Vorgang an Unternehmen wirklich Millionen an Strafen kosten.
SPEAKER_01Absolut.
SPEAKER_00Und damit willkommen zu unserer heutigen Tiefenanalyse. Wir haben heute ein Thema auf dem Tisch, das gerade jetzt in diesem Herbst die gesamte digitale Welt irgendwie komplett auf den Kopf stellt.
SPEAKER_01Ja, und damit rücken wir einen Text in den Fokus, der, ich sag mal, für viele nach dem absoluten Informationsalbtraum klingt. Wir schauen uns nämlich den Artikel an, der heißt Was darf KI nach dem EU AI-Act?
SPEAKER_00Ja, und wenn du jetzt Gesetzestext hörst oder 113 Artikel und zahllose Anhänge, dann schaltet dein Gehirn vermutlich direkt auf Standby.
SPEAKER_01Verständlicherweise, ja.
SPEAKER_00Das klingt halt nach trockener, endloser Juristerei. Und am Ende weiß man meistens weniger als vorher. Aber genau dafür sind wir ja heute hier. Unsere Mission für diesen Deep Dive ist es, dieses gigantische Regelwerk einfach mal zu filtern. Richtig. Wir wollen verstehen, wie das Ganze mechanisch funktioniert, ohne dass wir uns da jetzt im Fachjargon verheddern.
SPEAKER_01Und ich glaube, der allererste Schritt dabei ist, einen bestimmten Mythos aus der Welt zu schaffen. Der hält sich nämlich extrem hartnäckig.
SPEAKER_00Welcher, genau?
SPEAKER_01Dass der EU AI-Act so ein riesiges europäisches Verbotsschild für künstliche Intelligenz wäre. Also wer in der Tech-Branche arbeitet oder einfach gerne neue Modelle ausprobiert, muss jetzt nicht panisch den Server herunterfahren.
SPEAKER_00Das ist so ein wichtiger Punkt. Wenn man sich die Quellen da ansieht, merkt man ziemlich schnell, das Gesetz will eigentlich gar nicht den Stecker ziehen. Nein, überhaupt nicht. Das ist eher so eine längst überfällige Gebrauchsanweisung, oder? Für eine Technologie, die in den letzten Jahren schlichtweg viel, viel schneller gewachsen ist als unsere gesellschaftlichen Spielregeln.
SPEAKER_01Exakt, so kann man das sagen, ja.
SPEAKER_00Aber um diese Gebrauchsanweisung zu verstehen, dürfen wir nicht einfach in irgendwelchen Listen wühlen. So nach dem Motto: Das ist erlaubt, das nicht. Wir müssen uns erstmal ansehen, wie die EU hier eigentlich reguliert. Okay, lass uns das mal entpacken.
SPEAKER_01Sehr gerne. Und das absolute Stichwort hier lautet, und das steht wirklich im Zentrum, der risikobasierte Ansatz.
SPEAKER_00Okay.
SPEAKER_01Die Grundphilosophie ist nämlich nicht, die Technologie an sich zu bewerten, sondern ausschließlich ihren Anwendungszweck.
SPEAKER_00Also wofür ich sie nutze.
SPEAKER_01Genau. Stell dir vor, du hast eine KI, die dir eine lustige Geburtstagsrede für deinen Onkel schreibt, im Stil von Shakespeare oder so.
SPEAKER_00Mach ich ständig.
SPEAKER_01Siehst du? Und diese KI nutzt unter Umständen exakt dieselbe technologische Basisarchitektur wie eine KI, die in einer Bank Kreditanträge bewilligt oder ablehnt.
SPEAKER_00Ah, okay.
SPEAKER_01Die Mathematik dahinter, also diese neuronalen Netze, die mögen ähnlich komplex sein. Aber der Output, also das Ergebnis, hat eine völlig andere gesellschaftliche Fallhöhe. Was hier wirklich faszinierend ist, ist, wie aus dieser total simplen Grundidee am Ende ein derart komplexes Regelwerk mit 113 Artikeln entstanden ist.
SPEAKER_00Weißt du, ich habe dazu beim Lesen unserer Quellen eine Analogie im Kopf gehabt. Korrigiere mich gerne, wenn das hinkt, aber das erinnert mich total stark an diese Zulassungsprozesse in der Pharmaindustrie.
SPEAKER_01Oh, okay. Erzähl mal.
SPEAKER_00Naja, die Behörden verbieten ja nicht die chemischen Elemente an sich, also Kohlenstoff, Wasserstoff, Sauerstoff, das ist ja alles frei verfügbar. Es geht um die Pille, die daraus gemischt wird.
SPEAKER_01Ja.
SPEAKER_00Wenn du jetzt ein leichtes Vitaminpräparat auf den Markt bringst, dann füllst du ein paar Formulare aus und gut ist. Das wäre dann in deiner Erklärung unser Textgenerator für die Geburtstagsrede. Oder meinetwegen der Spam-Filter im E-Mail-Postfach.
SPEAKER_01Das ist ein hervorragendes Bild. Das trifft nämlich genau den Kern. Der Spam-Filter oder auch das Empfehlungssystem von deinem Streaming-Anbieter, die stellen ja kein signifikantes Risiko für deine Grundrechte dar.
SPEAKER_00Eben.
SPEAKER_01Und deswegen fallen die in eine Kategorie mit sehr, sehr geringen regulatorischen Anforderungen. Die EU greift da quasi überhaupt nicht ein. Du brauchst also keine klinischen Studien für ein Vitaminpräparat, um mal in deiner Analogie zu bleiben.
SPEAKER_00Aber, und da wird es ja spannend, wenn du aus exakt denselben chemischen Elementen ein starkes Herzmedikament entwickelst oder irgendwas, das schwerste Nebenwirkungen haben kann, dann sieht die Welt plötzlich ganz anders aus, oder? Komplett. Da musst du klinische Studien vorlegen, jede kleinste Nebenwirkung dokumentieren und dich permanent überwachen lassen.
SPEAKER_01Exakt, das ist das Prinzip. Und weil wir gerade beim extremen Ende dieser Skala sind, es gibt eben auch Rezepturen, die niemals zugelassen werden, weil sie schlichtweg Gift sind.
SPEAKER_00Die rote Linie.
SPEAKER_01Genau. Der AI-Act zieht hier eine sehr, sehr harte rote Linie. Bestimmte KI-Praktiken stuft die Europäische Union als derart inkompatibel mit unseren Werten ein, dass sie komplett und wirklich ausnahmslos vom Tisch müssen.
SPEAKER_00Lass uns genau da mal eintauchen. Was fällt durch diesen, nennen wir ihn mal, europäischen Toxizitätstest komplett durch? Ich habe den Quellen von gezielter Manipulation gelesen, aber wie greift man das juristisch? Werbung manipuliert mich doch auch jeden Tag.
SPEAKER_01Das stimmt, aber der Unterschied liegt hier in der Umgehung des menschlichen Bewusstseins. Es geht wirklich um Systeme, die unterschwellige Techniken einsetzen. Und zwar um das Verhalten einer Person so zu beeinflussen, dass ihre Entscheidungsfähigkeit erheblich beeinträchtigt wird.
SPEAKER_00Okay, und dann?
SPEAKER_01Und dadurch muss dann ein physischer oder psychischer Schaden entstehen. Erst dann greift dieses Verbot der Manipulation.
SPEAKER_00Hast du da vielleicht ein konkretes Beispiel, also wie so etwas in der echten Praxis aussehe?
SPEAKER_01Klar. Stell dir mal so ein interaktives, KI-gesteuertes Spielzeug vor. Das analysiert die Stimme und das Sprachmuster eines Kindes. Es erkennt dann, okay, das Kind ist gerade traurig oder extrem leicht beeinflussbar. Und es nutzt genau dieses psychologische Profil aus, um das Kind zu einer gefährlichen Handlung zu drängen.
SPEAKER_00Oh, wow, das ist krass.
SPEAKER_01Ja, und das ist eben keine Science Fiction mehr. Die technischen Grundlagen dafür existieren längst. Die KI nutzt hier gezielt die Schutzbedürftigkeit aus, in dem Fall eben das Alter des Kindes. So etwas ist unter dem AI-Act schlicht und ergreifend illegal.
SPEAKER_00Okay, das leuchtet absolut ein. Was steht denn noch auf dieser schwarzen Liste? Es ging auch um den Staat selbst, richtig?
SPEAKER_01Ja, ganz massiv sogar. Ein sehr prominentes Verbot betrifft das sogenannte Social Scoring.
SPEAKER_00Ah ja, davon hat man ja schon oft in den Medien gehört.
SPEAKER_01Genau. Das ist diese Bewertung oder Klassifizierung von Menschen durch Behörden, basierend auf ihrem sozialen Verhalten oder bestimmten Persönlichkeitsmerkmalen. Und wenn aus diesem Score dann echte Nachteile entstehen, also du bekommst keine Wohnung mehr, weil dein Bürgerscore zu niedrig ist, das kennen wir ja in Ansätzen aus anderen Weltregionen, dann ist das in der EU komplett verboten.
SPEAKER_00Und dann war in den Texten noch von Predictive Policing die Rede, also so eine vorausschauende Polizeiarbeit, oder?
SPEAKER_01Richtig. Es ist jetzt verboten, KI-Systeme einzusetzen, die ausschließlich auf Basis von Profiling das Risiko bewerten, ob eine Person in Zukunft eine Straftat begehen wird.
SPEAKER_00Okay.
SPEAKER_01Man darf also keine statistischen Wahrscheinlichkeiten einfach über die Unschuldsvermutung stellen.
SPEAKER_00Warte mal, wenn ich mir das hierzu anhöre, also das manipulative Spielzeug, der Staat, der Bürger nach Verhalten sortiert, die Polizei, die Menschen aufgrund von Statistiken verhaftet, wir regulieren hier doch eigentlich gar nicht den Code an sich, oder? Ich meine, ein Algorithmus ist ja nicht von sich aus irgendwie bösartig. Eine Matrix-Multiplikation hat keine ethischen Absichten. Es klingt vielmehr so, als würde dieses Gesetz eigentlich das menschliche Verhalten, also den Einsatz, regulieren.
SPEAKER_01Das ist eine extrem präzise Beobachtung. Technik agiert ja niemals in so einem luftleeren Raum. Eben. Der AI-Act geht quasi davon aus, dass der Code selbst neutral ist. Aber das sozio-technische System, in das er dann eingebettet wird, das ist es eben nicht.
SPEAKER_00Verstehe.
SPEAKER_01Das Gesetz versucht also, den Schaden zu verhindern, der durch die menschliche oder auch organisatorische Implementierung entsteht. Die rote Linie wird nicht vor der Mathematik gezogen, sondern vor der gesellschaftlichen Konsequenz. Also wenn Organisationen diese Mathematik einsetzen, um Machtstrukturen auszunutzen.
SPEAKER_00Wenn also Manipulation und Social Scoring die absoluten No-Gos sind, was passiert dann mit Systemen, die uns nicht direkt manipulieren, aber trotzdem extrem tief in unser Leben eingreifen?
SPEAKER_01Da sind wir bei der nächsten Stufe.
SPEAKER_00Das bringt uns nämlich zurück zu meinem Beispiel ganz vom Anfang, diese KI, die im Vorstellungsgespräch über meine Karriere entscheidet. Und hier wird es wirklich interessant.
SPEAKER_01Ja, damit betreten wir nämlich das absolute Herzstück des AI-Acts. Die sogenannte Hochrisiko-KI. Das ist diese Grauzone, in der die weitaus meiste regulatorische Arbeit stattfindet. Hier geht es um Bereiche, die einfach essentiell für die Gesellschaft oder das Individuum sind.
SPEAKER_00Welche sind das laut unseren Quellen konkret? Also, was fällt alles unter Hochrisiko?
SPEAKER_01Bildung und Berufsbildung gehören ganz klar dazu. Also wer darf auf die Universität, wer bekommt das begehrte Stipendium?
SPEAKER_00Extrem wichtig.
SPEAKER_01Dann natürlich der gesamte Bereich Beschäftigung, also genau deine HR-Software, die Bewerber filtert oder Mitarbeiter bewertet. Aber auch der Zugang zu essentiellen privaten und öffentlichen Dienstleistungen, kritische Infrastruktur und weite Teile des Asyl- und Migrationswesens.
SPEAKER_00Okay, bleiben wir mal kurz bei dieser HR-Software, weil das so ein greifbares Beispiel ist. Wenn ein Unternehmen so eine KI einsetzt, ist sie ja nicht verboten. Sie ist nur, wie du sagst, Hochrisiko. Was genau bedeutet das jetzt in der Praxis? Was muss da passieren, bevor diese Software überhaupt über Lebensläufe entscheiden darf?
SPEAKER_01Da kommen wir wieder zurück zu deiner schönen Pharma-Analogie. Du darfst das Medikament verkaufen, aber die Auflagen sind massiv.
SPEAKER_00Okay.
SPEAKER_01Der Anbieter dieses Systems muss ein absolut lückenloses Risikomanagementsystem aufbauen. Das bedeutet vor allem eines: Datengovernance. Er muss nachweisen, dass die Daten, mit denen die KI trainiert wurde, auch wirklich repräsentativ und fehlerfrei sind.
SPEAKER_00Das heißt, wenn die HR-Software historisch gesehen nur mit Lebensläufen von weißen Männern trainiert wurde, wird sie Frauen oder Minderheiten statistisch benachteiligen, oder? Genau, das ist das Problem. Und der Anbieter muss jetzt technisch beweisen, dass er diese Verzerrungen, also den sogenannten Bias, aktiv minimiert hat.
SPEAKER_01Und wie weiß man das nach?
SPEAKER_00Ich meine, so ein neuronales Netz wird doch in der Regel als Black Box beschrieben. Irgendwann weiß der Entwickler selbst nicht mehr genau, warum jetzt dieser eine Knotenpunkt genau diesen Wert an den nächsten feuert.
SPEAKER_01Richtig. Das ist das große Problem der Erklärbarkeit. Und genau deshalb erzwingt der AI-Act hier eine extreme Dokumentationspflicht und Nachvollziehbarkeit.
SPEAKER_00Das heißt, alles aufschreiben.
SPEAKER_01Die Systeme müssen detaillierte Protokolle erstellen. Sie müssen also quasi mitloggen, was sie tun. Wenn bei einer staatlichen Prüfung oder meinetwegen bei einer Klage nachgefragt wird, warum Bewerberin X abgelehnt wurde, dann darf die Antwort einfach nicht mehr lauten, tja, das hat die Blackbox halt so entschieden. Das reicht nicht mehr. Nein, es muss erklärbar sein. Und ganz wichtig, es muss immer eine menschliche Aufsicht geben. Das nennt sich das Human-in-The-Loop-Prinzip. Ein Mensch muss die Entscheidung der KI letztlich immer überstimmen können.
SPEAKER_00Das betrifft jetzt aber vor allem die großen Tech-Giganten, oder? Ich frage mich die ganze Zeit, was ist denn, wenn du, der uns gerade zuhört, in einem ganz normalen mittelständischen Unternehmen arbeitest?
SPEAKER_01Ja.
SPEAKER_00Sagen wir, du bist da Entwickler und nimmst dir einfach ein frei verfügbares Open-Source-Modell aus dem Netz. Du passt es ein bisschen an eure firmeneigenen Daten an und baust daraus ein cooles Tool, das eure Bewerbermails sortiert. Wer ist denn in dem Fall dann eigentlich verantwortlich?
SPEAKER_01Oh, das ist eine der brisantesten Fragen in der Praxis überhaupt. Der AI-Act unterscheidet dann nämlich sehr stark zwischen dem Anbieter, also demjenigen, der das System in Verkehr bringt, und dem Betreiber, der es einfach nur nutzt.
SPEAKER_00Okay, und wo stehe ich als Entwickler in der Firma?
SPEAKER_01Wenn du als mittelständisches Unternehmen ein System grundlegend veränderst oder es für einen neuen Hochrisiko-Zweck, wie eben HR, anpasst, dann kannst du rechtlich plötzlich in die Rolle des Anbieters rutschen. Ach krass. Ja, und dann treffen dich diese ganzen massiven Dokumentationspflichten voll. Du musst quasi die klinische Studie für dein angepasstes Werkzeug komplett selbst durchführen.
SPEAKER_00Boah, das klingt nach einem enormen bürokratischen und technischen Aufwand. Aber wir reden hier die ganze Zeit so ein bisschen theoretisch. Also was bedeutet das alles konkret? Wir haben heute den 2. Oktober 2026. Da stellt sich doch für dich und mich die drängende Frage, ist das alles eigentlich schon Realität? Denn wenn ich mich online umschaue, habe ich jetzt nicht das Gefühl, dass sich über Nacht plötzlich alles verändert hat.
SPEAKER_01Das liegt an der schrittweisen Einführung dieses Gesetzes. Ein solches Monstergesetz kann man ja nicht einfach an einem Stichtag komplett scharf schalten. Das würde die Wirtschaft komplett lahmlegen.
SPEAKER_00Das stimmt.
SPEAKER_01Deswegen gibt es einen gestaffelten Zeitplan. Die absoluten Verbote, über die wir vorhin sprachen, also das Manipulationsthema und so, die sind bereits im Februar 2025 in Kraft getreten.
SPEAKER_00Okay, das war also quasi der erste Schritt.
SPEAKER_01Genau. Dann folgten im August 2025 die ersten Regeln für diese großen allgemeinen KI-Modelle. Aber der Moment, in dem der AI-Act wirklich sichtbar und auch greifbar für die breite Masse wurde, der war erst vor wenigen Wochen, nämlich im August 2026.
SPEAKER_00Ah, richtig. In den Quellen wird dieser Termin auch besonders hervorgehoben. Da kamen doch diese Durchsetzungsbefugnisse und vor allem diese riesige Welle an Transparenzregeln, richtig?
SPEAKER_01Exakt. Seit August 2026 gelten harte Informationspflichten. Und die betreffen uns wirklich alle direkt in unserem digitalen Alltag.
SPEAKER_00Inwiefern?
SPEAKER_01Wenn du heute online mit einem System kommunizierst, musst du zwingend darüber informiert werden, dass auf der anderen Seite eine KI sitzt und kein Mensch.
SPEAKER_00Okay, lass uns das mal technisch durchdenken. Wenn ich im Support-Chat von irgendeinem Online-Shop bin und nach meiner Bestellung frage. Vor zwei Jahren dachte ich vielleicht noch: wow, dieser Mitarbeiter tippt aber extrem schnell. Heute muss mir das Interface klar anzeigen, Achtung, du sprichst mit einem Bot. Das ist ja noch relativ simpel umzusetzen. Man programmiert einfach einen Pop-Up. Aber wie ist das bei Deepfakes? Ein manipuliertes Video von einem Politiker, das outet sich ja nicht freiwillig als Fake. Wie zwingt man denn eine Technologie dazu, ehrlich zu sein?
SPEAKER_01Das ist die ganz große technische Herausforderung, mit der die Branche auch gerade noch ringt. Die EU verlangt, dass künstlich erzeugte oder manipulierte Bild-, Audio- oder Videoinhalte als solche gekennzeichnet werden.
SPEAKER_00Aber wie?
SPEAKER_01Die Umsetzung läuft meist über maschinenlesbare Formate. Das bedeutet, dass nicht zwingend so ein riesiges Wasserzeichen quer über dem Bild liegen muss, das jeder sofort sieht. Stattdessen werden Metadaten oder kryptografische Zertifikate, ähnlich wie bei diesem C2PA-Standard, direkt in die Dateistruktur eingebettet.
SPEAKER_00Das heißt, wenn ich so ein Bild hochlade, liest mein Browser oder die Social Media Plattform im Hintergrund diese Metadaten aus und pappt dann automatisch das Label dran, so nach dem Motto KI generiert.
SPEAKER_01Ganz genau. Zumindest ist das die Theorie. Zusätzlich gibt es übrigens auch Regeln für KI-Texte, die Themen von öffentlichem Interesse behandeln. Also quasi so Nachrichtenbots.
SPEAKER_00Ah, okay.
SPEAKER_01Wenn diese Texte nicht redaktionell von einem echten Menschen geprüft wurden, muss auch das offengelegt werden. Die Leser sollen einfach wissen, ob sie maschinell aggregierte Fakten konsumieren oder echten, überprüften Journalismus.
SPEAKER_00Aber sorry, diese Umsetzung muss doch ein völliges Chaos verursacht haben. Offene Modelle, die jeder einfach auf seinem eigenen Laptop laufen lassen kann, die schreiben ja nicht von sich aus solche Zertifikate in ihre Dateien. Es verwundert mich also ehrlich gesagt überhaupt nicht, dass in unserem Text erwähnt wird, dass die EU-Kommission buchstäblich in letzter Sekunde, also im Juli 2026, nur einen Monat vor Inkraft treten, noch schnell Leitlinien zu diesen Transparenzpflichten veröffentlichen musste.
SPEAKER_01Ja, das war hektisch. Das zeigt eben auch, wie massiv die Diskrepanz zwischen politischem Willen und technischer Machbarkeit oft ist. Die Kommission musste nachsteuern, weil viele Unternehmen schlichtweg nicht wussten, wie tiefgreifend diese Kennzeichnungspflichten eigentlich in ihre bestehenden Systeme eingreifen.
SPEAKER_00Kann ich mir vorstellen.
SPEAKER_01Und wir sind mit dem Zeitplan ja auch längst noch nicht am Ende. Die richtig harten Bandagen für bestimmte Hochrisikosysteme aus Anhang 3 des Gesetzes, die greifen erst im Dezember 2027. Und für Systeme, die in Produkte eingebaut sind, die eh schon reguliert werden, also wie Autos oder Medizintechnik, da geht es sogar erst im August 2028 los.
SPEAKER_00Warte mal, das muss ich jetzt mal zusammenfassen, weil das führt direkt zu dem größten Kritikpunkt, der in der Fachwelt kursiert. Wir hatten Verbote in 2025. Wir haben hektische Leitlinien im Juli 2026 bekommen. Im August 2026 traten diese Transparenzregeln in Kraft. 2027 kommt der nächste Schwung, 2028 noch einer. Wenn ich jetzt ein Tech-Start-up in Europa gründe, ist das doch ein absoluter Albtraum. Woher soll ich denn heute wissen, ob meine Software, die heute legal ist, morgendlich plötzlich auf dieser Hochrisikoliste steht?
SPEAKER_00Ersticken wir da nicht eigentlich jede Innovation auf Raten?
SPEAKER_01Das ist genau die ständige Kritik aus dem Silicon Valley, aber natürlich auch von unseren heimischen Gründern hier. Die Sorge vor der regulatorischen Dauerbaustelle. Und diese Sorge, das muss man fairerweise sagen, ist auch nicht unbegründet. Unsere Quellen erwähnen explizit, dass die Kategorien des AI-Acts nicht in Stein gemeißelt sind. Im Mai 2026 gab es schon einen ersten offiziellen Bericht der Kommission, der genau das überprüft hat. Müssen wir neue Praktiken verbieten, sind neue Anwendungsbereiche plötzlich ins Hochrisikofeld gerückt.
SPEAKER_00Aber wie verteidigt die EU das? Warum macht man nicht einfach ein Gesetz, das mal für zehn Jahre feststeht, damit die Unternehmen endlich mal Planungssicherheit haben?
SPEAKER_01Wenn wir das mit dem Großen Ganzen verbinden, wird klar. Weil das bei künstlicher Intelligenz schlicht unmöglich ist. Eine starre Regulierung wäre in dem Moment veraltet, in dem sie im Amtsblatt gedruckt wird.
SPEAKER_00Weil die Text so schnell ist.
SPEAKER_01Genau. Stell dir vor, ein neues KI-Modell entwickelt plötzlich durch bloße Skalierung, Fähigkeiten, die vorher absolut niemand vorhergesehen hat, sogenannte emergente Fähigkeiten.
SPEAKER_00Okay.
SPEAKER_01Plötzlich kann ein Chatbot, der eigentlich nur Texte zusammenfassen sollte, durch eine neue Prompt-Technik massiv psychologisch manipulieren. Wenn das Gesetz dann zehn Jahre starr wäre, stünde die Gesellschaft diesem neuen Risiko komplett schutzlos gegenüber.
SPEAKER_00Das heißt, diese Dauerbaustelle ist am Ende gar kein Bug, sondern eigentlich ein Feature.
SPEAKER_01Genau das. Die Modularität des Gesetzes. Also dass Listen angepasst werden können, dass laufend neue Codes of Practice entwickelt werden. Dass das AI-Office der EU immer wieder Leitlinien nachschiebt. Das ist die einzige Möglichkeit, mit dem rasanten Tempo der Technologie irgendwie Schritt zu halten.
SPEAKER_00Verstehe.
SPEAKER_01Ja, für Unternehmen ist das extrem anstrengend. Sie müssen nicht nur ihre Technik verstehen, sondern ihre juristische Rolle quasi permanent neu bewerten. Sind sie heute Entwickler, morgen Anbieter, übermorgen Betreiber? Aber das ist letztlich der Preis, den Europa für ein Mindestmaß an digitaler Sicherheit zahlt.
SPEAKER_00Das ist wirklich ein starkes Argument. Ein lebendes Gesetz für eine fast schon lebendige Technologie. Lass uns die losen Fäden dieses Deep Dives mal zusammenziehen. Wenn wir auf unsere anfängliche Frage zurückblicken, was darf KI nach dem EUAI-Act? Dann ist die Antwort eben nicht eine simple Top-Ten-Liste.
SPEAKER_01Richtig. Die Antwort lautet eigentlich immer, es kommt auf den Kontext an. Die allermeisten KI-Anwendungen, die wir im Alltag so nutzen, die bleiben völlig unreguliert und erlaubt.
SPEAKER_00Genau.
SPEAKER_01Sobald KI aber Entscheidungen trifft, die unseren Job, unsere Bildung oder unsere Rechte beeinflussen, verlangt das Gesetz von den Anbietern absolute Transparenz, fehlerfreie Daten und menschliche Kontrolle. Und die wenigen Dinge, die unsere Autonomie wirklich bedrohen, die fliegen komplett raus.
SPEAKER_00Am Ende des Tages sind das, finde ich, die faszinierendste Erkenntnis aus dem heutigen Material. Reguliert und erzieht dieser AI-Act ja überhaupt nicht die Maschine. Der Code macht, was der Code macht. Das Gesetz erzieht ausschließlich die Menschen, die Unternehmen und die Organisationen, die diese Werkzeuge in unsere Gesellschaft integrieren. Es zwingt sie einfach, Verantwortung für die Konsequenzen zu übernehmen.
SPEAKER_01Das wirft allerdings eine wichtige Frage auf, die weit über unsere Quellen hinausgeht, aber die sich aus dieser Struktur unweigerlich ergibt.
SPEAKER_00Welche meinst du?
SPEAKER_01Wenn dieses Gesetz flexibel bleiben muss und die Definitionen von verbotenen Praktiken anpassbar sind, was passiert eigentlich in fünf oder zehn Jahren? KI-Systeme werden zunehmend empathischer, sie können Emotionen täuschend echt simulieren und wahnsinnig personalisierte Diskurse führen. Wo verläuft dann die Grenze zwischen einem guten Marketing, einem motivierenden KI-Coach und verbotener psychologischer Manipulation? Werden wir als Gesellschaft den Maßstab dafür, was wir als manipulative Einmischung empfinden, vielleicht unbewusst immer weiter verschieben?
SPEAKER_01Werden wir einfach toleranter gegenüber der Maschine?
SPEAKER_00Wow, das ist eine unfassbar spannende Frage. Die rote Linie, die wir da heute gezogen haben, könnte in zehn Jahren schon ganz woanders liegen, weil wir uns schlichtweg an die subtile Beeinflussung gewöhnt haben. Das ist definitiv ein Gedanke, den du in deinen Tag mitnehmen solltest. Egal, ob du KI nur nutzt oder sie vielleicht sogar selbst baust. Und damit sind wir am Ende unserer heutigen tiefgreifenden Analyse angekommen. Vielen Dank, dass du dir die Zeit genommen hast, mit uns durch dieses juristische und technische Labyrinth zu navigieren. Wir hoffen, wir konnten dir ein klares Bild davon geben, wie die Spielregeln von morgen heute geschrieben werden.
Die Musikindustrie hat kürzlich eine neue Ära eingeläutet, indem sie bei den ersten AI Music Awards in Los Angeles Preise für vollständig oder teilweise computergenerierte Werke verglichen und verliehen hat. Als größte...
Die vorliegenden Quellen beleuchten, wie moderne Internetplattformen durch Algorithmen auf maximale Interaktion optimiert sind und dabei gezielt menschliche Empörung ausnutzen. Da Wut und moralische Aufregung messbares...
Eine globale Microsoft-Panne im November 2026 legte zahlreiche Unternehmen sowie Behörden lahm und zwang viele Beschäftigte zu einer unfreiwilligen Arbeitspause. Während kritische Institutionen unter den Ausfällen...
Die NATO erprobt im Rahmen der Initiative Task Force X-Arctic unbemannte Roboter für den Einsatz in der extremen Kälte der Arktis. Diese autonomen Boden- und Wasserfahrzeuge sollen zur Überwachung abgelegener Regionen...
Die Digitalisierung hat den öffentlichen Diskurs zwar demokratisiert, gleichzeitig aber auch zu einer besorgniserregenden Zunahme persönlicher Anfeindungen im Netz geführt. Vor allem Journalistinnen sind im Alltag...