#109 Deep Dive

Lukas

In diesem Deep Dive geht es um das Ende der fotografischen Wahrheit. Es geht um ein Wasserzeichen, das mitwandert, wenn ihr Text kopiert. Und es geht um eine Nebenwirkung, die niemand bestellt hat. Herzlich Willkommen, ich bin Dein Gastgeber Lukas, hier erfährst Du alles rund um das Thema EU AI Act, Governance und Compliance. Das hier ist der Deep Dive zur Episode einhundertneun von Layer acht aus dem August zweitausendsechsundzwanzig. Ein Thema, eine Stunde Nachdenken, komprimiert auf ein paar Minuten. Lasst uns starten.

Lukas

Die Grundlage für diese Folge ist ein Bericht von Pieter Haeck bei POLITICO aus Brüssel. Der Titel, sinngemäß übersetzt. Die eigene KI-Nutzung zu verbergen, wird dank Brüssel deutlich schwerer. Und Haeck beginnt mit einem Satz, den ich seit Wochen im Kopf habe. Manchmal wirkt es, als sei die eine Hälfte der Welt damit beschäftigt, heimlich KI zu benutzen. Und die andere Hälfte damit, sie dabei zu erwischen. (kurze Pause) Das ist die Ausgangslage. Und ich glaube, jeder von euch kennt beide Seiten davon. Fangen wir mit der Vorgeschichte an. Seit dem Aufstieg der generativen KI Ende zweitausendzweiundzwanzig gibt es eine Sorge, die immer dieselbe ist. Dass ihre Dominanz das Ende der sogenannten fotografischen Wahrheit bedeutet. Was ist damit gemeint? Fotografische Wahrheit heißt, ganz schlicht. Was du siehst, ist standardmäßig wahr. Nicht garantiert wahr. Nicht bewiesen wahr. Aber die Grundannahme lautet. Ein Foto zeigt etwas, das passiert ist. Diese Grundannahme hat über einhundertfünfzig Jahre gehalten. Sie hat Gerichtsverfahren getragen, Journalismus, Familienalben, Beweisführung. Und sie ist in etwa drei Jahren zerbröselt. Die führenden KI-Unternehmen haben gesagt, sie wollten dieses Risiko angehen. Indem sie die Herkunft der von ihren Modellen erzeugten Inhalte kenntlich machen. (...) Und jetzt kommt das Wort, um das sich alles dreht.

Lukas

Ihre Bemühungen waren weitgehend freiwillig. Freiwillig ist in dieser Branche kein Zustand. Freiwillig ist eine Absichtserklärung mit Ausstiegsklausel. Und genau da setzt die EU an. Die europäischen Gesetzgeber verlangen jetzt, dass Internetnutzer erfahren, ob sie mit einer KI interagieren. Und ob das, was sie sehen, die Ausgabe eines Bots ist oder die Schöpfung eines Menschen. Seit dem zweiten August müssen Anbieter der modernsten generativen KI-Modelle genau das sicherstellen. Anthropic. OpenAI. Und alle, die in dieser Liga spielen. Francesca Pole, Anwältin für Datenschutz und Cybersicherheit bei DLA Piper, sagt dazu, die Transparenzpflichten seien im Moment der Hauptfokus. Das, worüber alle sprechen. Ashley Casovan, Managing Director des AI Governance Center bei der IAPP, formuliert es grundsätzlicher. Sie glaubt nicht, dass die Menschen das Ausmaß der Veränderung verstehen. Ihr Bild dafür finde ich stark. Wir kommen aus einer Welt, in der man eine fundierte Entscheidung treffen musste, ob etwas KI-generiert ist. Und wir gehen in eine Welt, in der solche Inhalte ein verifiziertes Symbol tragen. Oder eine Einblendung. Das ist der Unterschied zwischen einer Vermutung und einem Befund. Zwischen "das sieht komisch aus" und "hier steht es". Schauen wir uns an, wie das technisch umgesetzt wird. Denn hier wird es konkret, und hier unterscheiden sich die Anbieter. OpenAI hat Ende Juli erklärt, Menschen sollten besseren Kontext zu den Inhalten haben, die sie online sehen. Einschließlich der Frage, ob etwas von KI erstellt oder bearbeitet wurde. Technisch stützt sich das Unternehmen auf SynthID. Das ist ein Wasserzeichen-Werkzeug, entwickelt von DeepMind, der KI-Sparte von Google. SynthID legt KI-generierten Bildern eine unsichtbare Ebene auf. Ende Juli wurde das auf Audio ausgeweitet. Anthropic ist am Montag nachgezogen. Alle Claude-Modelle, die seit dem zweiten August erschienen sind, fügen — Zitat — eingebettete Wasserzeichen im Text hinzu. Und jetzt der technische Kern, den ich für den eigentlich interessanten Teil der ganzen Geschichte halte. Das Wasserzeichen ist in den Text selbst eingewoben. Anthropic schreibt dazu. Du wirst es nicht sehen, und es verändert weder Bedeutung noch Qualität noch Lesbarkeit der Antwort. Und dann kommt der Satz, der alles ändert. Weil das Wasserzeichen Teil des Textes ist, wandert es mit dem Text mit, wenn er kopiert und woanders eingefügt wird. (...) Lasst das kurz wirken. Copy-Paste entfernt es nicht. Das Wasserzeichen ist keine Datei-Eigenschaft, die beim Umkopieren verloren geht. Es ist keine Metadate im Header, die ein Screenshot abschneidet. Es ist im Text. Wer bisher davon ausgegangen ist, "ich kopiere es raus und dann ist es weg" — der irrt sich. Das ist ein anderes technisches Konzept, als die meisten es im Kopf haben. Beide Unternehmen haben außerdem einen Industriestandard verbreitet. Entwickelt von einer Organisation namens C-zwei-P-A, der Coalition for Content Provenance and Authenticity. Auf Deutsch etwa. Bündnis für Inhaltsherkunft und Authentizität. Der Standard dient dazu, Herkunfts-Metadaten zu speichern und weiterzugeben. Und jetzt kommt der Punkt, an dem die ganze Sache kippt. Inhalte zu kennzeichnen ist nämlich nur der erste Schritt. Diese Kennzeichnungen zu erkennen — und sie für Internetnutzer sichtbar zu machen — ist der entscheidende zweite. Walter Pasquarelli sagt dazu, Unternehmen wie Anthropic werden mit den Plattformen zusammenarbeiten müssen, auf denen KI-generierte Inhalte zirkulieren. Um sie zu visualisieren. Pasquarelli forscht an der University of Cambridge zu synthetischen Inhalten und berät die OECD. Er beschreibt den Ablauf so, wie er in der Praxis funktionieren müsste. Du erzeugst etwas mit Claude. Du lädst es auf eine Social-Media-Plattform. Du bist dabei, einen Beitrag zu veröffentlichen. Und die Oberfläche, in die der Beitrag eingefügt wird, hat dann möglicherweise die Detektoren, die das Wasserzeichen erkennen. Merkt ihr, wo das hinführt? Die Prüfung findet nicht beim Erzeuger statt. Sie findet an der Schwelle statt. Genau in dem Moment, in dem ihr auf Veröffentlichen drückt. Und dann sagt Pasquarelli den Satz, der aus einer technischen Geschichte eine wirtschaftliche macht. Es gebe reichlich Belege dafür, dass bei Medieninhalten die Interaktion deutlich zurückgeht, sobald Menschen wissen, dass etwas KI-generiert ist. (kurze Pause) Deutlich zurückgeht. Nicht ein bisschen. Nicht messbar. Deutlich. Und in der aktuellen Netzsprache, ergänzt Pasquarelli, könnte der EU-Schritt den sogenannten AI Slop reduzieren. Also den KI-Schrott. Die massenhaft erzeugten, austauschbaren, gedankenlosen Inhalte, die Feeds verstopfen. Die Plattformen sind sich dessen längst bewusst. LinkedIn hat kürzlich eine Funktion hinzugefügt, mit der Nutzer einen Beitrag melden können, der — Zitat — nach AI Slop aussieht. Lest euch das nochmal durch. Nicht "der falsch ist". Nicht "der täuscht". Sondern "der nach KI-Schrott aussieht". Das ist ein ästhetisches Urteil, das zu einem Meldegrund geworden ist. Und damit sind wir beim eigentlichen Thema dieses Deep Dives. Pasquarelli bringt es auf den Punkt. Das gehe weit über Brüssels ursprüngliches Ziel hinaus, zu verhindern, dass KI-generierte Inhalte täuschen. Die Debatte, sagt er, habe sich verschoben. Von KI-generierten Inhalten mit Täuschungsabsicht hin zu KI-generierten Inhalten insgesamt. (...) Das ist der Satz, wegen dem ich diese Folge mache. Denkt einen Moment darüber nach, was da passiert ist. Der Gesetzgeber wollte A. Nämlich verhindern, dass Menschen über die Herkunft von Inhalten getäuscht werden. Ein enges, gut begründbares, weitgehend unstrittiges Ziel. Was er bekommt, ist B. Nämlich ein Kennzeichen, das jeden KI-Inhalt markiert — unabhängig davon, ob eine Täuschungsabsicht dahintersteckt. Und ein Publikum, das auf dieses Kennzeichen mit Rückzug reagiert. Das ist keine Regelungslücke. Das ist keine schlechte Gesetzgebung. Das ist eine Nebenwirkung, die aus dem Zusammenspiel von Regel und menschlichem Verhalten entsteht. Lasst mich beide Seiten fair darstellen, denn das ist mir hier wichtig. Die eine Seite sagt. Das ist zu weit gegangen. Ein Unternehmen, das KI transparent und verantwortungsvoll einsetzt, wird durch das Label genauso bestraft wie einer, der Deepfakes streut. Wir kennzeichnen nicht Täuschung. Wir kennzeichnen eine Technologie. Und der Markt bestraft die Technologie, nicht das Verhalten. Das ist unverhältnismäßig, und es schafft einen Anreiz, KI-Nutzung zu verschleiern statt sie offenzulegen. Die andere Seite sagt. Genau das ist der Punkt. Menschen haben ein Recht darauf zu wissen, womit sie es zu tun haben — und sie haben ein Recht darauf, daraus eigene Schlüsse zu ziehen. Wenn Leute weniger mit KI-Inhalten interagieren, sobald sie es wissen, dann ist das keine Fehlfunktion. Das ist eine informierte Entscheidung. Und dass jemand Reichweite verliert, weil sein Publikum jetzt Bescheid weiß, ist kein Schaden, den der Gesetzgeber verhindern muss. Meine Meinung dazu? (überlegt) Ich neige zur zweiten Seite, aber nicht ohne Einschränkung. Denn der Einwand der ersten Seite hat einen wahren Kern, und den sollte man nicht wegdiskutieren. Wenn Kennzeichnung pauschal bestraft wird, entsteht ein Anreiz zum Verstecken. Und Verstecken ist genau das, was wir nicht wollen. Eine Regel, die ehrliches Verhalten teurer macht als unehrliches, arbeitet gegen sich selbst. Aber — und das ist der entscheidende Punkt — dieser Effekt ist kein Dauerzustand. Er ist ein Übergangsphänomen. Warum? Weil der Rückzug beim Label heute vor allem eines ausdrückt. Nämlich die Erwartung, dass KI-Inhalt gleich schlechter Inhalt ist. Und diese Erwartung ist aktuell leider oft berechtigt. Der Feed ist voll von Zeug, das erkennbar in vier Sekunden erzeugt wurde und niemandem nützt. Wenn das Label da ist und bleibt, passiert allerdings etwas anderes. Das Publikum bekommt Erfahrungswerte. Es lernt, dass manches mit Label gut ist und manches nicht. Und dann verschiebt sich die Bewertung wieder — weg von der Herkunft, hin zur Qualität. Das braucht Zeit. Und in dieser Zeit werden Leute Reichweite verlieren, die sie sich ehrlich verdient haben. Das ist ein realer Preis, und ich will ihn nicht kleinreden. Was ich daraus mitnehme, praktisch. Wenn ihr KI im Content-Prozess einsetzt, plant das Label ein. Nicht als Risiko, das ihr wegverhandeln müsst. Sondern als Eigenschaft eures Produkts. Die Frage ist nicht mehr "wie vermeide ich das Kennzeichen". Die Frage ist "was muss mein Inhalt leisten, damit ihn jemand mit Kennzeichen trotzdem liest". Und ein letzter Gedanke zur Rolle Brüssels, weil Haeck ihn zu Recht aufmacht. Europa hat keine führende KI-Plattform. Und formt trotzdem, wie diese Technologie weltweit ausgerollt wird. Der AI Act zwingt die größten Plattformen der Welt zu Entscheidungen über Sicherheit und Transparenz. Haeck nennt Brüssel deshalb eine Art globalen Regulierer der letzten Instanz. Bereit einzuschreiten und Grenzen zu setzen, wo die Tech-Industrie sonst mit Vollgas weiterfahren würde. Bei der Privatsphäre war es die Datenschutz-Grundverordnung. Beim Umgang mit schädlichen Inhalten die Plattformregulierung. Beides hat weit über Europa hinaus gewirkt. Und jetzt eben Wasserzeichen. Eine europäische Regel entscheidet darüber, wie ein amerikanisches Modell seinen Text erzeugt. Für alle Nutzer. Weltweit. Weil sich niemand zwei Modellvarianten leisten will. Man kann das kritisieren. Man kann sagen, Europa reguliert, was es nicht baut. Ich habe dazu in früheren Folgen genug gesagt. Aber man kann nicht behaupten, es sei wirkungslos. Mein Fazit zu diesem Deep Dive? Wir haben es hier mit einer der wenigen Regeln zu tun, die schnell und sichtbar Wirkung entfaltet. Kein Trilog, keine Verschiebung, keine Übergangsfrist bis zweitausendachtundzwanzig. Der zweite August, und dann läuft es. Und mit dieser Wirkung kommt eine Nebenwirkung, die ehrlicherweise niemand sauber vorhergesagt hat. Wir wollten Täuschung verhindern. Wir bekommen ein Kennzeichen, das eine ganze Produktionsweise markiert. Ob das am Ende gut ausgeht, hängt weniger an der Regel — und mehr daran, ob die Inhalte gut genug sind, um das Kennzeichen zu überleben.

Lukas

Das war der Deep Dive. Wenn euch die Folge was gebracht hat — abonniert den Podcast, lasst eine Bewertung da, leitet's weiter an alle, die im Geschäft sind. Wir sind in einer Phase, in der gut informierte Entscheidungen bares Geld wert sind. Ich bin Lukas, das war's für heute. Bleibt neugierig, bleibt kritisch — und bis zum nächsten Mal.