MATTHIAS HORNSCHUH, deutscher Filmkomponist und Sprecher der Kreativen der deutschen Initiative Urheberrecht, warnt eindringlich vor den Auswirkungen ungeregelter KI auf Kunst und Gesellschaft. Markus Deisenberger sprach mit ihm über den Minimal-Konsens des AI-Acts und den drohenden Gesamtverlust. Ein Gespräch, das um die zentralen Fragen kreist: Wie bedrohlich ist KI für Urheber:innen? Wie adaptieren wir uns? Oder müssen wir ihr etwas entgegensetzten, und wenn ja, was genau?
In puncto KI sei uns der öffentliche Diskurs entglitten, sagen Sie. Warum und was genau meinen Sie damit?
Matthias Hornschuh: Bei Diskursen versuche ich immer herauszufinden, welche Haltungen und Perspektiven es gibt, welche Lager möglicherweise, welche roten Fäden und welche Verbindungen. Das versuche ich genau zu lesen, so wie andere „ein Fußballspiel lesen“. Beim Thema KI ist es so, dass wir es mit einem übermächtigen Narrativ zu tun haben, das sich aus der Anthropomorphisierung der Technologie ergibt [Anthropomorphismus bedeutet das Zuschreiben menschlicher Eigenschaften, d.h. der Technologie werden menschliche Eigenschaften zugeschrieben, Anm.]. Intelligenz, Kreativität und Halluzination – das sind ja alles Begriffe, die der Technologie menschliche Eigenschaften andichten, weil sie menschliche Eigenschaften beschreiben. Ich habe fast siebenhundert Texte zu KI gesammelt, und es gibt kaum einen Beitrag, in dem nicht ein Gesicht oder ein menschlicher Körper verwendet wurde, um der KI ein Bild zu verleihen. Schon der Begriff Künstliche „Intelligenz“ transportiert ein Narrativ und eine Kategorisierung; kein Wunder, dass uns die Regelsetzung schwerfällt. Wenn so ein System beispielsweise empfindungsfähig wäre, würden wir es dann ausschalten wollen? Da gibt es weitreichende Implikationen, und die Vorstellungen, die wir von dem entwickeln, was ein System kann, werden in aller Regel nicht absichts- und interesselos in unsere Köpfe gepflanzt, sondern da steckt erheblicher Aufwand dahinter. Wir sind derzeit eigentlich in einer Situation, in der wir uns hinsetzen und überlegen müssten, was die Systeme eigentlich von uns unterscheidet. Wie ähnlich ist das, was ein neuronales Netzwerk tut, tatsächlich zu unserem menschlichen Lernen, Empfinden, Verhalten? Kann man das anschlussfähig nennen?
Was meinen Sie?
Matthias Hornschuh: Ich sehe da einen ganz erheblichen Bullshit-Faktor. Es gibt diesen schönen amerikanischen Ausdruck der Enshittification. Das ist so unfassbar idiotisch, was wir hier zum Teil diskutieren, dass man sieben Schritte zurückgehen müsste, um überhaupt eine Chance zu haben zu definieren, worauf wir starren. Ich habe die Aussage, dass uns der Diskurs entglitten sei, auch in Zusammenhang mit dem geforderten Moratorium getroffen.
Sie meinen die Forderung, die viele mit der Entwicklung von KI befasste Wissenschaftler:innen stellten, die Entwicklung eine Weile auszusetzen, um Zeit zu gewinnen. Das Hauptargument dafür war, dass wir Menschen nicht in der Lage seien, uns so schnell zu adaptieren, wie der technologische Wandel gerade voranschreitet.
Matthias Hornschuh: Genau. Das war der Ruf nach einem Diskurs, nach einer Selbstvergewisserung. Es heißt ja immer: „Ihr müsst die Technik verstehen!“ Es war aber eine gute Idee zu sagen: Wir müssen innehalten und erst einmal auf uns schauen. Auf das Menschsein. Auf das, was Menschen und damit ihre Intelligenz und Kreativität ausmacht. Denn das sind alles über das Menschsein definierte Begriffe, die wir ausfüllen müssen, um überhaupt verstehen und eine Entscheidung darüber treffen zu können, wie wir mit dieser Technologie umgehen wollen. Und natürlich müssen wir auch die Technologie verstehen.
Wenn mir im Zuge der Interviews, die ich in den vergangenen Wochen und Monaten zum Thema KI geführt habe, eines vor Augen geführt wurde, dann die unterschiedlichen Geschwindigkeiten bzw. die Gewichtung, mit der die Technologie hauptsächlich in den USA voranschreitet, und dem, was wir ihr in Europa entgegensetzen. Sepp Hochreiter, der die Software hinter „Alexa“ erfunden hat, sitzt mit ein paar Mitarbeitern in Linz.
Hanna Lukashevich, die am Fraunhofer Institut die Abteilung „Semantic Music Technologies“ leitet, hat acht Mitarbeiter plus ein paar Studierende, deren genaue Zahl variiert. Emilia Gómez, die das Joint Research Center, ein Inhouse-Scientific-Service der Europäischen Kommission, leitet, dessen Aufgabe darin besteht, herauszufinden, wie KI-Systeme funktionierten und ob sie vertrauenswürdig sind, nannte fünfzehn Personen, die dort beschäftigt sind. Aber allein OpenAI beschäftigt ein paar hundert Leute.
Matthias Hornschuh: 770 waren es gerade noch. Die Zahl weiß man, weil sich Anfang November 2023 das Führungs- und Richtungsdrama rund um OpenAI entfaltet hat und von 770 ganze 739 sagten, sie würden im Zweifelsfall mit Sam Altman zu Microsoft gehen.
Ist es nicht einigermaßen absurd, womit wir glauben, das Auslangen zu finden, um mit dieser riesigen, voll angelaufenen Maschinerie zu Rande zu kommen?
Matthias Hornschuh: Absolut. Es gibt in Frankreich ein einziges Unternehmen, Mistral AI, es gibt neben DeepL in Köln Aleph Alpha in Heidelberg. Aleph Alpha hat im Frühjahr 2023 hundert Millionen an Venture-Kapital bekommen und jetzt noch einmal fünfhundert Millionen – das war am Freitag, und am Montag darauf saß der deutsche Wirtschaftsminister Habeck gemeinsam mit dem Geschäftsführer des Unternehmens in einer Pressekonferenz, um den Kapitalzufluss zu verkünden. Und interessanterweise wurde genau am Wochenende dazwischen der vorverhandelte Trilog-Kompromiss zum AI-Act torpediert – von der französischen, der deutschen und der italienischen Regierung, zugunsten der an einer Hand abzählbaren europäischen KI-Unternehmen mit internationalem Potenzial. Ich glaube nicht daran, dass das ein Zufall ist. Während Aleph Alpha im Frühjahr hundert Millionen bekam und deshalb fünfzig Leute anstellen konnte, hat OpenAI zehn Milliarden bekommen und tausend Stellen ausgeschrieben. Wir Europäer haben in diesem Spiel überhaupt nichts zu melden. Verstehen Sie mich nicht falsch: Natürlich ist Aleph Alpha ein ernstzunehmendes Unternehmen und wird hoffentlich auch erfolgreich werden – ich wünsche es ihnen sehr –, es hat aber etwas würstchenhaft Erbärmliches, so zu tun, als würden wir auf dem Niveau international mit den Großen mitspielen können.
„Es hat aber etwas würstchenhaft Erbärmliches, so zu tun, als würden wir auf dem Niveau international mit den Großen mitspielen können.“
Deutschland, Frankreich und Italien haben sich auf dem Weg zum AI-Act gegen zu enge Grenzen für Künstliche Intelligenz ausgesprochen. Sie haben das in Ihrem Vortrag „Quatsch“ genannt, das Europaparlament ging noch weiter, spracht von einer „Kriegserklärung“.
Matthias Hornschuh: Das war eine klare Unterminierung des Prozesses. Wir befinden uns ja mitten in einem komplexen Aushandlungsprozess, der erst dann abgeschlossen ist, wenn er abgeschlossen ist. Bis dahin ist er offen und es gibt Interessen, die angemeldet und rein-lobbyiert werden. Wir von der Initiative Urheberrecht sind ja auch Lobbyisten; insofern wäre es naiv, wenn ich mich per se gegen Lobbyismus verwehren würde. Wir machen das zwar in eigener Sache und ohne viel Geld, aber wir bringen ja auch Interessen ein.
Die Grundannahme beim AI-Act war, dass nicht eine Technologie reguliert werden soll, sondern der Umgang mit ihr soll risiko-abgestuft geregelt werden. Das entspricht unseren Forderungen bei der Initiative Urheberrecht. Auch wir sagen: Reguliert nicht die Technologie, sondern den Umgang mit ihr.
Durch Transparenzvorschriften?
Matthias Hornschuh: Genau. Durch Transparenzvorschriften für den Input, durch Kennzeichnungspflicht für den Output, durch einen redaktionellen Satz, der im AI-Act festhält, dass für das Training kein geltendes Urheberrecht unterlaufen werden darf und auch kein Datenschutzrecht. Wenn wir jetzt keine Transparenz hineinbekokmmen, werden wir den großen Anbietern gegenüber nicht durchsetzen können, uns Auskunft darüber zu geben, was ins Training miteinbezogen wurde. Und wenn wir keine Auskunft bekommen, wird es sehr schwierig sein, vor Gericht Ansprüche durchzusetzen. Im Moment wissen wir nicht, ob die gesetzliche Grundlage für das Scraping der Daten [das Auslesen von Texten bzw. Daten von Webseiten, Anm.] belastbar ist. Das werden früher oder später, sehr wahrscheinlich später, Gerichte entscheiden. Bis dahin befinden wir uns im luftleeren Raum. Ganz offensichtlich und unwidersprochen ist aber, dass wir bis 2019, als im Zuge der europäischen Urheberrechtsrichtlinie eine Ausnahmeregelung für sogenanntes „Text and Data-Mining“ [kurz: TDM, Anm.] verabschiedet wurde, die übrigens erst 2021 mit der Überführung in nationales Recht Geltung erlangte, keine Rechtsgrundlage für Scraping und Training hatten. Das heißt, dass wir insofern sehr wahrscheinlich rückwirkend in erheblichem Umfang klagen könnten, wenn wir belegen könnten, dass unsere Werke tatsächlich herangezogen wurden.
Wo nun aber der Verjährungsaspekt ins Spiel kommt – befeuert durch das gerade im Verfahren rund um Til Schweigers Kinohits „Keinohrhasen“ und „Zweiohrküken“ ergangene Urteil. Der klagenden Drehbuchautorin wurde der Sache nach Recht gegeben. Finanziell hat sie davon allerdings weniger als erhofft, denn laut Urteil ist ein Großteil ihrer Ansprüche verjährt. Sie hätte ab Kenntnis des Erfolges des Filmes nur drei Jahre Zeit gehabt, ihre Ansprüche geltend zu machen. Auf die KI-Sachlage umgelegt hieße das, ich hätte schon längst klagen müssen, um etwas für die Zeit vor 2019 geltend zu machen.
Matthias Hornschuh: Das ist ein Problem, ja. Man kann natürlich argumentieren, dass wir vor 2019 gar nicht agieren konnten, denn vorher, bis Ende 2022 wusste niemand davon, dass man ein Opt-out erklären muss, geschweige denn wie, damit die eigenen Daten nicht zu Trainingszwecken herangezogen werden. Das stand zwar in der Bestimmung zu TDM [in der EU-Richtlinie, Anm.] mit drin, es hat aber niemand auf KI bezogen. Im Grunde genommen war das Recht auf Text- und Data-Mining ein Forschungsrecht. Es war uns nicht einsichtig, dass das vergütungsfrei sein soll, aber im Grunde genommen war es schon nachvollziehbar, dass man, wenn man Gesundheits- oder Klimafolgenforschung betreibt, auf Datenbestände zugreifen muss. Da haben wir uns nicht dagegen gewehrt. Es ging immer darum, dass man konkrete Inhalte heraushalten sollte und um Vergütung.
Um die Data-Mining-Problematik zu erklären: Es steht im Raum, dass diese für die Forschung getroffene Ausnahme, die eine freie Werknutzung vorsieht, auf KI-Fälle anwendbar sein könnte, obwohl das damals – zum Zeitpunkt der Regelung – niemand vorhersehen konnte. Nach dem so genannten „3-Stufen-Test“ müsste es aber eine Vergütung dafür geben, weil eine unentgeltliche Nutzung die Interessen der Urheber:innen verletzten würde, und zwar ganz erheblich. Wäre es nicht an der Zeit, das europarechtlich auch entsprechend klarzustellen?
Matthias Hornschuh: Ethisch, moralisch und volkswirtschaftlich sehe ich das genauso. Da muss sich etwas ändern. Das muss korrigiert werden. Das heißt, es muss in einem ersten Schritt eine Klarstellung erfolgen, was von TDM umfasst ist und was nicht, wie genau das gemeint ist. Und es muss ja auch der unfassbaren Tatsache begegnet werden, dass das gesamte Weltwissen herangezogen wurde, ohne dass es irgendeine Möglichkeit gab, sich dagegen zu wehren oder eine Kompensation dafür zu bekommen. Das kann einfach so nicht sein.
„Es muss der unfassbaren Tatsache begegnet werden, dass das gesamte Weltwissen herangezogen wurde, ohne dass es irgendeine Möglichkeit gab, sich dagegen zu wehren oder eine Kompensation dafür zu bekommen.“
Sie haben den Wissenschaftsjournalisten Ranga Yogeshwar zitiert, der die Verwendung von Daten und Inhalten zu Trainingszwecken als den größten Diebstahl der Menschheitsgeschichte bezeichnet hat.
Matthias Hornschuh: Ja. Wir geben uns selber auf. Und natürlich muss man das ändern. Das ist sozusagen der ethische und gesamtgesellschaftliche Blick darauf. Es ist mir ganz wichtig darauf hinzuweisen, dass bei aller Leidenschaft für das Urheberrecht das aber bei weitem nicht das Wichtigste an dieser Stelle ist. Wir sprechen über Krankenakten, die zum Scraping herangezogen wurden, und Bewegungsdaten. Die Spezialität dieser Systeme liegt ja in der Mustererkennung. Konzerne wissen alles über uns, weil unsere personenbezogenen Daten da reingelaufen sind. Die gesamtgesellschaftliche Verheerung ist noch wesentlich größer als die wirtschaftliche in der Kultur- und Kreativwirtschaft. Gleichwohl gibt es die. Es stellen sich da viele Fragen, nicht zuletzt aber auch Markt- und Marktregulierungsfragen. Wenn der Markt nämlich versagt, ist das ein Anlass für Regulierung und wenn die Regulierung nicht erfolgt, ist das die Begründung für Staatsversagen. Ich hatte als Beobachter der Diskussion mit Vertreter:innen aus der österreichischen Politik [im Rahmen der Jahrestagung Urheberrecht der österreichischen Initiative für Urheberrecht, Anm.] den Eindruck, dass das auch hierzulande erkennbar ist.
Ist die Diskussion in Deutschland eine bessere, eine ernstere?
Matthias Hornschuh: Nicht unbedingt. Der Bonus des Beobachter-Status, den ich in Österreich habe, ist aber, dass ich nicht realpolitisch Stellung dazu nehmen muss. Aber dass jemand aus dem Justizministerium auf einer öffentlichen Veranstaltung sagt, er wüsste nicht so genau, ob das Urheberrecht ein Eigentumsrecht sei, das würde es in Deutschland nicht geben.
Das ist eine systematische Grundfrage, und dass derjenige, der das Recht gestalten soll, nicht zuletzt handwerklich, einen kompletten Raum voller Anwält:innen und Urheberrechtsexpert:innen konsterniert zurücklässt, war schon besonders.
Wir müssen da ran. Wir haben das große Glück, dass dieser AI-Act vor vier Jahren angestoßen wurde. Der hat übrigens auch kein urheberrechtliches Anliegen. Der hat sich auch, als er auf den Weg gebracht wurde, nicht um generative KI geschert, weil noch gar nicht klar war, dass es die überhaupt gibt. Es gab zwischendurch mal Entwürfe, wo ein Satz hätte drinstehen sollen, dass Urheberrecht beachtet werden muss, ja. Das wäre natürlich schon etwas, aber ist nicht der zentrale Punkt. Wir haben uns ganz nüchtern auf den Minimal-Konsens verständigt: neben Vergütung vor allem Transparenz. Die ist heute eigentlich eine Selbstverständlichkeit. Dass wir hier und heute überhaupt noch drüber diskutieren müssen …
In den unterschiedlichen Eskalationsstufen der Digitalisierung haben wir immer wieder Transparenz verlangt, und ein ums andere Mal hat man uns gesagt: „Das können wir nicht.“ Und dann wurde es ins Gesetz geschrieben. Auf einmal wurde es gekonnt, auf einmal ging es!
Wenn Sie das jahrelange Tauziehen um eine europarechtliche Vorgabe zur Haftung großer Online-Pattformen und dergleichen ansprechen: Im Urheberrecht hat sich ein sehr merkwürdiger Mechanismus gezeigt. Man schaut dem Wachstum von Unternehmen, die ihr gesamtes Geschäft auf illegaler Basis aufbauen, so lange zu, bis sie so groß geworden sind, dass ihnen nur noch die EU beikommen kann, und das dauert erfahrungsgemäß Jahre. Nun laufen wir auf die gleiche Situation zu, nur noch verschärft. Und: Wir haben weniger Zeit. Oder wie sehen Sie das?
Matthias Hornschuh: Es ist tatsächlich erstaunlich, wie ähnlich das ist. Wir haben das alles schon einmal erlebt. Als Fraunhofer in der zweiten Hälfte der Neunzigerjahre die mp3-Technologie zur Daten-Kompression entwickelt hatte, war es plötzlich möglich, durch die ISDN-Netzwerke nicht mehr nur Einzelbilder, sondern ganze Musikalben zu schicken. Es zeigte sich, dass unglaublich viele Unternehmen Interesse daran hatten, dass das technologisch vorangetrieben wird, etwa die Telekom-Unternehmen, weil sie Bandbreite verkaufen wollten. Und mit mehr Bandbreite konnte man mehr Alben und irgendwann auch Filme verschicken. Die Musikindustrie war damals eigentlich gewarnt, hat aber verkannt, dass man es mit einem kulturellen Wandel zu tun hat, der sich aus dem technischen Durchbruch ergab. Sie hat es versäumt, den als solchen zu begreifen und zu behandeln. Das war ein Medienumbruch in dramatischem Umfang, der aber verglichen mit dem, was heute passiert, minimal war, weil er zunächst nur einen kleinen Teil des kulturellen Lebens betraf. Damals sagte man genau wie heute: Jetzt wollen wir doch dem technologischen Fortschritt nicht im Wege stehen und wir wollen auch nicht, dass jemand dafür haften muss, denn damit würden wir ja die Möglichkeiten der Entfaltung verhindern …
„Es gibt nichts, was nicht zum Training herangezogen worden wäre, soweit es digital verfügbar war.“
Das erinnert mich an den deutschen Wirtschaftsminister Habeck, der in Hinblick auf KI neulich sinngemäß sagte, wenn man reguliere, würde man bald keinen Verkehr mehr auf der Straße haben.
Matthias Hornschuh: Damit bezog er sich auf unsere Forderung nach einer Verkehrsordnung – anstelle von Fahrverboten. Darauf möchte ich noch ausführlich zu sprechen kommen. Vorher möchte ich aber noch einmal kurz auf die Krise der Musikwirtschaft vor 25 Jahren zurückkommen. In der öffentlichen Verwaltung gibt es in Deutschland die Bezeichnung: „KW“. Kann wegfallen. Wenn etwas zur Streichung vorgesehen ist, gibt es einen KW-Vermerk. Man hat damals seitens der EU und der europäischen Nationen entschieden, dass man auf die Musikwirtschaft im engeren Sinne und auf diejenigen, die von ihr leben, verzichten kann, weil der Fortschritt im Sinne von Bandbreitenausbau und Plattform-Betreiber wichtiger erschien. Es hat sich gezeigt, dass die damit angerichteten strukturellen Schäden bei den Urheber:innen und bei den ausübenden Künstler:innen bis heute nicht ausgeglichen werden konnten. Hätte man damals beherzt gesagt: „Lasst uns das einpreisen und damit wenigstens abfangen, dass es den Markt zerstört“, wäre der Fortschritt durchaus möglich gewesen – und gleichzeitig hätte man etwas, das identitätsstiftend ist, retten können. Wir haben das irgendwie hinbekommen und nach einigen schlimmen Jahren auch wieder Boden unter die Füße gekriegt. Seit zwei, drei Jahren sind wir in einer Situation, in der über die Verwertungsgesellschaften und die Labels tatsächlich ein Wachstum aus dem digitalen Markt entstanden ist, mit dem es sich wieder in Richtung Tragfähigkeit bewegt. Das hat über zwanzig Jahre gedauert!
Gerade an diesem Punkt nun, wo Online-Erlöse zu den größten Spartenerträgen gehören, kommt die nächste Technologie und rasiert uns den Markt. Und zwar vollständig, weil nicht nur Musik, sondern auch Film, Buch und Fotografie gleich mitrasiert werden. Jetzt haben wir es wirklich mit einer Technologie zu tun, die unsere Werke zu 100 % nutzt. Es gibt nichts, was nicht zum Training herangezogen worden wäre, soweit es digital verfügbar war. Und gleichzeitig ist die Technologie mit Substitutionspotenzial versehen. Das heißt, es geht nicht nur darum, dass eine unvergütete Nutzung erfolgt, sondern gleichzeitig werden die Systeme darauf trainiert, uns zu ersetzen. Das ist eine ziemlich komplexe Situation, weil wir jetzt einerseits darauf achten müssen, wie wir mit dem jetzt schon entstandenen Schaden umgehen – und das ist nicht nur ein rein materieller, sondern möglicherweise ein darüber hinausgehender ideeller und gesellschaftlicher, denn Marktzerstörung und Vielfaltseffekte sind nicht unbedingt in Zahlen zu messen. Das andere ist, dass wir den konkreten materiellen Schaden bemessen müssen, was eine Herausforderung wird. Und wir müssen gleichzeitig darüber nachdenken, wie wir uns perspektivisch Modelle vorstellen können, die eine Tragfähigkeit im Umgang mit KI ermöglichen können, und da sind wir uns im Moment noch nicht ganz einig über die einzuschlagende Richtung: Sollen wir eher die Input-Ebene einpreisen? Was machen wir mit dem Output, der, weil er von keiner natürlichen Person stammt und keine eigentümliche geistige Schöpfung erfolgt ist, kein Werk ist? Vielleicht brauchen wir für den Output eine neue Art von Recht. Wenn wir da mit einem Geschäftsmodell ansetzen wollen, werden wir das Erzeugnis in der einen oder anderen Art und Weise schutzfähig machen müssen, damit wir es einpreisen können. Der nächste Schritt wäre dann zu überlegen, wer daran zu beteiligen ist. Und damit steht halt die Frage im Raum: Welche Forderungen haben wir an die nationalen und den europäischen Gesetzgeber bezüglich Urheberrecht – nach dem AI-Act? Um auf europäischer Ebene einen urheberrechtlichen Vorstoß platzieren zu können, braucht man Mehrheiten, und die sind im Moment nicht sichtbar. Wir müssen daher schauen, dass wir pragmatisch mit den Situationen umgehen und uns irgendwie adaptieren. Das haben wir immer schon gekonnt, es wird aber wahnsinnig viel kosten.
Der AI-Act war nicht für Urheberrecht vorgesehen, er wird es auch nicht abbilden, und Transparenz war unsere Brücke, auf die man sich als Minimal-Forderung, aber auch durchaus zur Abfederung verständigt hat.
Teil 2 folgt in der kommenden Woche.
Links:
Matthias Hornschuh
Initiative Urheberrecht
„WIR GEBEN UNS AUF“ – MATTHIAS HORNSCHUH IM MICA-INTERVIEW, TEIL 2
2023: „DER SCHUTZ DES INDIVIDUUMS LIEGT IM KOLLEKTIV“ – BERICHT ZUR JAHRESKONFERENZ DER INITIATIVE URHEBERRECHT ÖSTERREICH
2019: „[…] EINEN MARKT ZURÜCKGEWINNEN, DER VERLOREN SCHIEN“ – MATTHIAS HORNSCHUH IM MICA-INTERVIEW: Teil 1 und Teil 2