„Am Ende ist es eine Kompensationsfrage“ – Jeannette Gorzala im mica-Interview

19. Januar 202419. Januar 2024

JEANNETTE GORZALA ist Rechtsanwältin mit Spezialisierung auf Wirtschaftsrecht und künstliche Intelligenz, sowie Vize-Präsidentin des European AI Forums und Vorstandsmitglied bei AI Austria. „Es braucht einen klaren, verantwortungsvollen und transparenten Rechtsrahmen für die Entwicklung und Nutzung von KI“, sagt sie. Mit Markus Deisenberger sprach sie über „Technologie mit Zweck, Ziel und Richtung“ und darüber, wieso man in der Kultur-, Medien- und Entertainmentindustrie künftig genauer hinschauen muss, welche Rechte Künstler:innen vertraglich übertragen.

Sie sind hauptberuflich Anwältin und als solche auf KI spezialisiert. Ihre Mandanten sind also etwa Unternehmen, die ein KI-System für den Bereich Personalentwicklung implementieren wollen?

Jeannette Gorzala: Ich berate Unternehmen, die bereits KI-Systeme im Betrieb haben, aber auch jene, die KI-Systeme und generative KI-Tools wie beispielsweise ChatGPT, Midjourney, DALL-E und weitere implementieren möchten. Sensible Einsatzbereiche sind etwa das Personalwesen, der Banken- und Versicherungsbereich, kritische Infrastrukturen wie Energie, Wasser, Verkehr, Gas, Heizung, aber auch der Medizinbereich und teilweise die Industrie. Zu meinen Mandanten gehören aber auch Unternehmen, die KI in Europa entwickeln, und internationale Unternehmen, die sich auf den europäischen Markt ausrichten.

Sie beraten also etwa ein Unternehmen, das einen Chatbot einsetzen will, der mich als Kunde durch ein technisches Problem durchsteuert?

Jeannette Gorzala: Zum Beispiel. Es ist vom Anwendungsfall im Einzelfall abhängig, ob ein KI-Use-Case aus rechtlicher Sicht relativ einfach oder komplexer ist. Ein Chatbot, der auf einer Website bei der Rücksendung von Paketen unterstützt, ist anders zu betrachten, als etwa ein Finanzbot, mit dem Sie automatisch durch alle Punkte einer Kreditprüfung geführt werden und der Ihre Bonität bewertet. Messung von Investitionsfreudigkeit in der Stimme bei Telefonaten für Cross-Selling-Zwecke, Gesundheits-Apps, Risikobewertungen im Versicherungsbereich für die Prämienberechnung, Portfolio-Optimierung und Vorbereitungen von Anlageentscheidungen – auch hier kommen überall bereits KI-Systeme zum Einsatz.

„Es geht hier nicht um Technologie um jeden Preis, sondern um Technologie mit Zweck, Ziel und Richtung. Das ist unsere Mission.“

Wie ist die Ausgangslage für Unternehmen?

Jeannette Gorzala: Aktuell ist die Rechtslage zu KI In Europa nicht harmonisiert, was es für Unternehmer:innen sehr schwierig macht. Sie müssen aktuell mit 27 verschiedenen Rechtsordnungen arbeiten, die teilweise mehr, weniger oder gar keine Regelungen für das Thema KI-Einsatz vorsehen. Unternehmer:innen, die grenzüberschreitend tätig sind, müssen sich bei jedem Wechsel der Jurisdiktion mit einem gänzlich neuen Rechtsrahmen auseinandersetzen. Auch sind viele rechtliche Aspekte, insbesondere zur Haftung, nicht klar. Dies macht es schwierig für Unternehmen, die KI einsetzen wollen, als auch KI-Entwickler:innen. Diese Probleme sollen durch die europäische KI-Verordnung, den „Artificial Intelligence Act“ oder kurz „AI Act“ gelöst werden, indem für Europa ein einheitlicher KI-Rechtsrahmen hergestellt wird. Der AI Act schafft einen einheitlichen europäischen Qualitätsstandard für bestimmte KI-Systeme. Weiter werden Haftungsthemen durch eine Regelung der Softwarehaftung in begleitenden Rechtsakten adressiert.

Was genau macht AI Austria, in dessen Vorstandteam Sie sind?

Jeannette Gorzala: AI Austria ist ein unabhängiger Think Tank zum Thema künstliche Intelligenz. Zielsetzung ist es, zur Förderung des KI-Standorts Österreich beizutragen und die Interessen von KI-Unternehmer:innen zu vertreten. Es geht nicht um Technologie um jeden Preis, sondern um Technologie mit Zweck, Ziel und Richtung. Das ist unsere Mission. Darüber hinaus vertrete ich als Vizepräsidentin des European AI Forums mehr als 2.000 KI-Unternehmer:innen „born and raised in Europe“ in Brüssel und bin in dieser Funktion insbesondere in das europäische Gesetzgebungsverfahren betreffend den AI Act und begleitende Digitalregulierungen involviert.

Vor einiger Zeit war zu lesen, KI werde in Österreich ausgehungert. Sepp Hochreiter, der an der Johannes Kepler Universität Linz das „Institute for Machine Learning“ und das „Labor für Artificial Intelligence“ leitet, beschwerte sich medienwirksam. Wird KI-Forschung in Österreich ausreichend gefördert?

Jeannette Gorzala: Bei der Förderlandschaft muss man klar zwischen Forschung und Implementierung trennen. KI-Implementierung und Adaption wird in Österreich beispielsweise mit Programmen der aws (Austria Wirtschaftsservice Gesellschaft mbH) und der FFG (Die Österreichische Forschungsförderungsgesellschaft) öffentlich unterstützt und gefördert. Da die KI-Adaptionsrate in Österreich noch sehr niedrig ist, möchte ich insbesondere auf das Programm „AI Wissen“ der AWS hinweisen, das den Wissensaufbau in Unternehmen unterstützt. Unsere Workshops zu KI-Themen und Geschäftsmodellen können etwa im Rahmen von „AI Wissen“ bei der AWS eingereicht werden.

Den Forschungsbereich decken unsere Kolleg:innen von der Organisation asai (austrian society for artificial intelligence) ab. Die asai hat im Sommer 2023 die Leuchtturmkonferenz „AI in Austria“ organisiert, die ich moderieren durfte. Panelist:innen waren zehn Spitzenforscher:innen in Österreich, nämlich Sepp Hochreiter (JKU), Thomas Eiter (TU Wien), Agata Ciabattoni (TU Wien), Martina Seidl (JKU), Robert Legenstein (TU Graz), Christoph Lampert (ista), Gerhard Friedrich (AAU – Alpen-Adria-Universität Klagenfurt), Axel Polleres (WU Wien) Günter Klambauer (JKU) und Bernhard Nessler (JKU). Die aktuelle Lage ist, dass zu wenig in KI-Forschung investiert wird und auch zu wenige Professuren für KI geschaffen werden. Dies führt dazu, dass österreichische Talente und Spitzenforscher:innen mangels Möglichkeiten im Inland ins Ausland abwandern. Dies ist für den KI-Standort Österreich ein Verlust.

„Jetzt werden wichtige Weichenstellungen gesetzt. Es ist daher von großer Wichtigkeit, dass sich alle mit KI auseinandersetzen und lernen, diese Technologie sicher und zu ihrem Vorteil zu nutzen.“

Denken Sie, die Angst mancher Branchen (z. B. Übersetzer:innen, Sprecher:innen, PR-Arbeiter:innen, ausübende Musiker:innen, Mitarbeiter:innen von Nachrichtenagenturen etc.), sie würden schon bald, wenn nicht abgeschafft, so doch durch KI stark konkurrenziert, ist berechtigt?

Jeannette Gorzala: Eine Studie vom August 2023 der ILO [International Labour Organisation (Internationale Arbeitsorganisation); Sonderorganisation der Vereinten Nationen und damit beauftragt, soziale Gerechtigkeit sowie Menschen- und Arbeitsrechte zu fördern, Anm.] hat genau das untersucht und ist zu dem Schluss gekommen, dass KI eher neue Jobs schaffen als bestehende vernichten wird. Klar, diese Technologie wird die Arbeitswelt verändern, Jobprofile werden wegfallen, bestehende Jobprofile werden sich ändern, aber es werden auch neue Spezialgebiete entstehen. In Summe ist davon auszugehen, dass die positiven Effekte die negativen überwiegen. Jetzt werden wichtige Weichenstellungen gesetzt. Es ist daher von großer Wichtigkeit, dass sich alle mit KI auseinandersetzen und lernen, diese Technologie sicher und zu ihrem Vorteil zu nutzen. Nicht zu vergessen ist auch, dass unsere Gesellschaft an einem Talente- und Fachkräftemangel leidet. KI kann in diesem Kontext eine Chance sein, wenn sie sinnvoll eingesetzt wird, um Lücken zu füllen und repetitive, nicht-wertstiftende Tätigkeiten zu übernehmen. Gleichsam gibt es mahnende Negativbeispiele.

Haben Sie dafür ein Beispiel?

Jeannette Gorzala: Es wird etwa daran gearbeitet, dass Roboter lernen, unabhängig und selbständig Regale in Supermärkten einzuräumen. Auch hier kommt bei der Robotersteuerung KI zum Einsatz, welche die Maschinen sicherer und zuverlässiger in der Arbeit machen soll. Parallel fanden Testläufe in Supermärkten statt, bei denen Menschen und Maschinen zusammenarbeiteten. Die Aufgabe der Mitarbeiter:innen bestand jedoch nicht darin, Produkte in Regale einzuordnen, sondern war beschränkt auf die Beobachtung der Maschinen und darauf, Produkte aufzuheben, die dem Roboter beim Einschlichten hinuntergefallen sind. Nach dem Testlauf präferierten die Mitarbeiter:innen ganz klar ihre ursprüngliche Tätigkeit des Einschlichtens von Produkten und bewerteten diese Tätigkeit als wesentlich sinnvoller und erfüllender. Klar wird hier ganz deutlich, dass es zu keiner Aufwertung von Tätigkeiten kommt, wenn Menschen nur zu Erfüllungsgehilfen von Maschinen ohne eigenes Aufgabenspektrum werden und auch Augmentation zielführend umgesetzt werden muss.

Um zu den von Ihnen genannten Branchen, insbesondere die Kreativ- und Medienindustrie zurückzukommen: Diese ist aktuell vor allem stark mit Rechtsbruch konfrontiert, etwa wenn Aufnahmen von professionellen Sprecher:innen ohne Einwilligung verwendet werden, um künstliche Stimmen zu generieren. Ebenso sehen wir eine Welle an Klagen wegen Urheberrechtsverletzungen aufgrund unrechtmäßiger Nutzung von Texten, Bildern und Videos.

Durch die Medien ging in den letzten Wochen ein Prozess, den US-amerikanische Schriftsteller:innen, allen voran der Bestseller-Autor Jonathan Franzen, gegen OpenAI angestrengt haben, um genau dagegen vorzugehen, dass nämlich ihre Werke ohne Berechtigung dem KI-System bereits einverleibt wurden. Und die Vermutung, dass es in der Musik bereits genauso gehandhabt wird, liegt nahe. Wie sehen Sie die Diskussion?

Jeannette Gorzala: Die wenigsten Modelle sind derart transparent, dass genau nachvollziehbar ist, mit welcher Datengrundlage und welchen Methoden sie entwickelt, trainiert und fine-getuned wurden. Dazu kommt, dass das Wissen bereits im Algorithmus abgebildet ist, wenn das Modell fertiggestellt wurde. Folglich ist auch ein nachträgliches Löschen der Trainingsdatensätze irrelevant für das Ergebnis, nämlich den unumkehrbar stattgefundenen Wissenstransfer in den Modellcode. Dies stellt für die Medien- und Kreativbranche ein großes Dilemma dar. Erstens, ist es schwierig nachzuweisen, dass urheberrechtlich geschütztes Material widerrechtlich verwendet wurde. Zweitens ist der Effekt im Nachhinein durch das Löschen der Daten auch nicht rückgängig zu machen. Zwar kann man sich technisch mit Filtern und Layern über dem Modell behelfen, um bestimmte Ausgaben zu verhindert, dies ändert jedoch wenig an dem Grundlagenproblem. Von der KI-Entwicklerseite betrachtet ist die Situation ebenfalls nicht einfach, da die Schaffung großer KI-Modelle auch unvorstellbar große Datenmengen benötigt. Hier zu 100 Prozent sicherzustellen, dass nicht ein einziger Pixel unrechtmäßig im Datensatz ist, ist nahezu unmöglich.

Wenn also KI-Modelle auf Grundlage einer bestimmten Datenlage unrechtmäßig trainiert wurden, hilft nur noch eine Lizenzierung? Die Berechtigten bzw. Geschädigten müssen entsprechend vergütet bzw. entschädigt werden?

Jeannette Gorzala: Die sehr unwahrscheinliche, aktuell wohl nicht denkbare Alternativvariante wäre die kompromisslose Außerbetriebnahme des gesamten Modells. Wirtschaftlich realistisch betrachtet ist es jedoch eine Kompensationsfrage für allfällige nachgewiesene Rechtsverletzungen und möglicherweise die Nutzung im Sinne der unwiderruflichen Abbildung von Wissen im Modellcode. Bis Künstlerinnen und Künstler jedoch überhaupt zur Frage, wie hoch eine Kompensation sein kann, vordringen, müssen sie aktuell ein langwieriges und komplexes Gerichtsverfahren bewältigen.

Der AI Act der EU versucht, die Transparenz zu verbessern. Ist das aus Ihrer Sicht ausreichend, sodass man durch Offenlegungspflichten Transparenz hat, oder nicht?

Jeannette Gorzala: Der grundlegende Ansatz des AI Acts ist es, Entwicker:innen von großen KI-Modellen bestimmte Veröffentlichungspflichten aufzuerlegen. Unter anderem soll eine Zusammenfassung von allen Trainingsdatensätzen, die dem Modell zu Grunde liegen, künftig als verpflichtende Transparenz vorgesehen werden. Wie weit der Umfang der Offenlegung ist, können wir derzeit nicht absehen. Zunächst zielte die Veröffentlichungspflicht nur auf urheberrechtlich geschütztes Material ab. Im Laufe der Verhandlungen wurde der Begriff „Content“ verwendet, der durchaus weiter verstanden werden kann und über urheberrechtlich geschütztes Material hinausgeht. Am Beispiel von Sprecher:innen: Die Stimme ist kein urheberrechtlich geschütztes Gut und wäre daher nur in der weiteren Formulierung von „Content“ mitumfasst. Die Hauptfrage ist, wie man die Transparenzpflicht für alle Beteiligten praktikabel löst. Nämlich für die Kreativ- und Medienindustrie derart, dass diese ihre Rechte wahren können, und für Entwickler:innen in einer vom Aufwand her betrachteten bewältigbaren Weise.

Die EU-Urheberrechts-Richtlinie wurde 2019 zu einem Zeitpunkt verabschiedet, als es ChatGPT noch nicht gab. Erst ganz zuletzt wurde damals die Bestimmung für Data-Mining, die eine freie Werknutzung vorsieht, auf kommerzielle Anwendungen ausgedehnt. Rein theoretisch könnte man also die Bestimmung auf kommerzielle Nutzung durch KIs ausdehnen. Viele Juristen vertreten die Auffassung, solch eine Ausdehnung würde aber dem Zweistufentest nicht standhalten, weil sie wesentlichen Interessen der Rechteinhaber:innen widerspricht. Sehen sie das ähnlich?

Jeannette Gorzala: Es ist fraglich, ob man damals die Möglichkeiten von generativer KI und die technische Entwicklung, die wir heute sehen, bereits vor dem gedanklichen Auge hatte. Unabhängig davon müssen wir uns die Frage stellen, ob unser Urheberrecht aktuell den neuen technischen Entwicklungen gewachsen ist, oder ob es eines Updates bedarf. Zudem ist nicht zu vergessen, dass das Urheberrecht in Europa nur in Teilen harmonisiert – nicht gänzlich vereinheitlicht ist – und die Rechtslage im Vergleich zum US Copy Right eine wesentlich andere ist.

Manche vielleicht schon, wenn man Böses unterstellt?

Jeannette Gorzala: Aus einem anderen Blickwinkel betrachtet können wir annehmen, dass die Tech-Industrie, welche mit künstlicher Intelligenz bereits seit langem arbeitet und experimentiert, die Entwicklungen besser abzuschätzen wusste. KI ist ja auch kein neues Phänomen, sondern bereits seit den 1960ern bekannt. In der breiten Masse ist die Technologie jedoch erst seit dem ChatGPT-Hype angekommen, der alle Industrien buchstäblich überrollt hat. Wer hätte vor fünf Jahren gedacht, dass man mit einem Halbsatz schon sehr beeindruckende Bilder, mit 10 Minuten Tonaufnahme eine Stimme 1:1 klonen oder basierend auf ein paar Videomitschnitten digitale Menschen modellieren kann?

„[…] die rechtskonforme und fair kompensierte Nutzung muss sichergestellt sein.“

Gehen wir noch einmal zum Thema bedrohter Jobs. Aus meiner Sicht changieren die Reaktionen auf jüngste Entwicklungen da immer zwischen Angstmache und Verharmlosung.

Sehr wahrscheinlich ist aber, dass schon bald weite Teile von PR und PR-Journalismus, Synchronisation, Sprecherjobs, die Arbeit von ausübenden Musiker:innen und Nachrichtenagenturen etc. obsolet sind. Dem widerspricht die von Ihnen zur Sprache gebrachte Studie der ILO. Aber woher sollen die vielen Jobs kommen, um diesen enormen Ausfall zu kompensieren?

Jeannette Gorzala: Ich beobachte die technische Entwicklung von KI-Tools mit großem Interesse und sehe von Woche zu Woche massive Verbesserungen, vor allem im Audio- und Videobereich. Um das Themen Synchronisation und Sprecher:innen aufzugreifen: Ich glaube, dass bei Standardthemen, wie etwa Ansagen in einem automatisierten Call-Center, in Zukunft auf KI gesetzt wird. Jedoch genau dort, wo es darum geht Menschen durch Intonation, Stimmfarbe und Emotionen zu berühren, werden menschliche Sprecher:innen dominieren. Künstlich generierte Stimmen klingen aktuell noch sehr hölzern und schaffen es nicht, Menschen wie professionelle Sprecher:innen mitzunehmen. Aus einer Business-Perspektive für Sprecher:innen spricht auch nichts dagegen, dass diese ihre Stimme synthetisieren und auf diese Weise sichern. Nur – die rechtskonforme und fair kompensierte Nutzung muss sichergestellt sein. Dies vorausgesetzt kann KI sogar eine Risikoabsicherung vor Stimmverlust oder im Krankheitsfall sein.

Im journalistischen Bereich ist es aktuell etwas schwieriger, da maschineller Content de facto ungefiltert das Netz überschwemmt. KI-Tools generieren bereits gute erste Textentwürfe. Das Problem sind jedoch Fakten und Medienwahrheit, die durch rein KI-generierte Artikel ohne Kontrolle aufgrund der Halluzinationen nicht gewährleistet werden kann. Hochqualitativer Journalismus und qualitativ hochwertige Texte werden daher im Zeitalter von Fake News und Desinformation sogar wichtiger.

Als neues Berufsbild oder Fähigkeit entwickelt sich gerade das sogenannte „Prompting“, nämlich die gekonnte Befehlseingabe an generative KI-Tools zur Maximierung der Qualität des Outputs. Dass Prompting eine neue Fertigkeit oder gar ein neues Berufsbild werden kann, war letztes Jahr nicht abzusehen. Heute sieht die Lage anders aus.

Jetzt haben wir die Input-Seite besprochen, d.h. die KI verwendet mein Werk als Datensatz. Wie verhält es sich umgekehrt, d.h. wenn ich ein Kunstwerk unter Mitwirkung einer KI erstelle. In § 1 UrhG ist das bislang so geregelt, dass es kein Algorithmus sein darf, kein computergeneriertes Werk. Wie schätzen sie da die Entwicklung ein?

Jeannette Gorzala: Wie gesagt, geht das österreichische Urheberrecht vom Schöpfer:innenprinzip und einem menschlichen Urheber aus. Eine Maschine oder ein Algorithmus kann aktuell nicht Urheberin sein. Maschinen oder Computerprogramme sind rechtlich betrachtet Sachen und können damit nicht Träger von Rechten und Pflichten sein. Vor dem Hintergrund, dass Sie im Schadensfall von einer Maschine oder einem Code mangels Vermögenszuordnung keinen Schadenersatz einfordern können und diese Sachen auch nicht belange können, ist dies aus meiner rechtsdogmatischen Sicht heute richtig. Noch immer sind es Menschen, die diese Tools als Hilfsmittel verwenden und sich diese im Guten wie im Schlechten zurechnen lassen müssen. Davon getrennt ist zu beantworten, wer die Rechte an einem KI-generierten Werk hat. Vor allem diese Frage wird künftig nicht nur zentral, sondern im Brennpunkt juristischer Diskussionen und möglicherweise legistischer Weiterentwicklungen stehen.

„Wenn Sie durch einen sehr ausgefeilten Prompt ein tolles Bild als Ergebnis erhalten, wird dieses durchaus ein Werk im Sinne des Urheberrechts sein.“

Nahezu jedes fotografische Erzeugnis ist seit der so genannten „Eurobike-Entscheidung“ ein urheberrechtlich geschütztes Werk, während einem Elaborat, für das ich eine Maschine stundenlang gebrieft habe, von Gesetzes wegen die Werkeigenschaft versagt wird. Ist das nicht ein Wertungswiderspruch?

Jeannette Gorzala: Von der Urheberschaft getrennt zu beantworten ist die Frage, ob es sich überhaupt um ein Werk handelt. Das Urheberrecht fordert eine bestimmte Werkhöhe, das heißt eine individuell eigenartige Leistung, die sich vom Alltäglichen, Landläufigen, üblicherweise Hervorgebrachten abhebt. Ähnlich wie beim analogen Beispiel des Strickmännchens kann man bei maschinellen Ergebnissen davon ausgehen, dass sehr einfache Texte oder sehr einfache Bilder nicht den Werkstatus erreichen. Wenn Sie durch einen sehr ausgefeilten Prompt ein tolles Bild als Ergebnis erhalten, wird dieses durchaus ein Werk im Sinne des Urheberrechts sein. Ich sehe hier keinen Widerspruch, sondern einen Gleichlauf mit dem Urheberrecht. Wenn Werke nicht die entsprechende Werkhöhe erreichen, sind sie gemeinfrei.

Es gibt schon Werke, auf denen Musiker:innen gemeinsam mit einer KI improvisieren.

Jeannette Gorzala: Wenn menschliche Musiker:innen KI als Tool für ihre Kompositionen nutzen, als Co-Creator oder Ausgangsbasis, dann unterscheidet sich das geschaffene Musikstück erheblich von einem rein durch ein KI-Tool generierten Werk. Je nachdem, welches Tool Sie in welchem Ausmaß verwendet haben, ist die Urheberfrage zu beantworten. Auf dem Radar sollte man bei allen generierten Werken, unabhängig ob Bilder, Text, Ton oder Video die Möglichkeit haben, dass durch den Output möglicherweise Rechte Dritter verletzt werden. Hierauf empfehle ich besonders zu achten, da für diese Verletzungen im Regelfall die Verantwortung bei den Erstellern des Outputs, das heißt: den Nutzer:innen des KI-Tools liegt.

Nehme wir an, ich arbeite auf einem von der KI generierten Plot einen 300-seitigen Krimi aus. Mit meinen Charakteren, meiner geistigen Leistung. Wie sehen Sie das?

Jeannette Gorzala: Ich gehe bei diesem Fall davon aus, dass Sie sich von dem KI-Tool inspirieren haben lassen, und völlig eigenständig, wie Sie gesagt haben, Charaktere, Handlungsstränge und die Geschichte ausgearbeitet haben. In diesem Fall wird der Krimi Ihr Werk sein. Dieser Fall ist gänzlich anders zu bewerten, als wenn Sie mit einem fünfzeiligen Prompt ein Werk zur Gänze von einem KI-Tool schreiben lassen.

Vielen Dank für das Gespräch.

Markus Deisenberger

Jeannette Gorzala ist Rechtsanwältin in Wien mit Spezialisierung auf Wirtschaftsrecht und künstliche Intelligenz. Sie begleitet rechtlich und strategisch regelmäßig Organisationen bei der Implementierung von KI-Systemen, der Gestaltung von KI-Geschäftsmodellen und der Vorbereitung auf AI Compliance gemäß dem Artificial Intelligence Act. Sie ist Vize-Präsidentin des European AI Forums, das mehr als 2.000 KI-Unternehmer:innen aller Industrien und Größenordnungen vertritt, und Vorstandsmitglied des Think Tanks AI Austria.

Links:
Jeannette Gorzala
AI Austria
European AI Forum