Dieses Buch bietet eine fundierte Einführung in die juristischen Grundlagen des Rechts künstlicher Intelligenz. Die Autoren führen systematisch in zentrale Rechtsfragen ein – von Algorithmen und maschinellem Lernen über generative KI, Datenschutz und Haftung bis hin zur neuen KI-Verordnung der EU. Dabei wird bewusst auf sektorspezifische Spezialthemen verzichtet, um den Blick auf die Grundarchitektur des KI-Rechts zu schärfen. Der besondere Ansatz liegt in der Verbindung technischer Grundlagen mit präziser juristischer Systembildung – an der Schnittstelle zwischen Technologie und Norm. Behandelt werden u. a. der Schutz von Algorithmen, urheberrechtliche Fragen bei KI-Output, zivilrechtliche Haftung bei Halluzinationen, datenschutzrechtliche Anforderungen unter der DSGVO, die Vorgaben der KI-VO (inkl. Qualitätsmanagement) sowie Haftungsfragen beim autonomen Fahren. Klar strukturiert und didaktisch aufbereitet richtet sich das Werk an Studierende, Praktiker und Forschende, die Orientierung in einem dynamischen Rechtsgebiet suchen – und bietet damit einen unverzichtbaren Referenzpunkt im deutschsprachigen Diskurs zum Recht der künstlichen Intelligenz.

Textprobe: Algorithmen Grundsätzlich ist ein Algorithmus allgemeingültig und es handelt sich dabei um eine Arbeitsweise, wie eine Aufgabe zu lösen ist, ggf. mit Hilfe eines Computers. Diese recht einfache Definition umschreibt sehr gut das Problem, wenn es um die juristische Beurteilung geht. Denn diese Kriterien für die juristische Beurteilung sind zu ungenau. Die Formen und Darstellungsvarianten von Algorithmen sind zahlreich. Die mangelnde mathematische Genauigkeit des Begriffs Algorithmus störte viele Mathematiker und Logiker des 19. und 20. Jahrhunderts, weswegen in der ersten Hälfte des 20. Jahrhunderts eine ganze Reihe von Ansätzen entwickelt wurden, die zu einer genauen Definition führen sollten. Formalisierungen des Berechenbarkeitsbegriffs sind die Turingmaschine (Alan Turing), Registermaschinen, das Lambda-Kalkül (Alonzo Church), rekursive Funktionen, Chomsky-Grammatiken (siehe Chomsky-Hierarchie) und Markow-Algorithmen. Obwohl es Algorithmen schon sehr lang gibt, ist der rechtliche Status von Algorithmen nicht eindeutig geklärt. Dies hängt sicherlich mit der Frage zusammen, was ein Algorithmus wirklich ist. Die Unklarheit ergibt sich aus einer wenig aussagekräftigen Definition, wonach ein Algorithmus ein methodisches Rechenverfahren zur Lösung eines Problems ist. Allgemein wird unter Algorithmus auch die Lösung einer konkreten Aufgabe verstanden, wobei elementare Verarbeitungsschritte der Schlüssel für das Ergebnis sind. Da es für künstliche Intelligenz (KI) und insbesondere Algorithmen bisher wenige Spezialnormen gibt, ist man stark auf Analogien bzw. die Auslegung anderer Normen angewiesen. So blickt man gerne auf das Urheberrecht, welches mit der Spezialnorm des § 69a UrhG ggf. durch die Auslegung auch einen Schutz für Algorithmen bieten könnte. KI-Unternehmen investieren sehr viel Geld in die Schaffung von komplexen Algorithmen und so mehr stellt sich die ganze KI-Branche die Frage, wie sie ihre Investitionen schützen kann. Ganz aktuell zeigt sich dies in den Vereinigten Staaten und dem angestrebten (Teil-)Verkauf der Plattform TikTok”. Neben den (macht-)politischen Fragestellungen ergibt sich eine besondere Schwierigkeit in der besonderen Werthaltigkeit des Algorithmus der Plattform. Bei Systemen künstlicher Intelligenz und insbesondere Algorithmen ist zwischen den unterschiedlichen Elementen für deren Entwicklung zu unterscheiden. Es kann grundsätzlich unterstellt werden, dass ein Algorithmus allein zunächst einmal nicht als Patent, auch in den unterschiedlichen Formen (siehe II.2 – II.5), angemeldet werden kann, denn abstrakte oder intellektuelle Methoden sind nicht patentierbar, vgl. § 1 Abs. 2 und 3 PatG sowie Art. 52 Abs. 2 und 3 EPÜ. Das Bundespatentgesetz spricht in der Regelm vom Algorithmus als solchem” in Unterscheidumg zum Algorithmus mit technischem Inhalt”. Ein Algorithmus kann generell den Schutz des Geschäftsgeheimnisgesetzes genießen, wenn seine Schöpfer dafür sorgen, dass die Voraussetzungen nach § 2 GeschGehG für einen Algorithmus erfüllt worden sind. Das Ergebnis ist aber wenig befriedigend, da die Möglichkeiten der Verwertung nicht die gleichen sind, wie bei urheberrechtlichen Werken (z. B. die des § 31 UrhG). Somit besteht der große Wunsch, dass Algorithmen einen urheberrechtlichen Schutz genießen sollten. Der bisherige Fehler bei der rechtlichen Betrachtung von Algorithmen liegt darin begründet, dass man bei Algorithmen von einer feststehenden Form ausgeht, dass die Definitionen von Wissenschaftlern (vor allem Data Scientists) doch sehr allgemein gehalten sind (siehe oben) und diese sich nur schwer rechtlich fassen lassen. Dabei gibt es sehr unterschiedliche Formen von Algorithmen (siehe II.2 – II.5), welche somit auch unterschiedlich rechtlich betrachtet werden müssen. Die differenzierte Betrachtung muss insbesondere im Kontext des § 69a Abs. 1 und Abs. 2 UrhG erfolgen. Denn nach § 69a Abs. 1 UrhG sind Computerprogramme im Sinne dieses Gesetzes Programme in jeder Gestalt, einschließlich des Entwurfsmaterials. Nach § 69a Abs. 1 S. 1 UrhG gilt der gewährte Schutz für alle Ausdrucksformen eines Computerprogramms (siehe III.), wovon auch das Entwurfsmaterial (siehe IV.2) und der Quellcode (siehe IV.3) erfasst sind. Dagegen sind gem. § 69a Abs. 1 S. 2 UrhG Ideen und Grundsätze, die einem Element eines Computerprogramms zugrunde liegen, einschließlich der den Schnittstellen zugrundeliegenden Ideen und Grundsätze, nicht geschützt. Somit könnte ein Algorithmus dadurch urheberrechtlichen Schutz i. S. v. § 69a UrhG erlangen, wenn die jeweilige Form des Algorithmus als Entwurfsmaterial oder Quellcode klassifiziert werden kann. I. Transformation des Algorithmus Algorithmen können in unterschiedlichen Formen dargestellt werden. Diese reichen von der mathematischen Formel bis zum konkret auf eine Maschine zugeschnittenen Programm. Dies liegt darin begründet, dass sich Algorithmen gut in Computerprogrammen umsetzen lassen (sog. Kompilieren), welche dann Algorithmen automatisiert durchführen. Ein Algorithmus erlebt somit während seines Lebenszyklus eine gewisse Transformation (siehe Abb. 1). Am Anfang steht immer das Problem (1), um das Problem zu visualisieren kann ein Entscheidungsbaum (2) erstellt werden, der Entscheidungsbaum wird umgesetzt, entweder in einen Pseudocode (3) oder eine mathematische Formel, z. B. einen euklidischen Algorithmus (4). Aus dieser Formel bzw. diesem Pseudocode wird ein Quellcode (5) generiert und dieser wird durch einen Compiler in ein Computerprogramm (6) transformiert und am Ende steht das Ergebnis (7). Entwurfsmaterial Für Entwurfsmaterial ist weitgehend offen, ab wann und bis zu welchem Zeitpunkt der Schutz greifen soll. In der bisherigen Rechtspraxis schien das auch keine große Rolle zu spielen, weil es zu wenigen rechtlichen Auseinandersetzungen darüber kam. Der Erwägungsgrund 7 der SoftwareRL spricht insoweit nur dann von Entwurfsmaterial, sofern die Art der vorbereitenden Arbeit die spätere Entstehung eines Computerprogramms zulässt . Entscheidend ist nach dem Wortlaut, dass Entwurfsmaterial geeignet bzw. soweit gediehen sein muss, um auf seiner Basis ein Computerprogramm in Codeform schreiben zu können. Folgern lässt sich für einen Schutz als Entwurfsmaterial, dass eine hinreichende technische Nähe zum Programm in Codeform bestehen muss. Dabei sind technische Spezifikationen und Programmvorgaben, wie Datenflusspläne und Programmablaufpläne sowie technische Grob- und Feinspezifikation, als Entwurfsmaterial schutzfähig. Die darin festgelegten Anforderungen beziehen sich unmittelbar auf die Erstellung des Programms, so dass eine hinreichende Nähe zu diesem vorliegt – wenn auch in Frage steht, ob lediglich auf dieser Basis eine Codierung möglich ist. Somit lässt sich festhalten, dass Entwurfsmaterial ab dem Zeitpunkt vorliegt, ab dem es möglich ist, auf Basis dessen ein Programm zu schreiben. Sobald eine Entwicklungsstufe erreicht wird, die Steuerungsbefehle in Codeform umsetzt und damit den Programmbegriff erfüllt, würde es sich nicht mehr um Entwurfsmaterial, sondern das Programm selbst handeln. Wenn man diese Erkenntnis auf die unterschiedlichen Formen eines Algorithmus anwendet, so ist zunächst einmal beim Entscheidungsbaum, so wie er dargestellt worden ist, kein Entwurfsmaterial für ein späteres Computerprogramm anzunehmen. Denn nach § 69a Abs. 2 S. 2 UrhG sind Ideen und Grundsätze, die einem Element eines Computerprogramms zugrunde liegen, einschließlich der den Schnittstellen zugrunde liegenden Ideen und Grundsätze, nicht geschützt. Die Ausprägungen beim Entscheidungsbaum haben noch nicht die Entwicklungsstufe erreicht, um Steuerungsbefehle (jetzt schon) in Codeform umzusetzen. Zumindest nicht, ohne dass weitere Zwischenschritte notwendig sind. Anders verhält es sich, wenn der Entscheidungsbaum schon eine solche Qualität erreicht, dass er als Programmablaufplan, z. B. nach DIN 66001 oder ISO 5807, gelten kann. Solche Programmablaufpläne genießen durchaus als Entwurfsmaterial den Schutz nach § 69a Abs. 1 und Abs. 2 S. 1 UrhG. Bei Entscheidungsbäumen kommt es daher sehr auf den Einzelfall an. Bei der Darstellung eines Algorithmus durch eine mathematische Formel ist es höchstwahrscheinlich nicht möglich, ohne weitere (größere) Zwischenschritte einen Programmcode zu erzeugen. Es fehlt eine hinreichende technische Nähe zum Programm in Codeform. Somit ist die Darstellung eines Algorithmus in der Form einer mathematischen Formel nicht ausreichend, um als Entwurfsmaterial den urheberechtlichen Schutz des § 69a Abs. 1 UrhG zu erlangen. Dagegen ist beim Pseudocode schon deutlich von einem Entwurfsmaterial auszugehen, da der Pseudocode eine Entwicklungsstufe erreicht hat, die ausreichend ist, um ihn für Steuerungsbefehle in Codeform umzusetzen. Der Pseudocode ist durch seine Form einer Programmiersprache schon sehr nah am eigentlichen Programmcode/Quellcode. Der Quellcode (II.5) bedarf keiner Kategorisierung als Entwurfsmaterial, da gem. § 69a Abs. 1 UrhG Computerprogramme im Sinne dieses Gesetzes Programme in jeder Gestalt sind. Hierzu zählt ebenfalls der Quellcode. Quellcode Wie bereits oben dargestellt fällt auch der Quellcode in den Schutzbereich des § 69a Abs. 1 UrhG. Fraglich ist, ob der beschriebene Pseudocode, als Methode zur Versinnlichung eines Algorithmus, den Schutz nach § 69a Abs. 2 S. 1 UrhG durch den Vergleich zu einem Quellcode verdient. Darauf, dass die Software ablauffähig ist, kommt es angesichts der Formulierung aller Ausdrucksformen (vgl. § 69a Abs. 2 UrhG), was z.B. auch den Quellcode einschließt, nicht an. Dies würde grundsätzlich dafür sprechen, dass der Pseudocode einen vergleichbaren Schutz wie der Quellcode erlangen könnte. Aber für den Programmbegriff legt der EuGH mit seiner Bezugnahme auf die Funktionsveranlassung als entscheidendes Kriterium ein Steuerungselement zugrunde, was dem Verständnis des nationalen Urheberrechts entspricht. Aber gerade an solchen tatsächlichen Steuerungselementen fehlt es beim Pseudocode, da dieser nur der Veranschaulichung des Algorithmus dient. Der Pseudocode ist kompakter und leichter verständlich als realer Programmcode, erzeugt aber nicht solche Befehle für einen Computer, die tatsächlich dazu führen, dass ein lauffähiges Computerprogramm entsteht. Denn hinsichtlich des Programms ergibt sich ein primärer Zuschnitt auf die in Codeform ausgedrückten Steuerungsbefehle (in Quell- oder Objektcode) als Schutzgegenstand. Nicht steuerungsbezogenen Elementen soll Schutz nur nach allgemeinen Vorschriften zukommen. Ein Schutz nach allgemeinen Vorschriften kann sich daraus ergeben, dass sich der Pseudocode als Entwurfsmaterial (siehe III.2) in den Schutzbereich des § 69a Abs. 2 S. 1 UrhG bringen lässt. Somit lässt sich im Ergebnis festhalten, dass die Darstellung eines Algorithmus in der Form eines Pseudocodes nicht den Schutz des § 69a Abs. 2 S. 1 UrhG verdient, wenn dieser aus der Vergleichbarkeit zum Quellcode entstehen soll. Einfluss der KI auf das Coding Künstliche Intelligenz (KI) hat in den letzten Jahren die Art und Weise, wie Software entwickelt wird, tiefgreifend verändert. Besonders im Bereich der Code-Generierung zeigen sich enorme Fortschritte: Moderne Werkzeuge wie GitHub Copilot (entwickelt von GitHub und OpenAI), Amazon CodeWhisperer oder ChatGPT können auf Grundlage natürlicher Sprache oder einfacher Kommentare im Code vollständige Funktionen oder Code-Vorschläge generieren. Sie analysieren dabei nicht nur den unmittelbaren Kontext, sondern greifen auf umfangreiche Trainingsdaten zurück, um relevante und syntaktisch korrekte Vorschläge zu machen. Ein besonderer Vorteil dieser Tools liegt in der Automatisierung sogenannter Boilerplate-Aufgaben. Dabei handelt es sich um sich wiederholende und oft mechanische Programmierarbeiten – etwa das Schreiben von Settern und Gettern, das Anlegen von REST-API-Endpunkten oder das Generieren einfacher Unit Tests und Validierungslogiken. Diese Prozesse lassen sich mithilfe KI-basierter Werkzeuge erheblich beschleunigen oder vollständig automatisieren, was Entwicklerinnen und Entwicklern mehr Raum für kreative und konzeptionelle Aufgaben gibt. Darüber hinaus fördern KI-Systeme auch die Verbreitung von Low-Code- und No-Code-Plattformen. Solche Plattformen ermöglichen es, komplexe Anwendungen weitgehend ohne klassisches Programmieren zu erstellen. Benutzeroberflächen, Datenbanken oder Automatisierungsabläufe lassen sich per Drag-and-Drop oder durch einfache Befehle konfigurieren. Dieser Trend demokratisiert die Softwareentwicklung, da er auch Menschen ohne tiefgehendes technisches Know-how in die Lage versetzt, digitale Lösungen zu entwickeln. Gleichzeitig bringt diese Entwicklung neue Herausforderungen mit sich, insbesondere in Bezug auf Codequalität, Wartbarkeit und Sicherheit. Insgesamt lässt sich feststellen, dass KI-gestützte Tools keineswegs das Programmieren im klassischen Sinne obsolet machen – sie verändern jedoch grundlegende Abläufe, verschieben Kompetenzanforderungen und eröffnen neue Formen der Mensch-Maschine-Kollaboration. Im Zentrum der urheberrechtlichen Bewertung KI-generierten Codes steht die Frage, ob es sich bei solchen Erzeugnissen um persönliche geistige Schöpfungen im Sinne des § 2 Abs. 2 UrhG handelt. Der deutsche Urheberrechtsschutz knüpft zentral an die Individualität und das schöpferische Wirken einer natürlichen Person an. Nur Werke, die Ausdruck der persönlichen geistigen Leistung eines Menschen sind, können unter den Schutz des Urheberrechts fallen. Eine maschinelle Leistung – auch wenn sie formal dem Werkbegriff des § 2 Abs. 1 UrhG (hier konkret: Sprachwerke, einschließlich Computerprogramme gem. § 69a UrhG) zuzuordnen wäre – genügt dem nicht. KI-Systeme wie GitHub Copilot, ChatGPT oder Amazon CodeWhisperer operieren auf Basis statistischer Mustererkennung in großen Text- bzw. Codekorpora. Der generative Akt – d.h. die konkrete Auswahl, Kombination und Ausformulierung von Codebestandteilen – erfolgt autonom durch das System, ohne menschliche Interventionsentscheidung im Einzelfall. Zwar erfolgt das Prompting durch den Nutzer, doch bleibt dieser Input regelmäßig auf allgemeine Instruktionen ( Schreibe eine Funktion zur Umrechnung von Celsius in Fahrenheit ) beschränkt. Es fehlt damit an einer eigenpersönlichen Gestaltungsentscheidung des Menschen hinsichtlich des konkreten Ausdrucks des Werkes. Die herrschende Meinung in der Literatur und die bisherige deutsche Rechtsprechung betonen durchgehend, dass eine persönliche geistige Schöpfung im Sinne des § 2 Abs. 2 UrhG eine individuelle Entscheidungsspielraum bei der Gestaltung voraussetzt, der gerade nicht in einer bloßen Bedienhandlung bestehen darf. Eine bloße Nutzung technischer Hilfsmittel (z. B. Textverarbeitung, IDEs) steht der Schutzfähigkeit des Ergebnisses nicht entgegen – im Gegensatz zur vollständigen Delegation der Gestaltungsentscheidung an eine Maschine, wie sie bei KI-generiertem Code typischerweise vorliegt. Daher ist nach geltender Rechtslage festzuhalten: KI-generierter Quellcode ist mangels menschlicher schöpferischer Leistung nicht als Werk im Sinne des § 2 Abs. 2 UrhG anzusehen und damit nicht urheberrechtlich geschützt. Der KI-Anwender erlangt mangels eigener individueller Gestaltungsentscheidung keine Urheberschaft am erzeugten Code, es sei denn, er nimmt substanzielle schöpferische Bearbeitungen vor (§ 3 UrhG). Die KI selbst kann mangels Rechtspersönlichkeit nicht Träger von Urheberrechten sein. In der Konsequenz steht KI-generierter Code, jedenfalls nach deutschem Urheberrecht, regelmäßig gemeinfrei zur Verfügung – es sei denn, es liegt eine menschliche Mitwirkung vor, die über rein technische Steuerung hinausgeht und eine individuelle kreative Prägung erkennen lässt. Resümee Zusammenfassend lässt sich sagen, dass Algorithmen abhängig von ihrer unterschiedlichen Form einen urheberrechtlichen Schutz genießen oder auch nicht. Somit wird die Darstellung eines Algorithmus in der Form eines einfachen Entscheidungsbaums i. d. R. keinen urheberrechtlichen Schutz genießen. Anders verhält es sich, wenn der Entscheidungsbaum schon die Qualität eines Programmablaufplanes erreicht. Bei einem mathematischen dargestellten Algorithmus, wie dem euklidischen Algorithmus, ist kein urheberrechtlicher Schutz anzunehmen. Dagegen ist bei der Darstellung eines Algorithmus in einem Pseudocode durchaus von einem urheberrechtlichen Schutz auszugehen, auch wenn dieser nicht aus der Vergleichbarkeit zum Quellcode zu entnehmen ist, sondern als Entwurfsmaterial entsprechenden urheberrechtlichen Schutz genießt.

• Künstliche Inteligenz

• KI-Verordnung

• Maschine Learning

• Large Language Modells (LLM)

• Halluzinationen

• Algorithmus

• KI-Haftungs RL

• Embedded Law

Thomas Söbbing ist ein deutscher Jurist der fundamentale Arbeiten auf den Gebieten des Digitalen Rechts und der Rechtsfragen künstlicher Intelligenz geschrieben hat. So veröffentlichte er wegweisende Beiträge zum IT-Recht und verfasste das erste Buch zum KI-Recht in deutscher Sprache. Bereits 2017 wurde er von Legal 500 zu einem der Most Influential Lawyer in Business gewählt. Söbbing studierte Jura an Universitäten in Münster, Düsseldorf und Washington (State), war Mitarbeiter von Thomas Hoeren am ITM in Münster und absolvierte Programme in Harvard, Stanford, Oxford, Shanghai und St. Gallen. Alexander Schwarz ist ein Vorsitzender eines Zivilsenats am Pfälzischen Oberlandesgericht Zweibrücken, der sich schwerpunktmäßig mit Rechtsstreitigkeiten aus dem Bereich des Geistigen Eigentums, Wettbewerbsrechts und Gesellschaftsrechts befasst. Weiter ist er Lehrbeauftragter an der Hochschule Kaiserslautern.