Rechtsberatung für Künstliche Intelligenz (KI): Haftung, Datenschutz, Regulierung

Rechtsanwalt Georg Uphoff – Fachanwalt für Informationstechnologierecht und Fachanwalt für gewerblichen Rechtsschutz – berät Unternehmen, Entwickler und Fachleute bei allen Rechtsfragen rund um Künstliche Intelligenz (KI). Von der EU-KI-Verordnung (EU AI Act) über Haftungs- und Datenschutzfragen bis zum Schutz KI-generierter Inhalte: Sie erhalten eine Beratung, die rechtliches Know-how mit technischem Verständnis moderner KI-Systeme – etwa großer Sprachmodelle (GPT), Transformer-Architekturen (BERT) und neuronaler Netze – verbindet.

EU AI Act – die europäische KI-Regulierung

Der EU AI Act (Verordnung (EU) 2024/1689) ist am 1. August 2024 in Kraft getreten und gilt gestaffelt: Verbote für bestimmte KI-Praktiken seit Februar 2025, Pflichten für KI-Modelle mit allgemeinem Verwendungszweck (GPAI) ab August 2025, die Anforderungen an Hochrisiko-KI ab 2026/2027. Die Verordnung teilt KI-Systeme in vier Risikoklassen ein:

• Verbotene Praktiken (z. B. Social Scoring) – grundsätzlich untersagt.
• Hochrisiko-KI (z. B. in Personalauswahl, Kreditvergabe, kritischer Infrastruktur) – strenge Pflichten zu Risikomanagement, Daten-Governance, Transparenz und menschlicher Aufsicht.
• Begrenztes Risiko – Transparenzpflichten, etwa die Kennzeichnung von Chatbots und KI-generierten Inhalten.
• Minimales Risiko – weitgehend frei.

Wir prüfen, in welche Klasse Ihr KI-System fällt, und begleiten Sie bei der Umsetzung der Compliance-Pflichten.

Haftung bei KI-Systemen

Wer haftet, wenn eine KI fehlerhaft entscheidet oder einen Schaden verursacht – Hersteller, Betreiber oder Nutzer? Wir klären Verantwortlichkeiten, gestalten Haftungsregelungen in Verträgen und unterstützen bei der Risikobewertung autonomer und teilautonomer Systeme.

Datenschutz und DSGVO bei KI

KI-Systeme verarbeiten oft personenbezogene Daten – beim Training wie im Betrieb. Wir sorgen für DSGVO-Konformität: Rechtsgrundlagen, Transparenz, Datenminimierung, Betroffenenrechte und Datenschutz-Folgenabschätzung.

Urheberrecht und geistiges Eigentum

Sind KI-generierte Inhalte geschützt? Dürfen urheberrechtlich geschützte Werke als Trainingsdaten genutzt werden? Wir beraten zum Schutz Ihrer Innovationen und zu den rechtlichen Grenzen bei Trainingsdaten und KI-Ergebnissen.

Open-Source- und offene KI-Modelle: „Open Weight“ ist nicht „Open Source“

Viele als „Open Source“ bezeichnete KI-Modelle (etwa Llama, Mistral oder Gemma) stehen in Wahrheit unter eigenen Modelllizenzen mit Nutzungsbeschränkungen – juristisch „open weight“, nicht Open Source im Sinne der Open Source Initiative. Wer solche Modelle einsetzt, anpasst (Fine-Tuning) oder in eigene Produkte einbaut, muss zwei Auflagen-Ebenen beachten – und zwar bevor das Produkt in Verkehr gebracht wird:

• Lizenzauflagen des Modells: etwa Namens- und Attributionspflichten („Built with Llama“), die Weitergabe der Lizenzbedingungen, Vorgaben zur zulässigen Nutzung (Acceptable Use), Schwellenwert-Klauseln (Llama verlangt ab 700 Mio. Nutzern eine gesonderte Lizenz) und regionale Sperren – die multimodalen Llama-Modelle sind für Unternehmen mit Sitz in der EU lizenzrechtlich ausgeschlossen.
• Regulatorische Auflagen (EU AI Act): Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) treffen beim Inverkehrbringen Pflichten zu Dokumentation, einer Urheberrechts-Policy und einer öffentlichen Zusammenfassung der Trainingsdaten. Die Erleichterung für frei lizenzierte Modelle greift nur eingeschränkt und nicht bei Modellen mit systemischem Risiko – „quelloffen“ befreit also nicht automatisch.

Wir prüfen die konkrete Modelllizenz, klären Attributions- und Weitergabepflichten, bewerten die EU-Nutzbarkeit und stellen die Konformität mit dem EU AI Act sicher, bevor Sie Ihr KI-Produkt ausrollen. Vertiefung zu Lizenzen, Copyleft und Compliance finden Sie auf unseren Seiten zum Softwarerecht und zum Open-Source-Recht.

Verträge rund um KI

Ob KI-Entwicklung, Lizenzierung, SaaS-Nutzung oder Datenbereitstellung – wir gestalten und prüfen Verträge so, dass Rechte, Pflichten, Haftung und Nutzungsrechte klar geregelt sind.

Häufige Fragen zu KI-Recht (FAQ)

Wer haftet, wenn eine KI einen Schaden verursacht?

Je nach Konstellation kommen Hersteller, Betreiber oder Nutzer in Betracht. Maßgeblich sind u. a. Produkthaftung, vertragliche Vereinbarungen und die Pflichten aus dem EU AI Act. Wir klären die Verantwortlichkeiten im Einzelfall und gestalten passende Haftungsregelungen.

Was schreibt der EU AI Act für Unternehmen vor?

Der EU AI Act stuft KI-Systeme nach Risiko ein. Je nach Klasse gelten Pflichten zu Transparenz, Risikomanagement, Daten-Governance und menschlicher Aufsicht; für Hochrisiko-KI sind sie besonders streng. Wir ermitteln Ihre Einstufung und die konkreten Pflichten.

Sind mit KI erzeugte Inhalte urheberrechtlich geschützt?

Rein maschinell erzeugte Inhalte ohne menschliche schöpferische Leistung sind in der Regel nicht urheberrechtlich geschützt. Entscheidend ist der menschliche Gestaltungsanteil. Wir prüfen den Schutz Ihrer KI-Ergebnisse und Ihre Gestaltungsmöglichkeiten.

Darf ich personenbezogene Daten zum Training einer KI verwenden?

Nur unter den Voraussetzungen der DSGVO – insbesondere mit gültiger Rechtsgrundlage, Transparenz und Wahrung der Betroffenenrechte. Häufig ist eine Datenschutz-Folgenabschätzung erforderlich. Wir prüfen die Zulässigkeit und gestalten datenschutzkonforme Abläufe.

Ab wann gilt der EU AI Act?

Er ist am 1. August 2024 in Kraft getreten und gilt gestaffelt: Verbote seit Februar 2025, GPAI-Pflichten ab August 2025, Hochrisiko-Anforderungen ab 2026/2027.

Ist ein „Open-Source“-KI-Modell wie Llama wirklich frei nutzbar?

Nicht uneingeschränkt. Modelle wie Llama stehen unter eigenen Lizenzen mit Nutzungs-, Namens- und teils regionalen Beschränkungen; die multimodalen Llama-Modelle sind für Unternehmen mit Sitz in der EU ausgeschlossen. Wir prüfen, ob Ihr geplanter Einsatz von der Lizenz gedeckt ist.

Welche Pflichten habe ich, bevor ich ein KI-Produkt auf Basis eines offenen Modells auf den Markt bringe?

Neben den Lizenzauflagen des Modells können Pflichten aus dem EU AI Act bestehen – etwa Transparenz, eine Urheberrechts-Policy und eine Trainingsdaten-Zusammenfassung. Wer ein Modell wesentlich anpasst, kann selbst zum Anbieter mit eigenen Pflichten werden.

Sie entwickeln, vertreiben oder nutzen KI und haben rechtliche Fragen? Kontaktieren Sie die Kanzlei Uphoff & Simons in Rosenheim – Ihr Partner für KI- und IT-Recht. (Stand: Juni 2026)