Schatten-KI in der Lebensmittelproduktion (2/3): Die Akte wird dicker

Der erste Anruf.

QM-Leiterin Sabine Wolf nimmt die Anfrage des Handelspartners ernst – Self-Assessments dieser Art häufen sich seit einiger Zeit bei Lieferanten der Lebensmittelindustrie. Sie bittet den externen IT-Dienstleister um eine kurze Bestandsaufnahme: Welche Systeme verarbeiten welche Daten, wo, mit welchen Drittanbietern?

Die Antwort kommt schneller als erwartet – und sie ist unerwartet lang. In den Firewall-Logs taucht seit Monaten regelmäßiger verschlüsselter Datenverkehr zu einer API-Adresse außerhalb der EU auf. Ursprung: ein Laptop in der Produktionsplanung.

Was als Routineabfrage begann, wird zur Akte. Und die Akte wird mit jedem Punkt dicker.

Akte 1: Datentransfer ohne Rechtsgrundlage (DSGVO)

Der Transfer personenbezogener Daten in Länder außerhalb des Europäischen Wirtschaftsraums ist nach Art. 44 ff. DSGVO nur unter engen Voraussetzungen zulässig – etwa über einen Angemessenheitsbeschluss, Standardvertragsklauseln oder geeignete technisch-organisatorische Maßnahmen. Nichts davon liegt bei Muster Feinkost vor.

Betroffen sind unter anderem Kundenaufträge mit Ansprechpartnern und Lieferadressen sowie potenzielle Mitarbeiterdaten aus Schicht- und Kapazitätsplanungen. Ein einseitig durch einen Mitarbeiter initiierter Datenexport in eine Cloud-Umgebung außerhalb der EU, ohne jede Rechtsgrundlage, fällt unter die schärfste Bußgeldkategorie der DSGVO: Verstöße gegen die Drittlandtransfer-Vorgaben (Art. 44–49) können nach Art. 83 Abs. 5 DSGVO mit Geldbußen von bis zu 20 Millionen Euro oder 4 Prozent des weltweiten Jahresumsatzes geahndet werden. [Art. 83 DSGVO – Allgemeine Bedingungen für die Verhängung von Geldbußen](https://dsgvo-gesetz.de/art-83-dsgvo/)

**Wichtig für die Geschäftsführung:** Nach außen – gegenüber Aufsichtsbehörden – trifft die Haftung das Unternehmen als verantwortliche Stelle, nicht Markus persönlich. Unwissenheit der Geschäftsführung ist dabei kein Entlastungsgrund.

**Im Innenverhältnis sieht es anders aus.** Nach den Grundsätzen der abgestuften Arbeitnehmerhaftung (innerbetrieblicher Schadensausgleich, ständige BAG-Rechtsprechung) haftet ein Arbeitnehmer seinem Arbeitgeber gegenüber bei leichter Fahrlässigkeit in der Regel gar nicht und bei mittlerer Fahrlässigkeit nur anteilig. Bei grober Fahrlässigkeit oder Vorsatz kann der Arbeitgeber dagegen vollen oder zumindest deutlich höheren Regress nehmen. [Arbeitnehmerhaftung und innerbetrieblicher Schadensausgleich.]

(https://www.haufe.de/personal/arbeitsrecht/arbeitnehmerhaftung-und-innerbetrieblicher-schadensausgleich_76_426928.html)

Da Markus als aktiver Teil der KI-Community mit hoher Wahrscheinlichkeit wusste, dass der Umgang mit Unternehmensdaten in externen KI-Systemen datenschutzrechtlich relevant ist, spricht aus heutiger Sicht einiges für grobe Fahrlässigkeit auf seiner Seite. Das würde der Geschäftsführung im Innenverhältnis theoretisch einen Regressanspruch eröffnen – wobei sich entsprechende Urteile in der Praxis häufig an einer Obergrenze von rund drei Bruttomonatsgehältern orientieren. Für die externe Bußgeldhaftung des Unternehmens gegenüber der Aufsichtsbehörde ändert das nichts.

Akte 2: Rezepturen als Geschäftsgeheimnis (GeschGehG)

Proprietäre Rezepturen sind Geschäftsgeheimnisse im Sinne des Gesetzes zum Schutz von Geschäftsgeheimnissen (GeschGehG) – vorausgesetzt, das Unternehmen hat angemessene Geheimhaltungsmaßnahmen ergriffen. Genau hier liegt das Problem: Sobald vertrauliche Informationen ohne technische Zugriffskontrollen, vertragliche Absicherung oder organisatorische Maßnahmen in ein externes KI-System eingespeist werden, gilt die Geheimhaltungsmaßnahme als durchbrochen. Ohne nachweisbaren aktiven Schutz besteht in der Regel kein rechtlicher Anspruch mehr auf den Geheimnisschutz – unabhängig davon, wie sensibel die Information ist. [Geschäftsgeheimnis – gesetzlicher Schutz von künstlicher Intelligenz.]

(https://digitalzentrum-chemnitz.de/wissen/geschaeftsgeheimnis-gesetzlicher-schutz-von-kuenstlicher-intelligenz/)

Übersetzt: Jahre an Rezeptur-Entwicklung – ein zentraler Wettbewerbsvorteil von Muster Feinkost – sind mit jedem API-Call potenziell ein Stück weniger geschützt. Ob und wie die übermittelten Daten beim Anbieter gespeichert oder für Modelltraining verwendet werden, entzieht sich vollständig der Kontrolle des Unternehmens.

Akte 3: EU AI Act – die unterschätzte Pflicht

Beim EU AI Act (Verordnung (EU) 2024/1689) wird es komplexer – und hier ist Vorsicht vor Übertreibung geboten.

Belastbar ist Folgendes: Die sogenannte KI-Kompetenzpflicht nach Art. 4 AI Act gilt bereits seit Februar 2025 für **alle** Unternehmen, die KI-Systeme einsetzen – unabhängig von der Risikoklasse. Sie verpflichtet Anbieter und Betreiber, ein angemessenes Maß an KI-Kompetenz bei dem Personal sicherzustellen, das mit KI-Systemen arbeitet. Ein Mitarbeiter, der im Alleingang ein Produktions-steuerndes KI-System betreibt, ohne dass Unternehmensleitung oder IT davon wissen, erfüllt diese Anforderung definitionsgemäß nicht.

Ob das System von Markus zusätzlich als **Hochrisiko-KI-System** nach Anhang III einzustufen ist, lässt sich ohne Einzelfallprüfung nicht seriös beantworten. Anhang III nennt acht Bereiche, darunter "Verwaltung und Betrieb kritischer Infrastrukturen" (Bereich 2: Verkehr, Energie, Wasser, digitale Netze) und "Beschäftigung und Arbeitnehmerverwaltung" (Bereich 4). [Anhang III EU AI Act – Übersicht]

(https://www.knowlee.ai/de/glossary/anhang-iii-eu-ai-act)

Eine Produktionsplanung in einem Lebensmittelbetrieb dürfte in aller Regel nicht automatisch unter "kritische Infrastruktur" fallen – könnte aber je nach Ausgestaltung (z. B. Einfluss auf Schichteinteilung und Personaleinsatz) Berührungspunkte zu Bereich 4 haben.

Fakt vs. Einschätzung:

Fakt ist die seit Februar 2025 geltende KI-Kompetenzpflicht und das vollständige Fehlen von Dokumentation, Risikobewertung und Human-in-the-Loop-Kontrolle. Ob eine vollständige Hochrisiko-Einstufung vorliegt, ist eine offene Rechtsfrage, die im Einzelfall – idealerweise mit spezialisierter rechtlicher Beratung – zu klären ist. Die volle Durchsetzung der Hochrisiko-Pflichten nach Anhang III greift zudem erst ab 2. August 2026.

[EU AI Act ab 2. August 2026](https://consulting.tuv.com/aktuelles/ki-im-fokus/hochrisiko-ki-anhang-iii)

Akte 4: Allergene und Lebensmittelrecht

Die EU-Lebensmittelinformationsverordnung (EU) Nr. 1169/2011 schreibt eine eindeutige Dokumentation und Deklaration von Allergenen vor. Verarbeitet ein KI-System Allergen-Matrizen und leitet daraus Produktionsempfehlungen ab, muss lückenlos dokumentiert sein, wer diese Empfehlungen geprüft und freigegeben hat.

Generative KI-Modelle können »halluzinieren« – also plausibel wirkende, aber falsche Informationen erzeugen. Würde eine solche fehlerhafte Empfehlung ungeprüft übernommen und zu einer falschen Allergen-Deklaration führen, drohen nicht nur Rückrufaktionen, sondern im Extremfall auch strafrechtlich relevante Verbraucherschäden.

Bei Muster Feinkost existiert für das System von Markus keine dokumentierte Freigabelogik – die Empfehlungen fließen direkt in die Schichtplanung ein.

Akte 5: Mitbestimmung des Betriebsrats

Nach § 87 Abs. 1 Nr. 6 BetrVG hat der Betriebsrat ein Mitbestimmungsrecht bei der Einführung und Anwendung technischer Einrichtungen, die geeignet sind, das Verhalten oder die Leistung von Arbeitnehmern zu überwachen. Entscheidend ist nach gängiger Rechtsauslegung die **objektive Eignung** zur Überwachung – nicht die Absicht des Arbeitgebers.

[Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 6 BetrVG](https://www.anwalt.de/rechtstipps/mitbestimmungsrecht-des-betriebsrats-bei-der-einfuehrung-technischer-ueberwachungseinrichtungen-87-abs-1-nr-6-betrvg-232654.html)

Ein System, das Schichtverteilungen, Maschinenbelegungen und Kapazitätsauslastung pro Mitarbeiter steuert, kann diese Schwelle erreichen – auch wenn Markus nie die Absicht hatte, jemanden zu überwachen. Ohne Beteiligung des Betriebsrats wäre die Einführung formal unwirksam.

Der Moment, in dem es ernst wird

Sabine Wolf legt Alois Huber Junior am Nachmittag eine Liste auf den Tisch – fünf Punkte, jeder für sich ein Compliance-Risiko, in Summe ein Bild, das er nicht erwartet hat. Huber liest, schweigt, liest noch einmal.

Dann sagt er den Satz, der den Rest des Tages bestimmen wird:
"Moment – das läuft schon seit drei Monaten? Und wer wusste davon?"

Wie Alois Huber junior reagiert, was aus Markus Berger wird – und welche konkreten Schritte das Risiko in einen kontrollierten KI-Einsatz verwandeln, erfährst du im finalen  Teil 3 dieses KI Krimi: "Das Urteil – und die Wende".