Der EU AI Act sortiert den Anwendungsfall
- EU AI Act
- Beratung
Dieselbe Modelldatei ist im Chat über ein Maschinenhandbuch etwas anderes als in der Bewerberauswahl, denn der EU AI Act knüpft an die Verwendung an.
Die Schublade vor der Bestellung
Beratung beginnt mit der Verwendung, nicht mit dem Modellnamen. Der EU AI Act sortiert Systeme nach dem Schaden, den die Anwendung anrichten kann. Künstliche Intelligenz (AI) im Handbuch-Chat und AI in der Personalauswahl nutzen oft dieselbe Technik und fallen regulatorisch trotzdem auseinander.
- Unannehmbares Risiko. Social Scoring und biometrische Fernidentifikation im öffentlichen Raum sind verboten.
- Hohes Risiko. Dazu zählen Bewerberauswahl, Kreditwürdigkeitsprüfung und Systeme in kritischer Infrastruktur. Hier gelten Protokoll und Prüfung, und ein Mensch muss die Ausgabe noch sehen, bevor sie wirkt.
- Allgemeine Modelle und geringes Risiko. Hier gilt Transparenz: KI-erzeugte Inhalte werden gekennzeichnet.
Ein Large Language Model (LLM) im Intranet, das die Bedienungsanleitung einer Fräse durchsucht, fällt unter die Kennzeichnungspflicht. Ein Modell dagegen, das Lebensläufe sortiert und eine Absage vorbereitet, gehört zum hohen Risiko. Die Datei auf der Festplatte ist in beiden Fällen eine Matrix, doch die Pflicht hängt am Vorgang.
Was der Betriebsrat auf dem Tisch hat
§ 87 Betriebsverfassungsgesetz verlangt Mitbestimmung bei technischen Einrichtungen, die Verhalten oder Leistung der Beschäftigten überwachen können. Ein Entwurf, der im Betrieb trägt, sieht so aus: Es gibt keine Protokolle, mit denen sich eine einzelne Person auswerten lässt, die Software bleibt Assistenz, und Kennzahlen werden auf Abteilungsebene erhoben statt als Rangliste der Mitarbeitenden.
Zero Data Retention, die vertragliche Zusage, Prompts nicht fürs Training zu behalten, beantwortet eine andere Frage, nämlich was ein externer Anbieter mit dem Text macht. Die Absprache mit dem Betriebsrat bleibt dagegen im Haus. Beides gehört in dasselbe Gespräch, weil Einkauf und Mitbestimmung sonst aneinander vorbeilaufen.
Wie die Klausel gegenüber einem API-Anbieter aussieht, steht unter Zero Data Retention. Welches Gespräch wann vor dem Kauf geführt werden sollte, steht unter Beratung vor dem Serverkauf.
