EU AI Act: Dein Chatbot muss jetzt sagen, dass er KI ist

Der Stichtag ist durch, und viele haben ihn im Sommerloch übersehen: Seit 2. August gilt die KI-Verordnung der EU im Grundsatz vollständig. Für die meisten Betriebe steckt die spürbarste Neuerung in Artikel 50, der Kennzeichnungspflicht. Wer einen Chatbot, einen Sprachassistenten oder ein vergleichbares System betreibt, muss sicherstellen, dass Nutzer erkennen können, dass sie mit einer KI reden. Das gilt für den Assistenten im Webshop genauso wie für die Telefonstimme, die Termine vergibt.

Neu ist seit demselben Tag auch die scharfe Seite des Gesetzes: Die EU-Kommission und das KI-Büro können ihre Befugnisse jetzt voll ausüben, von Auskunftsverlangen über den Zugriff auf Modelle für Prüfzwecke bis zur Anordnung, ein Modell vom Markt zu nehmen.

Wer heute einen Chatbot auf der eigenen Website laufen hat, ist seit 2. August Betreiber im Sinn des Gesetzes, ob er die Verordnung je gelesen hat oder nicht.

Der Omnibus hat verschoben, nicht abgesagt

Im Mai hatten sich Rat und Parlament auf den sogenannten Digital Omnibus geeinigt, die Änderungsverordnung trat Ende Juli in Kraft, knapp vor dem Stichtag. Sie verschiebt vor allem die aufwendigen Pflichten für Hochrisiko-Systeme: für eigenständige Systeme aus Anhang III auf den 2. Dezember 2027, für KI in regulierten Produkten wie Maschinen oder Medizintechnik auf den 2. August 2028. Die Kennzeichnungspflicht und die Aufsichtsbefugnisse blieben davon unberührt, sie gelten seit 2. August unverändert.

Für einen Kleinbetrieb sind solche Summen Theorie, das Risiko liegt woanders: Abmahnungen, Beschwerden und die Frage eines Kunden, warum die freundliche Beraterin im Chat nie schläft.

Erkennbar machen ist keine Doktorarbeit

Die gute Nachricht: Die Pflicht ist mit wenigen Handgriffen erfüllbar. Ein klarer Hinweis im Chatfenster, eine ehrliche Vorstellung der Telefonstimme, eine Kennzeichnung bei KI-erzeugten Bildern und Stimmen, damit ist der Kern abgedeckt. Wer wissen will, welche Pflichten den eigenen Betrieb darüber hinaus treffen, findet hier den Überblick zur KI-Verordnung für Unternehmen, samt der Frage, wann die Schulungspflicht nach Artikel 4 greift.

Bemerkenswert ist am Ende das Suchverhalten: Gesucht wird im deutschen Sprachraum fast nur nach „EU AI Act", kaum jemand tippt „KI-Verordnung" ein. Das Gesetz ist unter seinem englischen Namen bekannter als unter seinem eigenen, und tritt trotzdem leise in Kraft. Die Betriebe, die es betrifft, merken es oft erst, wenn jemand nachfragt.