Zwei KI-Anwendungen sind in der EU ab dem 2. Dezember 2026 verboten

Am 2. Dezember 2026 gelten zwei neue Verbote der europäischen KI-Verordnung. Der Umfang ist klein, die Tragweite groß, und es lohnt sich, in Ruhe hinzusehen, denn die Sache kursiert in übertriebenen Fassungen nach beiden Seiten.

Was verboten wird

Artikel 5, die Liste der verbotenen Praktiken, bekommt zwei neue Buchstaben. Der erste verbietet KI-Systeme, die realistische Bild-, Video- oder Toninhalte erzeugen oder verändern, in denen eine bestimmbare Person auf intime Weise dargestellt wird, ohne ihre ausdrückliche Zustimmung. Der zweite verbietet Systeme, die auf die Erzeugung von Missbrauchsdarstellungen von Kindern gerichtet sind.

Beide stehen auf der höchsten Sanktionsstufe der Verordnung, derselben wie die soziale Bewertung: bis zu 35 Mio. Euro oder 7 Prozent des weltweiten Jahresumsatzes.

Was nicht verboten wird

Hier liegt der Punkt, der fast immer verlorengeht. Die Verordnung fügt zwei Absätze an, die den Umfang eingrenzen. Das Inverkehrbringen ist nur verboten, wenn diese Erzeugung die Zweckbestimmung des Systems ist, oder wenn sie ein nach vernünftigem Ermessen absehbares und reproduzierbares Ergebnis ist und das System keine zumutbaren technischen Schutzvorkehrungen hat. Und die Verwendung ist nur verboten, wenn der Betreiber das System zu diesem Zweck einsetzt.

Anders gesagt: Es ist kein allgemeines Verbot von Bildgeneratoren. Es richtet sich gegen Anwendungen, die dafür gebaut sind, und gegen solche, die es ohne jede Barriere zulassen.

Was sich für eine Familie ändert

Auf der Angebotsseite einiges. Anwendungen, die genau damit werben, dürfen in der EU weder angeboten noch benutzt werden und rutschen in die Kategorie, die Behörden mit den größten Mitteln verfolgen.

Auf der Seite des Telefons, das zu Hause liegt, wenig, und dabei sollte man ehrlich bleiben. Eine europäische Vorschrift löscht nicht, was schon installiert ist oder über Messenger weitergereicht wird. Sie nimmt das Angebot vom Markt und schafft eine klare Grundlage, wenn etwas angezeigt werden muss. Sie verhindert nicht, dass es auftaucht.

Das Wort, das zu Hause trägt

Einwilligung. Die Vorschrift spricht nicht von Geschmack und nicht von Absicht, sondern von einer freiwilligen, spezifischen, aufgeklärten, eindeutigen und ausdrücklichen Zustimmung der dargestellten Person. Das ist ein Maßstab, den ein Jugendlicher versteht, ohne die Verordnung zu lesen, und er gilt für ein Klassenfoto genauso wie für eine Montage: Die Frage ist nicht, ob es lustig ist, sondern ob die Person darauf zugestimmt hat.

Dieses Gespräch nützt mehr als das Verbot, weil es früher kommt. Das Gesetz greift, wenn etwas bereits existiert. Die Frage nach der Zustimmung greift, während jemand die Hand über dem Knopf hat.