Berlin
16 °C
München
Hamburg
11 °C
Düsseldorf
10 °C
Frankfurt am Main
13 °C
Potsdam
Leipzig
Dortmund
Hannover
14 °C
Köln
Kiel
Bremen
Flensburg
Rostock
EU-Länder wollen KI-Anwendungen für sexuelle Deepfakes verbieten / Foto: © AFP
EU-Länder wollen KI-Anwendungen für sexuelle Deepfakes verbieten
Die 27 EU-Länder haben sich für ein Verbot von KI-Anwendungen ausgesprochen, mit deren Hilfe sexualisierte Bilder von echten Menschen ohne deren Einwilligung hergestellt werden können. Bei einem Treffen am Freitag einigten sich die Botschafter auf eine gemeinsame Position für eine entsprechende Änderung des Gesetzes zu Künstlicher Intelligenz (KI). Damit reagiert Brüssel auf die Erstellung und Verbreitung von Millionen sexualisierter KI-Bilder von Frauen und Kindern mithilfe des Chatbots Grok von US-Milliardär Elon Musk Anfang des Jahres.
Das Verbot soll Teil einer Reihe von Veränderungen am bestehenden KI-Gesetz werden, das die EU 2024 verabschiedet hatte. Auch im EU-Parlament wird derzeit über eine Verschärfung des Gesetzes beraten. Es wird davon ausgegangen, dass die zuständigen Parlamentsausschüsse am Mittwoch über ein Verbot der KI-Anwendungen abstimmen.
Bei Grok handelt es sich um eine beim Onlinedienst X integrierte Funktion. Stein des Anstoßes war Anfang Januar der neue "Spicy Mode" (scharfer Modus) bei Grok, mit dem Nutzer in Sekundenschnelle anzügliche Bilder von Frauen oder Kindern erstellen konnten - etwa mit Aufforderungen wie "entferne ihre Kleider" oder "zieh ihr einen Bikini an". Auch die Erstellung und Verbreitung kinderpornografischer Inhalte war damit möglich.
Mehrere Länder leiteten Untersuchungen gegen Grok ein oder sperrten das Tool. Auch die irische Aufsichtsbehörde leitete im Auftrag der EU eine Untersuchung ein. X erklärte, es werde Maßnahmen ergreifen, um die Erstellung solcher Bilder zu stoppen.
Die Botschafter sprachen sich am Freitag auch dafür aus, die Vorschriften für risikoreiche KI erst später in Kraft treten zu lassen: Demnach sollen diese im Dezember 2027 für eigenständige risikoreiche KI-Systeme und im August 2028 für in Produkte integrierte risikoreiche KI-Systeme gelten. Der aktuelle Zeitplan sah noch ein Inkrafttreten ab August 2026 beziehungsweise August 2027 vor.
R. Borges--JDB
