Es wirkt fast wie aus einem dystopischen Science-Fiction-Roman: Ein Chatbot, der mit ein paar Klicks täuschend echte Nacktbilder von am besten Unschuldigen erstellt – und das, ohne dass die Betroffenen davon überhaupt wissen, geschweige denn zustimmen. Genau um so eine Funktion geht es bei Grok, dem KI-Chatbot, der vor allem durch Elon Musk und seine Plattform X Aufsehen erregt. Obwohl das Unternehmen inzwischen Teile dieser Funktion eingeschränkt und das Erstellen sexualisierter Kinderbilder gestoppt haben will, gibt es für die EU-Kommission offenbar keinen Grund, sich zurückzulehnen. Die Auszieh-Option, wie es intern genannt wird, muss komplett verschwinden – per Knopfdruck sollen Nutzer*innen in Europa nicht mehr in der Lage sein, Nacktaufnahmen echter Personen ohne deren Erlaubnis herstellen zu lassen. Sonst droht nicht weniger als ein Bann des Dienstes im gesamten EU-Wirtschaftsraum.
Interessant ist, wie politisch aufgeladen diese Debatte ist. Im Windschatten des US-Wahlkampfs und angesichts neuer amerikanischer Strafzölle (angeblich angestoßen von Ex-Präsident Trump), zögert Kommissionschefin Ursula von der Leyen mit durchgreifenden Maßnahmen gegen Tech-Riesen aus den USA spürbar – politisches Kalkül steht spürbar im Raum. Doch die Zeiten, in denen die Kommission tatenlos zuschaut, scheinen vorbei: Über den Digital Services Act kann Brüssel Plattformen nicht nur mit empfindlichen Strafen belegen, sondern im Notfall ihre Dienste sogar kappen lassen. Die Tiktok-Lite-Sperrandrohung hat bereits gewirkt; fraglich bleibt, ob die Europäer sich bei US-Riesen wie X am Ende ernsthaft trauen, auch durchzuziehen. Sicher ist nur eins: Das Thema KI und digitaler Kinderschutz ist endgültig oben auf der Agenda.
Der Fall Grok spiegelt die wachsende Besorgnis der EU wider, wie unkompliziert hochmoderne KI-Tools missbraucht werden können, um Persönlichkeits- und Kinderrechte zu unterminieren. Während X bereits kosmetische Einschränkungen vornimmt, verlangt die EU-Kommission ein vollständiges Ende des sogenannten 'Ausziehmodus' – ein Zwischenschritt reicht Brüssel nicht mehr. Laut verschiedener europäischer Medien schlingert die Kommission zwischen politischem Druck, technologischer Unklarheit und dem Willen, endlich mit mehr Härte gegen Big Tech vorzugehen.
In den vergangenen 48 Stunden wurde das Thema in mehreren großen Medienportalen diskutiert und vertieft. Auffällig oft ist die Rede davon, dass Europa beim digitalen Verbraucherschutz vor einer neuen Bewährungsprobe steht. Parallel werden wiederholt Transparenz und bessere Kontrollmöglichkeiten für Nutzer*innen gefordert, damit KI nicht länger zur Waffe gegen Privatpersonen werden kann.
Weitere Details aus Internetrecherche: Die Süddeutsche Zeitung berichtet am 4. Juni über die anhaltenden Debatten in der EU, welche Regulierungsansätze bei generativer KI wie Grok nun konkret greifen sollen. Auch die Frankfurter Allgemeine Zeitung setzt auf die Dynamik im Europäischen Parlament und die wachsende gesellschaftliche Ablehnung von nicht-konsensueller KI-Nutzung. In der ZEIT findet sich ein kritischer Kommentar dazu, wie viel Macht KI-Firmen über unsere Privatsphäre mittlerweile gewonnen haben – und wie schleppend die Gesetzgebung häufig hinterherhinkt.
