Kaum ein Thema wird gerade so kontrovers diskutiert wie der Umgang mit fortschrittlicher Künstlicher Intelligenz. Daniel Kokotajlo, der bis vor Kurzem noch bei OpenAI forschte und jetzt das "AI Futures Project" an der kalifornischen Uni Berkeley leitet, meldet sich mit drastischen Forderungen zu Wort.
Tech-Konzerne im Fokus der Kritik
Seinen Worten nach betreiben Unternehmen wie OpenAI, Anthropic oder Google vor allem eines: Schönfärberei. „Safety washing“ nennt Kokotajlo das – hübsche Schlagworte über Sicherheit, aber eigentlich nichts dahinter. Etwas Regulierungs-Make-up hier, externe Gutachter da, doch wirklich langsamer oder gar gestoppt wird die Entwicklung nicht.
Hohes Tempo, hohes Risiko
Er bleibt dabei: Die Firmen setzen auf "äußere Kontrollen", vernachlässigen aber die technische Begrenzung der eigenen Systeme. Mich erinnert das fast an Autofirmen, die Airbags in Autos einbauen, aber den Motor weiter frisieren. Und irgendwann, so Kokotajlo, könnte der Wagen eben sehr viel schneller sein als der Fahrer – mit fatalen Folgen.
Vision: KIs entwickeln KIs
Besonders brisant findet er das Ziel, KI-Systeme künftig in die KI-Entwicklung selbst einzubinden. In dieser Automatisierung sieht er "übermenschliche" Gefahren lauern: Wenn Algorithmen neue, noch mächtigere Algorithmen erschaffen und dabei die Kontrolle entgleitet, könnten Fehler und Risiken rascher eskalieren. Ob wir dabei wirklich Schritt halten können? Ich bin ehrlich: Da bleibt für mich ein Restzweifel.
Klartext: Zeit zum Stoppen!
Seine Forderung klingt plakativ, ist aber klar: Die Entwicklung fortgeschrittener KI müsse auf Eis gelegt werden – jedenfalls so weit, bis wir wirklich wissen, was wir da tun. Transparenz, Machtkontrolle und vor allem ein zuverlässiger "Kill-Switch" für Notfälle – das seien Bedingungen für einen Neustart unter sicheren Vorzeichen.
Brisanz für Politik und Gesellschaft
Was bedeutet das für uns? Kokotajlos Vorschlag berührt nicht nur ethische, sondern auch politische Grundfragen: Regulieren wir entschlossen – oder überlassen wir das Spielfeld der Industrie? Die Unsicherheit über mögliche Folgen und der Wettbewerbsdruck zwischen Staaten machen die Debatte nicht einfacher. Jedenfalls geht es laut Kokotajlo nicht um ein generelles KI-Verbot, sondern um Kontrolle über Systeme, die dem Menschen entwachsen könnten.
Wettstreit der Strategien
Der Diskurs spaltet sich zwischen vorsichtigen Stimmen, die sogar Bremsspuren einfordern, und Technologiefans, die lieber erst eingreifen, wenn es knallt. Wer sich durchsetzt, entscheidet, ob demnächst ein "Not-Aus-Schalter" für Hochleistungs-KI gesetzlich eingeführt wird – oder auch nicht. Die abschließende Frage bleibt: Wie weit sind wir bereit, aufs Gaspedal zu treten?
Daniel Kokotajlo, einstiger OpenAI-Mitarbeiter, kritisiert die aktuellen Regulierungsbemühungen großer Tech-Konzerne als Augenwischerei und warnt eindringlich vor einer KI-Selbstbeschleunigung, die menschliches Kontrollvermögen sprengt. Er fordert konsequente, staatliche Notbremsen für die Entwicklung hochleistungsfähiger Systeme und schlägt einen umfassenden Stopp vor, bis sichere Mechanismen – wie ein zuverlässiger Abschaltmechanismus – existieren.
Laut aktuellen Recherchen spitzt sich die KI-Debatte weltweit zu: In der Süddeutschen Zeitung wurde über einen Expertenstreit berichtet, ob die europäischen KI-Regulierungen weit genug gehen, gerade vor dem Hintergrund der schnellen Entwicklung so genannter Frontier-Modelle. Die FAZ beschrieb in einem langen Kommentar die zunehmenden Bemühungen von OpenAI um mehr Transparenz, stieß jedoch zugleich auf Misstrauen bei Beobachtern – vielen fehlt die unabhängige Kontrolle. Auf Zeit Online erschien eine Analyse zur politischen Sprengkraft von KI-Forschung: Während manche Staaten zu freiwilligen Kontrollgremien tendieren, fordern NGOs vor allem externe, staatliche Eingriffe und warnen vor dem Einfluss der Tech-Lobby auf neue Gesetze.