Hagenberg/Wien – Man kann viel über KI glauben. Doch was hilft – gerade in turbulenten Jahren wie diesen – ist belastbare Sicherheit. Michael Weberberger, Geschäftsführer von TRUSTIFAI, stellt sieben Thesen in den Raum, die sich nicht auf angestaubte Regularien beschränken. Erst war KI-Sicherheit ein Thema für Nerds und Forschungsteams. Dann wurde es zur Chefetage-Sorge: Was, wenn unsere schlaue Software ganz neue Risiken eröffnet? Je klüger die Systeme werden, desto dringlicher wird die Frage: Wie erkennen, testen und bändigen wir die Gefahren wirklich?
Die Fronten könnten kaum gegensätzlicher sein. Auf der einen Seite Techkonzerne, die gern mehr Kontrolle hätten, auf der anderen Gesetzgeber mit einem Faible für neue Vorschriften. Dazwischen Unternehmen, die einerseits Innovationen wünschen, andererseits keine Lust auf unkalkulierbares Chaos haben. Zeit also, die Diskussion aus alten Mustern zu befreien.
1. KI-Sicherheit beginnt nicht erst bei Superintelligenz. Nur weil die lautesten Warnrufe von „den Großen“ der Branche kommen, betrifft das Thema längst jeden Betrieb, der KI irgendwie einbindet – vom Bestell-System über RAG-Modelle bis zum Roboter im Lager.
2. Das Modell selbst ist gar nicht das Hauptproblem – es ist das Gesamtpaket! Viele Debatten kleben am KI-Modell, obwohl erst das Zusammenspiel vieler Komponenten (Daten, Schnittstellen, Prozesse, Autorisierungen usw.) das Risiko prägt.
3. Mehr Kontrolle ist nicht immer gleich Sicherheit. Checklisten und Bürokratismus können nämlich trügen: Wenn nur auf dem Papier alles gut aussieht, hilft das herzlich wenig, falls das System im Ernstfall versagt. Und: Je automatischer die Abläufe, desto leichter vertrauen Mitarbeitende blind – ein gefährlicher Automatismus.
4. Compliance ist Pflicht, Assurance gibt Gewissheit. Regularien sichern Mindeststandards, doch für echte Sicherheit braucht es Tests, Messungen und nachvollziehbare Beweise aus der Praxis, jenseits des bloßen Abhakens von Vorgaben.
5. KI ist nie wirklich „abgehakt“, sondern verändert sich dauernd. Jedes Assessment gilt immer nur für den aktuellen Zustand, daher muss KI-Sicherheitsprüfung kontinuierlich stattfinden – idealerweise mit Automatisierung und Monitoring.
6. KI wird bald KI kontrollieren. Klingt nach Science Fiction, ist bald Realität: Weil kein Mensch allein Millionen von Entscheidungen überwachen kann, braucht es Überwachungs-KI. Dabei darf aber nicht vergessen werden, auch das Kontrollsystem selbst laufend kritisch zu beleuchten.
7. Sicherheit darf keine Frage der Größe sein. Wer KI-Sicherheit zu aufwändig macht, schließt kleine Unternehmen aus – und das bringt niemanden weiter. Maßstab muss immer das echte Risiko der Anwendung sein, nicht maximale Zertifizierungs-Fleißarbeit.
Zusammengefasst: Die Debatte sollte sich weniger um neue Regeln und mehr um praktisch nachprüfbare Sicherheit drehen – von der theoretischen Annahme hin zur belastbaren Messung. TRUSTIFAI unterstützt Unternehmen auf dem Weg dahin – vom Einstieg bis hin zur Zertifizierung.
Die Kernaussage: KI-Sicherheit ist weit mehr als Einhalten von Regeln. Gefragt sind wissenschaftlich fundierte Methoden zur Risiko-Einschätzung und lückenlose Nachweise im Alltag – und das nicht nur für Tech-Giganten, sondern gerade auch für den Mittelstand und kleine Akteure. Der Text richtet sich gegen eine bürokratische Sicht auf Sicherheit und fordert eine kontinuierliche, risikobasierte Überprüfbarkeit, bei der auch die Überwacher (KI) selbst geprüft werden müssen.
Aktuelle Recherchen zeigen, dass die Europäische Union mit dem AI Act regulatorische Grundlagen schafft, die jedoch unterschiedlich aufgenommen werden. Während die Süddeutsche Zeitung berichtet, dass Unternehmen Klarheit in der Umsetzung fordern, weil die praktischen Prüfverfahren vielerorts noch fehlen, und die FAZ kritisch anmerkt, dass viele KI-Pilotprojekte bereits an der Bürokratie zerschellen, verlangt der Spiegel von Regierungen, mehr auf die tatsächlichen Risiken von Systemen und weniger auf teure Zertifizierungen zu achten (alle Quellen Stand Anfang Juni 2024).
Dabei zeichnet sich international ab: KI-Sicherheit ist kein exklusives Eliten-Thema mehr. Die wahre Kunst – auch laut TRUSTIFAI – liegt darin, den gap zu schließen zwischen Feinjustierung von Governance und dem für alle zugänglichen Aufbau von wissenschaftlich fundierter Assurance.
