TÜV-Organisationen fordern nationale und internationale Sicherheitsinfrastruktur
Bevor extrem leistungsfähige KI-Modelle auf den Markt kommen, sollten sie von unabhängigen Stellen auf ihre Sicherheit getestet werden. Das fordern der TÜV-Verband und das TÜV AI.Lab. Um Europas digitale Souveränität zu wahren, schlagen die Organisationen vor, das deutsche KI-Sicherheitsinstitut (AISI) im Schulterschluss mit freien Prüforganisationen als Aufsichtsinstanz einzusetzen. Zudem brauche es globale Regeln mit klaren Grenzen für unbeherrschbare Risiken.
- Herstellerangaben reichen nicht: Sicherheitsprüfungen dürfen nicht allein den Entwicklern überlassen werden, erst recht nicht, wenn kritische Infrastrukturen an die Systeme angebunden sind.
- AISI als zentrale Säule: Das deutsche KI-Sicherheitsinstitut soll zur Aufsichtsbehörde ausgebaut werden und eng mit der Prüfexpertise aus der Industrie zusammenarbeiten.
- Voller Einblick für Prüfer: Unabhängige Experten benötigen Zugang zu Modellen, Trainingsdaten und Schutzmechanismen, um das Verhalten unter realen Bedingungen zu testen.
- Internationale Stopp-Signale: Geplant ist ein weltweites Abkommen. Werden Sicherheitsanforderungen nicht nachgewiesen oder Risikoschwellen überschritten, muss die Veröffentlichung gestoppt werden können.
Warum Europa fremde Technologien eigenständig prüfen können muss
Beim Einsatz von KI in sensiblen Bereichen reicht blindes Vertrauen in die Versprechen der Hersteller nicht aus. Da ein Großteil der genutzten Systeme auch künftig aus Nicht-EU-Ländern wie den USA kommen dürfte, müssen Deutschland und Europa in der Lage sein, diese Software selbstständig zu bewerten. Echte digitale Souveränität bedeutet eben nicht nur, eigene Systeme zu entwickeln, sondern fremde Technologien unabhängig zu durchleuchten und zu beherrschen, ganz ähnlich wie bei der Zulassung von Autos, Industrieanlagen oder Medizinprodukten.
Staatliche Aufsicht und Praxiserfahrung Hand in Hand
Für eine schnelle Handlungsfähigkeit schlagen TÜV-Verband und TÜV AI.Lab vor, das deutsche KI-Sicherheitsinstitut mit etablierten Prüforganisationen zu verzahnen. Die Idee dahinter: Während die staatliche Aufsicht und Letztentscheidung beim AISI liegen, bringen freie Prüfer ihr Detailwissen aus Branchen wie der Automobilindustrie, Energieversorgung oder dem Maschinenbau ein. So lässt sich praxisnah bewerten, wie sich eine KI verhält, wenn sie direkte Kontrolle über physische Maschinen oder sensible Infrastrukturen übernimmt.
Globale Regeln und ein Warnsystem für Vorfälle
Ein nationaler Alleingang greift bei global agierenden KI-Entwicklern zu kurz. Deutschland und die EU sollten sich deshalb eng mit Partnerländern wie Großbritannien, Kanada und Japan abstimmen, um bei Modellzugängen und Prüfstandards an einem Strang zu ziehen. Das Fernziel ist ein international verbindliches Regelwerk: Überschreitet ein Modell definierte Risikogrenzen oder fehlen belastbare Sicherheitsnachweise, wird der Marktstart ausgesetzt. Ergänzt werden soll das durch eine weltweite Aufsicht und ein