Les organismes TÜV réclament une infrastructure de sécurité nationale et internationale
Avant que des modèles d’IA extrêmement performants ne soient commercialisés, ils devraient être testés sur leur sécurité par des organismes indépendants. C’est ce que demandent l’Association TÜV et le TÜV AI.Lab. Pour préserver la souveraineté numérique de l’Europe, ces organisations proposent d’utiliser l’Institut allemand de sécurité en IA (AISI) en partenariat avec des organismes de certification indépendants en tant qu’autorité de surveillance. De plus, il faut des règles globales avec des limites claires pour les risques incontrôlables.
- Les informations fournies par les fabricants ne suffisent pas : les contrôles de sécurité ne doivent pas être laissés à la seule discrétion des développeurs, encore moins lorsque des infrastructures critiques sont connectées aux systèmes.
- AISI en tant que pilier central : l’institut allemand de sécurité informatique doit devenir une autorité de surveillance et collaborer étroitement avec l’expertise en tests issus de l’industrie.
- Un accès complet aux vérificateurs : les experts indépendants ont besoin d’accès aux modèles, aux données d’entraînement et aux mécanismes de protection pour tester le comportement dans des conditions réelles.
- Signaux d’arrêt internationaux : Un accord mondial est prévu. Si les exigences de sécurité ne sont pas respectées ou si les seuils de risque sont dépassés, la publication doit pouvoir être interrompue.
Pourquoi l’Europe doit pouvoir examiner de manière indépendante les technologies étrangères
Lorsqu’on utilise l’IA dans des domaines sensibles, une confiance aveugle dans les promesses des fabricants ne suffit pas. Comme une grande partie des systèmes utilisés devrait continuer d’être développée dans des pays non membres de l’UE, tels que les États-Unis, l’Allemagne et l’Europe doivent être capables d’évaluer cette technologie de manière autonome. La véritable souveraineté numérique ne signifie pas seulement développer ses propres systèmes, mais aussi examiner et maîtriser indépendamment les technologies étrangères, tout comme cela se fait pour l’homologation des voitures, des installations industrielles ou des dispositifs médicaux.
Contrôle étatique et expérience pratique se rejoignent
Pour une rapidité d’action, le TÜV Association et le TÜV AI.Lab proposent de relier l’institut allemand de sécurité informatique à des organismes de certification établis. L’idée est la suivante : alors que la supervision gouvernementale et la décision finale relèvent de l’AISI, des inspecteurs indépendants apportent leur expertise dans des domaines tels que l’industrie automobile, l’énergie ou le génie mécanique. Ainsi, il est possible d’évaluer de manière pratique comment une IA se comporte lorsqu’elle assume un contrôle direct sur des machines physiques ou des infrastructures sensibles.
Règles globales et système d’alerte en cas d’incident
Une approche nationale à part entière serait trop restrictive pour les développeurs de KI opérant à l’échelle mondiale. L’Allemagne et l’UE devraient donc collaborer étroitement avec des partenaires tels que le Royaume-Uni, le Canada et le Japon afin de s’aligner sur des approches et des normes de test. L’objectif final est un cadre réglementaire internationalement contraignant : si un modèle dépasse les limites de risque définies ou si des preuves de sécurité fiables ne sont pas disponibles, le lancement sur le marché est suspendu. Cela devrait être complété par une surveillance mondiale et une réglementation renforcée.