Un partenariat stratégique autour de la protection des données
Dans un contexte où l’intelligence artificielle prend une place croissante dans les traitements de données, le respect de la confidentialité devient un enjeu majeur. La CNIL, l’ANSSI, le PEReN et le projet IPoP du PEPR IA ont annoncé le lancement de PANAME, un outil libre destiné à évaluer la protection des données dans les modèles d’intelligence artificielle.
Un objectif clair : garantir la conformité RGPD des modèles d’IA
PANAME (pour “Privacy Audits of Neural Architectures and Machine learning Experiments”) vise à lever les obstacles techniques identifiés par la CNIL dans son plan d’action IA. L’ambition est de doter les développeurs, chercheurs et auditeurs d’un outil open source capable de tester les risques de réidentification ou de fuite d’informations personnelles à travers les systèmes d’IA.
Comment fonctionne PANAME ?
PANAME prendra la forme d’une bibliothèque logicielle permettant d’appliquer des tests de confidentialité à différents types de modèles, notamment ceux reposant sur l’apprentissage automatique (machine learning).
Trois objectifs fonctionnels
- Mesurer la vulnérabilité d’un modèle face aux attaques visant à extraire des données personnelles.
- Fournir un cadre d’audit réplicable, afin de favoriser des audits indépendants et transparents.
- Favoriser une meilleure prise en compte du RGPD dès la phase de conception des algorithmes.
Pourquoi cet outil est-il stratégique pour les acteurs de l’IA ?
PANAME est un outil d’intérêt public, car il permet à toute organisation développant ou utilisant des systèmes d’IA :
- de vérifier leur conformité au RGPD, en particulier sur la base des principes de minimisation et d’intégrité/confidentialité,
- de mieux documenter les analyses d’impact relatives à la protection des données (AIPD),
- d’anticiper les exigences futures du règlement européen sur l’IA.
Vers une approche ouverte et collaborative
Le projet repose sur une logique de transparence et de collaboration ouverte. PANAME sera mis à disposition en open source, avec une documentation complète. Des contributions externes seront encouragées pour enrichir les scénarios de tests et améliorer l’outil.
Conclusion
Le lancement de PANAME marque une étape clé dans la structuration d’un écosystème européen de l’IA respectueux des libertés fondamentales. En dotant les professionnels d’un outil d’audit robuste, la CNIL et ses partenaires apportent une réponse concrète aux enjeux de sécurité juridique et de responsabilité dans le développement de modèles d’IA.
