Le 11 octobre dernier la CNIL a publié ses premières fiches pratiques sur la constitution et le développement de bases de données d’apprentissage des systèmes d’intelligence artificielle. L’objectif ? Aider les professionnels à concilier innovation et respect des droits des personnes. Ces 7 fiches sont soumises à consultation publique jusqu’au 16 novembre prochain !
Parmi les éléments essentiels à retenir :
1 > Régime juridique
- La définition claire du but de l’utilisation de l’IA (phase de développement) dès le départ (phase de déploiement) permet de déterminer plus facilement le régime juridique applicable.
- A titre d’illustration, un organisme peut constituer une base de données pour l’entraînement d’un modèle de classification d’objets dans des images (personnes, véhicules, aliments, etc.) et le rendre publiquement accessible, sans qu’aucun usage opérationnel spécifique ne soit prévu lors du développement du modèle.
2 > Finalités
- Une finalité définie de manière trop générale ne peut pas être considérée comme déterminée et explicite. Tel serait le cas par exemple d’une finalité définie comme « le développement et amélioration d’un système d’IA ».
- Exemple de finalité considérée comme conforme : « développement d’un modèle de reconnaissance vocale capable d’identifier un locuteur, sa langue, son âge, son genre… ».
3 > Responsabilités
En principe, le fournisseur à l’initiative du développement de l’IA est considéré comme responsable de traitement. Si plusieurs entités collaborent pour un objectif commun, elles partagent la responsabilité (responsables conjoints). Si un tiers est engagé pour aider, il est considéré comme un sous-traitant.
4 > Bases légales
- La CNIL a identifié plusieurs bases légales mobilisables, à savoir le consentement, l’intérêt légitime, la mission d’intérêt public et enfin l’exécution d’un contrat.
- Exemple : peut-être considéré comme légitime, l’intérêt pour un organisme de développer un modèle en vue de la commercialisation d’un système d’IA ou encore en vue de contribuer à l’amélioration de la connaissance scientifique.
Le petit +
Le guide d’auto-évaluation pour les systèmes d’IA proposé par la CNIL est également un support à prendre en considération pour évaluer la maturité de son système. Face à cette thématique, vous pouvez éventuellement, et dans un premier temps, rediriger vos clients vers cet outil.
