Intelligence artificielle et RGPD : la Cnil publie de nouvelles recommandations

Désireuse de promouvoir une IA respectueuse par défaut de la réglementation sur les données personnelles, la Commission nationale de l'informatique et des libertés (Cnil) a publié le 10 juin 2024 un nouvel ensemble de fiches destinées à guider les collectivités dans le choix d'un prestataire ou la réalisation de leurs projets en intelligence artificielle.
La Cnil a lancé une consultation publique pour promouvoir des systèmes d'IA conformes au RGPD. Suite à des premières recommandations publiées en avril 2024, cette initiative vise à encourager une innovation respectueuse du RGPD, améliorer la transparence des IA et renforcer la confiance du public. Les sept fiches thématiques abordent la base légale de "l'intérêt légitime" pour la collecte de données, l'utilisation de modèles open source, l'annotation des données, le moissonnage de données, l'information des personnes, les droits des personnes concernées et la gestion des risques.
La Direction interministérielle du numérique soutient les IA open source, comme le projet Albert, pour leur capacité à favoriser l'innovation et la transparence. Toutefois, la Cnil souligne l'importance d'une documentation adéquate de ces IA et recommande l'anonymisation des données d'apprentissage. Elle met en garde contre le "webscrapping" (la

collecte automatique de données sur Internet), qui est une technique non réglementée dans pour laquelle il est nécessaire de garantir l’absence de collecte de données nominatives ou permettant la réidentification.
La Cnil recommande également l’établissement de mécanismes facilitant l'exercice des droits des personnes, notamment le droit d'accès, de rectification et de suppression des données présentes dans les bases de connaissance utilisées par les IA.
S’agissant de la sécurité des systèmes d’IA tout au long de leur cycle de vie, la Cnil préconise une analyse approfondie des risques, en combinant des mesures de sécurité classiques et des mesures spécifiques propres à l'IA. Des actions pratiques sont suggérées pour les données d’entraînement, le développement et l’exploitation des systèmes d’IA, afin de réduire les risques pour les droits et libertés des individus.
Ces recommandations font l'objet d'une consultation publique jusqu'au 1er septembre 2024. Pour rappel, la Cnil doit tirer les conclusions des expérimentations lancées en novembre 2023 avec huit services publics dont Ekonom de Nantes métropole, un projet d'IA orienté vers la consommation d'eau des habitants.

Consulter les fiches pratiques IA