Rapport de la Commission de l’intelligence artificielle : pour l’association #jesuislà les recommandations qui y figurent restent insuffisantes pour assurer la sûreté des Français et Françaises face à l’essor des systèmes d’intelligence artificielle.
Le 19 mars 2024.
L’association #jesuislà regrette que le rapport sur l’intelligence artificielle (IA), rendu le 13 mars dernier par la Commission de l’intelligence artificielle à Emmanuel Macron, se concentre sur les bénéfices économiques supposés de ces technologies émergentes au détriment de la sûreté et de la prévention des graves risques qu’elles font peser sur les droits humains, ainsi que des enjeux liés aux discriminations, à la sécurité des citoyens et citoyennes et à la défense de la démocratie.
De nombreux risques passés sous silence
Dans la lettre de mission du Premier ministre Gabriel Attal, l’une des thématiques clés que la commission devait traiter était « l’éthique et les impacts sociétaux » de l’IA. Pourtant, tout au long du rapport, l’IA y est avant tout présentée comme une opportunité de croissance économique et du PIB, et son développement comme une véritable « course », dans laquelle la France devrait se lancer tête baissée. Quant aux recommandations émanant du rapport, elles proposent principalement de financer l’IA, de la déployer dans les services publics, l’éducation et la santé et de faciliter l’accès aux données personnelles, mais passent sous silence l’explosion des cyberviolences liées aux deepfakes. Il en va de même pour le risque accru de discriminations qu’éclaire pourtant le récent scandale lié à l’algorithme des caisses d’allocations familiales (Caf), accusé de discriminer les bénéficiaires les plus vulnérables. Il est aussi préoccupant que le rapport remette en question la protection de nos données personnelles, notamment de santé, ainsi que le rôle protecteur de la Cnil et du Règlement général pour la protection des données (RGPD) ; ou qu’il se plaigne de « lourdeurs » pour l’accès aux données « dans les domaines de l’ordre public, de la sécurité et de la justice »…
Une impartialité relative
Est-ce vraiment étonnant lorsque l’on sait qu’une partie non négligeable des membres de la commission sont liés d’une manière ou d’une autre aux entreprises de l’IA, voire représentent des entreprises comme Google (Joëlle Barral), Mistral AI (Arthur Mensch et Cédric O – ce dernier ayant récemment été épinglé par un article de Mediapart) ou Meta (Yann Le Cun). Cela pose question sur l’indépendance de cette commission, en tout cas d’une partie de celle-ci. Le manque de transparence sur le panel de personnes auditionnées interpelle également : des membres de la société civile ont-ils été interrogés sur la question des impacts sociétaux de l’IA en prévision de la rédaction de ce rapport ?
Les pouvoirs publics doivent prendre en compte les inquiétudes de la société civile et de la population
Si l’association #jesuislà ne doute pas des impacts positifs que peut générer l’usage de l’IA dans certains domaines, elle est néanmoins convaincue que la révolution liée à l’intelligence artificielle ne doit pas se faire sans la société civile et les citoyen·nes. 69% des Français et Françaises pensent que les technologies de l’intelligence artificielle entraînent plus de risques que de bienfaits : le gouvernement doit prendre en compte les inquiétudes de la population. Or, les recommandations du rapport ainsi que la répartition de l’investissement prévu pour les mettre en oeuvre ne laissent rien augurer de bon en ce sens*.
Des recommandations insuffisantes
Pour l’association #jesuislà, ces recommandations restent insuffisantes pour assurer la sûreté des Français et Françaises. La question des discriminations et des violences permises et facilitées par ces nouvelles technologies, tout comme celle de la désinformation, doivent être abordées et traitées, tant il s’agit d’enjeux de taille et d’urgences sociétales. Or, l’impact de l’IA générative sur la démocratie et les citoyens et citoyennes est largement sous-représenté dans le rapport, qui ne mentionne les deepfakes qu’à deux reprises. Il est primordial que les risques liés à ces contenus soient combattus. Si la mise en place de filigranes pour identifier les deepfakes, comme évoqué dans le rapport de la commission, constitue un premier pas, elle ne peut, à elle seule, garantir la protection de la démocratie et des personnes, notamment des femmes et des filles, qui sont les premières victimes des deepfakes à caractère sexuel. Il faudrait a minima y adjoindre l’interdiction des deepfakes non consentis visant les personnalités politiques ainsi que celle des deepfakes pornographiques.
L’urgence de garantir la protection des citoyens et citoyennes et d’ouvrir un débat démocratique sur l’IA
Le respect des droits humains doit primer sur l’innovation et la croissance. C’est pourquoi #jesuislà demande instamment aux pouvoirs publics de prendre toutes les mesures nécessaires pour garantir la protection des droits et des données personnelles des citoyens et citoyennes, les protéger des risques de discrimination et de violences induits par l’essor des IA et ouvrir un débat démocratique sur le sujet. La question est trop importante et cela devient urgent : le gouvernement ne peut pas faire l’économie d’un grand débat public sur l’IA impliquant toute la société française.
* Par exemple, la Commission recommande un investissement de moins d’un million d’euros pour « mettre en œuvre et évaluer les obligations de transparence prévues par le règlement européen sur l’IA en encourageant le développement de standards et d’une infrastructure adaptée » et « faire du dialogue social et professionnel un outil de co-construction des usages et de régulation des risques des systèmes d’IA ». D’un autre côté, elle propose un investissement de 3 milliards d’euros pour « faciliter la circulation des données et le partage de pratiques pour tirer les bénéfices de l’IA dans les soins, améliorer l’offre et le quotidien des soignants » ; 3,6 milliards d’euros pour « investir massivement dans les entreprises du numérique et la transformation des entreprises pour soutenir l’écosystème français de l’IA et en faire l’un des premiers mondiaux » ; et 7,7 milliards pour « accélérer l’émergence d’une filière européenne de composants semi-conducteurs adaptés aux systèmes d’IA ».