Personnalité qualifiée au Conseil supérieur de la propriété littéraire et artistique (CSPLA, ministère de la Culture) et membre du Comité interministériel de l’intelligence artificielle générative, Alexandra Bensamoun multiplie les fonctions. Pour cette professeure de droit à l’université de Paris-Saclay, l’IA trouvera sa place dans la société, à condition qu’elle soit régulée avec justesse.
Alexandra Bensamoun (Université Paris-Saclay) : "En IA comme ailleurs, l’opacité ne pourra jamais être gage de démocratie"
Décideurs. L’AI Act s’inscrit dans le même mouvement que le RGPD. Quels enseignements tirez-vous de ces deux textes ?
Alexandra Bensamoun. À travers l’AI Act et le RGPD, l’Europe joue un rôle au cœur de la concurrence normative. Ces règlements représentent la preuve d’une action européenne déterminée dans la régulation des acteurs et des activités qui ont une influence très importante sur les droits des citoyens européens. Avec leur champ d’application extraterritorial, les deux textes sont voués à s’appliquer aux acteurs, étrangers ou non, qui agissent sur le marché européen.
J’espère que l’AI Act pourra inspirer d’autres pays, comme le RGPD l’a fait. Si cette réglementation a été compliquée à mettre en place, un modèle normatif a désormais été adopté, y compris à l'étranger. La mise en conformité des outils d’IA nécessitera un temps d'adaptation avant leur commercialisation. À l’image des sociétés de DPO externalisés qui ont émergé avec le déploiement du RGPD, des entreprises de mise en conformité à l’AI Act vont apparaître. De même, les acteurs de la conformité déjà présents sur le marché vont ajouter des cordes à leur arc en la matière. Avec le temps, les solutions seront adaptées aux acteurs de toute taille. À l’avenir, nous pourrions également imaginer des DPO "augmentés", en charge de la conformité à l’AI Act.
"Le progrès de la recherche en IA sera probablement plus important grâce au partage plutôt qu’au cloisonnement"
Parallèlement à la compétitivité entre l’Europe et les États-Unis, une opposition récurrente émerge entre la réglementation et l’innovation. Qu’en pensez-vous ?
Opposer régulation et innovation est une posture. À mon sens, le législateur n’est pas anti-économique, d’autant moins en Europe où nous cherchons à créer un marché unique. Le manque de champions européens est souvent imputé à la législation. Alors que la directive e-commerce de 2000 avait créé une bulle d’irresponsabilité pour les acteurs du numérique, les sociétés d’outre-Atlantique, qui avaient su mobiliser les failles de cette législation, ont émergé. Je pense, au contraire, que la régulation va permettre le développement d'un marché sécurisé vertueux. Aux États-Unis, l’ensemble des solutions d’IA générative sont sous le coup de procès. La durée des procédures, les enjeux financiers, sans compter les contrôles à venir des autorités de concurrence constituent des freins au déploiement du marché des outils d’IA. De son côté, à travers une consultation publique lancée le 9 janvier 2024, la Commission européenne veut comprendre l’étendue et la portée des risques concurrentiels posés par l’IA.
D’ailleurs, la rhétorique de l’opposition entre régulation et innovation ne fonctionne plus vraiment, les régulateurs se montrant de plus en plus convaincus de la nécessité d’un encadrement de l’IA. Il n’y a aucune raison pour considérer l’IA comme une innovation si unique qu’elle ne laisse pas de place à des solutions raisonnables et équitables, qui préservent à la fois l'innovation et les droits des citoyens européens.
La construction de systèmes d’IA engendre parfois des dérives. Certains insistent sur l’open source, d’autres redoutent le scraping. Que préconisez-vous pour ménager propriété intellectuelle et entraînement d’algorithmes ?
Les entreprises commerciales qui font le choix de mettre des briques d’outils en open source incarnent une vraie chance. Le progrès de la recherche en IA sera probablement plus important grâce au partage plutôt qu’au cloisonnement. Encore faut-il savoir de quoi on parle, car l’open source reflète parfois un affichage commercial avec des IA qui ne répondent pas véritablement aux critères de l'open source.
"Dès lors qu’un contenu sous droits est utilisé, l’auteur devrait pouvoir donner son autorisation et, le cas échéant, être rémunéré"
Malgré leur utilisation dans l’entraînement des IA génératives, les sources dont les auteurs sont titulaires de droits de propriété intellectuelle n’en sont pas moins protégées. Les domaines de la presse, de la littérature, des jeux vidéo, de la musique, des arts graphiques et plastiques… tous les secteurs sont concernés. L’AI Act intègre ainsi une disposition qui exige la transparence concernant les sources utilisées pour générer les contenus.
Seul le respect de la chaîne de valeur permettra la création d’un marché économique équilibré. L’accord entre le groupe de presse Axel Springer et OpenAI fin 2023 en est une illustration. Dès lors qu’un contenu sous droits est utilisé, l’auteur devrait pouvoir donner son autorisation et, le cas échéant, être rémunéré. Pour ce faire, certains imaginent l’intermédiaire d’un organisme collecteur tel que la Sacem pour la musique.
Quelles avancées, techniques ou juridiques, appelez-vous de vos vœux ?
De manière générale, en droit, la transparence est un socle sur lequel l’ensemble des derniers textes européens relatifs à l'environnement numérique se fonde. En IA comme ailleurs, l’opacité ne pourra jamais être gage de démocratie. Nulle crainte toutefois, les entreprises continueront de faire du profit malgré la régulation – ce qui est une très bonne chose pour l’économie.
Propos recueillis par Léa Pierre-Joseph
