L’Europe s’attaque à la réglementation de l’IA : quelles conséquences dans le domaine créatif ?

Très attendu, le projet de règlement européen proposé par la Commission européenne fin avril, intitulé Artificial Intelligence Act, pose les bases d’un cadre juridique à l’échelle de l’Union européenne concernant l’intelligence artificielle (IA), un secteur en plein développement ces dernières années.

L’Artificial Intelligence Act

L’IA a un « immense potentiel mais présente également un certain nombre de risques », selon la vice-présidente de la Commission, Margrethe Vestager. Ainsi, ce règlement a pour but de sécuriser, via un cadre juridique précis, les pratiques liées au développement et à l’utilisation d’IA.

Les règlements européens étant directement applicables dans les états membres, l’Artificial Intelligence Act instaurera un régime commun à l’ensemble de la communauté européenne pour assurer le respect des droits fondamentaux. Cependant, comme le secteur est encore en plein essor, le règlement adopte des termes larges pour éviter d’être pris de court par des évolutions imprévues.

Une classification des IA en trois catégories, par niveau de risque, a ainsi été pensée :

• risque faible. Ces IA seront simplement incitées à respecter un code de conduite éthique, qui reprendra notamment les grandes lignes des règles concernant les IA à risque élevé ;
• risque élevé. Ces IA restent autorisées, mais doivent respecter un certain nombre d’obligations. Il peut s’agir notamment d’IA renvoyant à l’éducation ou à la sécurité ;
• risque inacceptable. Sont ainsi prohibées les IA mettant en œuvre des techniques de sélection ou de notation des personnes à l’initiative de l’État, ou encore d’identification biométrique, ce qui renvoie notamment à la reconnaissance faciale, qui sera toutefois autorisée dans des cadres spéciaux tels que le terrorisme.

Les sanctions prévues en cas de non-respect du cadre juridique défini prennent la forme d’amendes particulièrement dissuasives.

Impact sur les IA du domaine créatif et linguistique

L’initiative de ce projet est bienvenue du fait des nombreuses incertitudes qui frappaient les IA en général et notamment les IA créatives et de traduction. Toutefois, l’IA étant un secteur encore très jeune, certains craignent que cette nouvelle réglementation ait pour effet de limiter la liberté de création dans l’UE. Ainsi, elle pourrait favoriser à son insu le développement d’IA en dehors de l’UE.

Comme toutes les autres, les IA du secteur créatif et linguistique seront soumises aux règles posées par le règlement, selon leur niveau de risque. En principe, les IA de traduction classiques seront catégorisées comme à risque faible, sauf si elles atteignent un stade de développement très évolué comme GPT-3, auquel cas elles feront sans doute l’objet d’une réglementation plus stricte.

Quant aux IA de création artistique, qui prennent souvent des formes diverses et variées, il faudra définir attentivement la catégorie de risque dans laquelle elles entrent afin d’en déduire leur régime. Par exemple, les IA créant des deepfakes (technique permettant notamment de modifier des visages ou des voix dans des vidéos, de façon très vraisemblable) sont considérées comme à risque faible, mais les utilisateurs devront être explicitement avertis qu’ils sont face à la création d’un robot.

En effet, la transparence est au cœur de la volonté des rédacteurs du règlement. À ce sujet, beaucoup d’IA, notamment dans le secteur créatif, ont été entraînées grâce au deep learning, c’est-à-dire à l’assimilation massive d’informations via des bases de données. Le problème est que ce procédé empêche tout traçage ou explication du raisonnement aboutissant à une décision de l’IA.

Par exemple, il en va ainsi des robots artistes comme Ai-Da qui créent des œuvres sur la base de leurs connaissances, en ayant assimilé au préalable à peu près l’ensemble de l’histoire de l’art sur un sujet précis ou non via des bases de données diverses. Une fois ces informations dans leurs systèmes, les décisions qu’elles prennent sont autonomes et imprévisibles, ce qui peut aboutir à des résultats dérangeants. La recherche doit donc continuer dans ce domaine, afin d’en améliorer la transparence.

Finalement, le chemin est encore long avant l’adoption d’un texte définitif, le projet allant encore faire l’objet de nombreux amendements par le Parlement européen et le Conseil afin de trouver une balance entre liberté d’innovation et respect des droits fondamentaux. L’initiative doit tout de même être saluée.

Ailleurs sur Lettres Numériques :

• Union Européenne : Intelligence artificielle et attribution des droits d’auteur sur Internet
• Réalité virtuelle, réalité augmentée et propriété intellectuelle : les prémices du cadre juridique
• Droit d’auteur international et particularités étatiques : le cas embarrassant du Projet Gutenberg

 Retrouvez Lettres Numériques sur Twitter, Facebook et LinkedIn.

— Nausicaa Plas