À compter du 2 août, l'IA fera partie des missions de direction dans le secteur culturel

À partir du 2 août, la manière dont les institutions culturelles doivent gérer l'intelligence artificielle va évoluer. Non pas parce que l'IA va soudainement être interdite ou rendue obligatoire partout, mais parce que le règlement européen sur l'IA met en vigueur un certain nombre d'obligations en matière de transparence. Il est frappant de constater que le débat ne porte pratiquement pas sur ce sujet. De nombreux articles suggèrent l’existence d’une seule et même nouvelle règle pour tous, alors que la réalité est nettement plus nuancée.

La Commission européenne a publié cet été des lignes directrices relatives à l'article 50 du règlement sur l'IA. Celles-ci précisent que ce n'est pas tant la technologie qui est déterminante, mais le rôle joué par une organisation. Si vous développez vous-même des systèmes d’IA, les obligations qui s’appliquent sont différentes de celles qui s’appliquent lorsque vous utilisez l’IA comme outil au sein d’un musée, d’archives, d’une bibliothèque ou d’un organisme dédié aux arts du spectacle. C’est précisément cette distinction qui revêt une importance particulière pour le secteur culturel.

Des rôles différents, des responsabilités différentes

Les obligations les plus strictes incombent aux fournisseurs de systèmes d'IA : les acteurs qui développent et commercialisent ces modèles. Ils doivent notamment veiller à ce que les systèmes qui communiquent directement avec les humains soient identifiables comme relevant de l'IA. Par ailleurs, les systèmes génératifs doivent apposer sur leurs résultats une balise lisible par machine, afin que le contenu généré par l'IA puisse être automatiquement identifié. Pour les systèmes existants, une période de transition est prévue jusqu'en décembre 2026.

Pour les institutions culturelles, la responsabilité se situe ailleurs.

Quiconque utilise l'IA au sein de sa propre organisation n'est pas tenu d'apposer lui-même cette mention technique. Il est toutefois responsable de ce qui est finalement publié. Les « deepfakes » doivent être identifiables en tant que tels lorsqu'ils imitent de manière convaincante des personnes, des objets ou des événements existants. Par ailleurs, les textes générés par l'IA destinés à informer le public sur des sujets d'intérêt général doivent, en principe, être signalés comme tels.

Cela signifie que l'accent est désormais mis sur l'organisation plutôt que sur la technique. La question centrale n'est plus de savoir comment fonctionne un modèle, mais qui, au sein de l'établissement, est responsable de son utilisation finale. La relation avec les fournisseurs prend ainsi une autre dimension. Lorsqu’un fournisseur doit apposer des marquages lisibles par machine, il va de soi que les établissements le demandent explicitement et intègrent ces dispositions dans leurs conditions d’achat.

Deux exceptions qui concernent précisément la culture

L'article 50 prévoit deux exceptions qui revêtent probablement plus d'importance pour les institutions culturelles que la règle générale elle-même.

Le premier concerne applications artistiques et créatives. Lorsque l'IA fait partie intégrante d'une œuvre d'art, d'une exposition, d'une performance, d'une satire ou d'une fiction, la transparence ne doit pas nécessairement s'appliquer de la même manière que dans le cas d'applications journalistiques ou informatives. Le législateur européen reconnaît ainsi implicitement que l’art et la culture fonctionnent différemment de l’information publique. Une mention reste nécessaire, mais elle ne doit pas perturber l’expérience de l’œuvre. Les lignes directrices laissent pour l’instant ouverte la question de savoir comment cela se traduira concrètement.

La deuxième exception concerne toute personne qui publie des textes.

Lorsque l'IA est utilisée pour rédiger un texte qui a ensuite été évalué de manière vérifiable par des humains et pour lequel une personne physique ou morale assume la responsabilité éditoriale, l'obligation d'indiquer que ce texte a été généré par l'IA ne s'applique pas. C'est précisément cette disposition qui soulève de nombreuses questions :

“ À partir de quand peut-on parler d'un véritable contrôle éditorial ? Quelle doit être son étendue ? Et comment prouver par la suite que ce contrôle a bel et bien eu lieu ? ”

Pour les institutions qui utilisent l'IA dans leurs communiqués de presse, les descriptions de leurs collections ou les informations destinées au public, ce n'est donc pas seulement le contrôle en lui-même qui semble important, mais aussi sa documentation.

Un calendrier à plusieurs vitesses

Le fait que le 2 août soit une date importante ne signifie pas que toutes les dispositions du règlement sur l'IA entreront en vigueur simultanément. Bien au contraire. En mai, le Parlement européen et le Conseil sont parvenus à un accord politique sur ce que l'on appelle l'« omnibus numérique ». En conséquence, plusieurs obligations concernant les systèmes à haut risque sont reportées d'un à deux ans. Les obligations de transparence prévues à l'article 50 restent toutefois inchangées.

Pour les organisations, cela se traduit par un processus législatif à plusieurs vitesses. Celles qui se concentrent exclusivement sur les dates de mise en œuvre ultérieures risquent de négliger les obligations qui entrent en vigueur dès maintenant.

La responsabilité commence avant la surveillance

Il est à noter que les règles européennes deviendront directement applicables, alors que la loi d'application néerlandaise n'entrera probablement en vigueur que plus tard.

Le projet de loi d'application répartit la mission de surveillance entre différentes autorités de contrôle existantes, l'Autorité chargée des données à caractère personnel (AP) et l'Inspection nationale des infrastructures numériques se voyant attribuer un rôle de coordination. L'AP est ainsi désignée comme autorité de surveillance du marché, notamment en ce qui concerne les obligations de transparence.

Pour les institutions culturelles, cela représente une situation particulière. Cette responsabilité leur incombe avant même que le fonctionnement exact du contrôle national ne soit entièrement clarifié.

C'est pourquoi l'attentisme n'est pas une stratégie évidente. C'est précisément pendant cette période de transition qu'il est important de définir en interne quels systèmes d'IA sont utilisés, quels choix ont été faits et qui en assume la responsabilité administrative.

Plus qu'un simple débat juridique

Il y a d’ailleurs peu de consensus sur la portée de la date du 2 août. Les organisations patronales et plusieurs États membres ont justement plaidé ces derniers temps en faveur d’un report, par crainte des charges administratives et pour préserver la compétitivité internationale de l’Europe. Dans le même temps, des critiques contraires s’élèvent : la transparence arriverait trop tard, alors que les contenus générés par l’IA se diffusent déjà à grande échelle et que l’étiquetage n’a que peu d’effet tant que les plateformes de distribution déterminent les flux d’information. Les juristes soulignent quant à eux un autre point. Selon eux, l’exception relative au contrôle éditorial pourrait finalement s’avérer si large qu’une partie importante de l’obligation d’étiquetage disparaîtrait dans la pratique.

Au sein du secteur culturel, un tout autre débat fait par ailleurs rage. Il porte moins sur la transparence que sur le droit d'auteur, les données d'entraînement et la place des créateurs. Pour de nombreux artistes, le règlement sur l'IA ne constitue donc qu'une partie d'une évolution bien plus vaste.

Il n'y a pas de consensus sur l'urgence de la situation. En revanche, il n'y a pas vraiment de désaccord sur l'existence de ces nouvelles responsabilités.

Un modèle de gouvernance qui inspire confiance

C'est précisément pour cette raison que cette évolution convient peut-être mieux au secteur culturel qu'il n'y paraît à première vue. Les musées enregistrent l'origine des objets. Les archives documentent la provenance. Les bibliothèques répertorient les sources. La transparence fait partie, depuis des générations, du savoir-faire professionnel de ces institutions. L'IA ne modifie pas fondamentalement cette pratique professionnelle.

Une nouvelle dimension vient toutefois s'ajouter. Ce n'est plus seulement l'origine d'un objet qui importe, mais aussi la manière dont les textes, les images ou d'autres formes d'expression ont été créés. L'IA passe ainsi progressivement du statut d'outil technique à celui d'enjeu de gouvernance.

Pour les dirigeants et les conseils de surveillance, les questions essentielles finissent par s'avérer étonnamment familières :

“ Quels systèmes d'IA l'organisation utilise-t-elle ? Qui évalue ce qui sera finalement publié ? Cette responsabilité est-elle clairement attribuée ? Et sera-t-il possible d'expliquer ultérieurement pourquoi certains choix ont été faits ? ”

Ce ne sont pas des questions techniques. Ce sont des questions de gestion.

Tout comme la cybersécurité est devenue ces dernières années un sujet incontournable à l'ordre du jour des organes de direction et de surveillance, l'IA suit la même tendance. Non pas parce que les dirigeants doivent être en mesure de suivre chaque évolution technologique, mais parce qu'ils sont responsables de la manière dont leur organisation utilise cette technologie.

C'est peut-être là, en fin de compte, le changement le plus important que met en évidence le règlement sur l'IA. Non pas que l'IA soit capable d'en faire toujours plus, mais que les organisations doivent être en mesure d'expliquer de manière de plus en plus claire comment elles l'utilisent. Le secteur culturel dispose déjà d’une grande partie des valeurs et des traditions professionnelles sur lesquelles cette nouvelle responsabilité peut s’appuyer. Ce qui fait encore largement défaut, c’est une vision claire de l’état d’avancement réel de cette évolution au sein des institutions néerlandaises. C’est peut-être là que réside le principal défi pour les années à venir.