Vanaf 2 augustus is AI een bestuurstaak in de culturele sector

Vanaf 2 augustus verandert er iets in de manier waarop culturele instellingen met kunstmatige intelligentie moeten omgaan. Niet omdat AI ineens overal verboden of verplicht wordt, maar omdat de Europese AI-verordening een aantal transparantieverplichtingen van kracht laat worden. Opvallend genoeg gaat de discussie daar nauwelijks over. Veel berichtgeving suggereert één nieuwe regel voor iedereen, terwijl de werkelijkheid aanzienlijk genuanceerder is.

De Europese Commissie publiceerde deze zomer richtsnoeren bij artikel 50 van de AI-verordening. Die maken duidelijk dat niet zozeer de techniek bepalend is, maar de rol die een organisatie speelt. Bouw je zelf AI-systemen, dan gelden andere verplichtingen dan wanneer je AI gebruikt als hulpmiddel binnen een museum, archief, bibliotheek of podiumorganisatie. Juist dat onderscheid is voor de culturele sector van belang.

Verschillende rollen, verschillende verantwoordelijkheden

De zwaarste verplichtingen rusten op de aanbieders van AI-systemen: de partijen die modellen ontwikkelen en op de markt brengen. Zij moeten onder meer zorgen dat systemen die rechtstreeks met mensen communiceren herkenbaar zijn als AI. Daarnaast moeten generatieve systemen hun uitvoer voorzien van een machineleesbare markering, zodat AI-gegenereerde inhoud automatisch kan worden herkend. Voor bestaande systemen geldt daarvoor een overgangstermijn tot december 2026.

Voor culturele instellingen ligt de verantwoordelijkheid ergens anders.

Wie AI inzet binnen de eigen organisatie hoeft die technische markering niet zelf aan te brengen. Wel ontstaat verantwoordelijkheid voor wat uiteindelijk wordt gepubliceerd. Deepfakes moeten als zodanig herkenbaar zijn wanneer zij bestaande personen, objecten of gebeurtenissen overtuigend nabootsen. Daarnaast geldt dat AI-gegenereerde teksten die bedoeld zijn om het publiek over onderwerpen van algemeen belang te informeren, in beginsel als zodanig moeten worden aangeduid.

Dat betekent dat de aandacht verschuift van techniek naar organisatie. Niet de vraag hoe een model werkt staat centraal, maar wie binnen de instelling verantwoordelijk is voor het uiteindelijke gebruik ervan. Ook de relatie met leveranciers krijgt daarmee een andere betekenis. Wanneer een leverancier machineleesbare markeringen moet aanbrengen, ligt het voor de hand dat instellingen daar expliciet naar vragen en die afspraken onderdeel maken van hun inkoopvoorwaarden.

Twee uitzonderingen die juist voor cultuur relevant zijn

Artikel 50 bevat twee uitzonderingen die voor culturele instellingen waarschijnlijk belangrijker zijn dan de hoofdregel zelf.

De eerste betreft artistieke en creatieve toepassingen. Wanneer AI onderdeel uitmaakt van een kunstwerk, een tentoonstelling, een performance, satire of fictie, hoeft de transparantie niet op dezelfde wijze plaats te vinden als bij journalistieke of informatieve toepassingen. De Europese wetgever erkent daarmee impliciet dat kunst en cultuur anders functioneren dan publieke informatievoorziening. Een vermelding blijft nodig, maar mag de ervaring van het werk niet verstoren. Hoe dat er precies uit zal zien, laten de richtsnoeren voorlopig nog open.

De tweede uitzondering raakt iedereen die teksten publiceert.

Wanneer AI wordt gebruikt bij het schrijven van een tekst die vervolgens aantoonbaar door mensen is beoordeeld en waarvoor een natuurlijke persoon of rechtspersoon redactionele verantwoordelijkheid draagt, vervalt de verplichting om die tekst als AI-gegenereerd te labelen. Juist deze bepaling roept veel vragen op:

“Wanneer is sprake van echte redactionele controle? Hoe uitgebreid moet die zijn? En hoe toon je later aan dat die controle daadwerkelijk heeft plaatsgevonden?”

Voor instellingen die AI gebruiken bij persberichten, collectie beschrijvingen of publieksinformatie lijkt daarom niet alleen de controle zelf belangrijk, maar ook de documentatie daarvan.

Een tijdpad met meerdere snelheden

Dat 2 augustus een belangrijke datum is, betekent niet dat alle onderdelen van de AI-verordening tegelijk in werking treden.Integendeel. In mei bereikten het Europees Parlement en de Raad een politiek akkoord over de zogenoemde digitale omnibus. Daardoor schuiven verschillende verplichtingen voor hoogrisicosystemen één tot twee jaar op. De transparantieverplichtingen van artikel 50 blijven echter ongewijzigd doorgaan.

Voor organisaties ontstaat daardoor een wetgevingstraject met verschillende snelheden. Wie zich uitsluitend richt op de latere implementatiedata, loopt het risico de verplichtingen die juist nu ingaan over het hoofd te zien.

De verantwoordelijkheid begint eerder dan het toezicht

Opmerkelijk is dat de Europese regels rechtstreeks van toepassing worden, terwijl de Nederlandse uitvoeringswet waarschijnlijk pas later in werking treedt.

De concept-uitvoeringswet verdeelt het toezicht over verschillende bestaande toezichthouders, waarbij de Autoriteit Persoonsgegevens en de Rijksinspectie Digitale Infrastructuur een coördinerende rol krijgen. De AP wordt daarbij voorzien als markttoezichthouder voor onder meer de transparantieverplichtingen.

Voor culturele instellingen betekent dat een bijzondere situatie. De verantwoordelijkheid ontstaat voordat volledig duidelijk is hoe het nationale toezicht precies zal functioneren.

Dat maakt afwachten geen voor de hand liggende strategie. Juist in deze tussenperiode wordt het belangrijk om intern vast te leggen welke AI-systemen worden gebruikt, welke afwegingen zijn gemaakt en wie daarvoor bestuurlijke verantwoordelijkheid draagt.

Meer dan een juridische discussie

Over de betekenis van 2 augustus bestaat overigens weinig overeenstemming. Werkgeversorganisaties en verschillende lidstaten hebben de afgelopen periode juist gepleit voor uitstel uit zorg over de administratieve lasten en het internationale concurrentievermogen van Europa. Tegelijkertijd klinkt de tegenovergestelde kritiek: dat transparantie juist te laat komt, nu AI-gegenereerde inhoud zich al op grote schaal verspreidt en labelen weinig effect heeft zolang distributieplatforms de informatiestromen bepalen. Juristen wijzen weer op een ander punt. Volgens hen zou de uitzondering voor redactionele controle uiteindelijk zo ruim kunnen blijken dat een belangrijk deel van de labelplicht in de praktijk verdwijnt.

Binnen de culturele sector leeft bovendien nog een geheel andere discussie. Daar gaat het minder over transparantie dan over auteursrecht, trainingsdata en de positie van makers. Voor veel kunstenaars vormt de AI-verordening daarom slechts een deel van een veel grotere ontwikkeling.

Consensus over de urgentie ontbreekt. Consensus over het bestaan van de nieuwe verantwoordelijkheden eigenlijk niet.

Een vertrouwde vorm van governance

Juist daarom past deze ontwikkeling misschien beter bij de culturele sector dan op het eerste gezicht lijkt. Musea registreren de herkomst van objecten. Archieven documenteren provenance. Bibliotheken leggen bronnen vast. Transparantie behoort al generaties lang tot het professionele vakmanschap van deze instellingen. AI verandert die beroepspraktijk niet fundamenteel.

Wel komt er een nieuwe laag bij. Niet alleen de oorsprong van een object wordt relevant, maar ook de manier waarop teksten, beelden of andere uitingen tot stand zijn gekomen. Daarmee verschuift AI geleidelijk van een technisch hulpmiddel naar een vraagstuk van governance.

Voor bestuurders en raden van toezicht worden de kernvragen uiteindelijk verrassend herkenbaar:

“Welke AI-systemen gebruikt de organisatie? Wie beoordeelt wat uiteindelijk wordt gepubliceerd? Is die verantwoordelijkheid helder belegd? En kan later worden uitgelegd waarom bepaalde keuzes zijn gemaakt?”

Dat zijn geen technische vragen. Het zijn bestuursvragen.

Zoals cyberveiligheid in de afgelopen jaren een vast onderwerp werd op de agenda van bestuur en toezicht, beweegt ook AI zich in die richting. Niet omdat bestuurders iedere technologische ontwikkeling moeten kunnen volgen, maar omdat zij verantwoordelijk zijn voor de manier waarop hun organisatie met die technologie omgaat.

Misschien is dat uiteindelijk de belangrijkste verschuiving die de AI-verordening zichtbaar maakt. Niet dat AI steeds meer kan, maar dat organisaties steeds duidelijker moeten kunnen uitleggen hoe zij haar gebruiken. De culturele sector beschikt daarvoor al over veel van de waarden en professionele tradities waarop deze nieuwe verantwoordelijkheid kan voortbouwen. Wat nog grotendeels ontbreekt, is inzicht in hoe ver die ontwikkeling binnen Nederlandse instellingen inmiddels werkelijk is gevorderd. Misschien ligt juist daar de belangrijkste opgave voor de komende jaren.