Generatieve AI in het bedrijf: wat te controleren vanuit het oogpunt van gegevensbescherming alvorens een tool van derden te gebruiken

Het gebruik van generatieve kunstmatige intelligentie-tools is met enorme snelheid geïntegreerd in de dagelijkse praktijk van veel bedrijven. Oplossingen zoals ChatGPT, Claude, Copilot of Gemini worden al gebruikt om teksten te schrijven, documenten samen te vatten, presentaties voor te bereiden, informatie te analyseren, ideeën te genereren, inhoud te vertalen of bepaalde interne taken te automatiseren.

Het nut ervan is overduidelijk. Ze besparen tijd, automatiseren processen en vergemakkelijken het werk van verschillende afdelingen. Vanuit het oogpunt van gegevensbescherming mag het gebruik ervan echter niet geïmproviseerd worden geactiveerd, noch mag het worden overgelaten aan het individuele initiatief van elke werknemer.

Wanneer een bedrijf een generatieve AI gebruikt die door een derde partij wordt geleverd, introduceert het niet zomaar een extra tool. Het staat toe dat bepaalde bedrijfsinformatie wordt ingevoerd in een externe technologische omgeving, beheerd door een leverancier die zich buiten de Europese Economische Ruimte kan bevinden, internationale subleveranciers kan gebruiken en verschillende voorwaarden kan toepassen afhankelijk van de contractuele versie.

De relevante vraag is niet alleen wat de tool kan doen, maar welke gegevens worden ingevoerd, wie ze gaat verwerken, met welk doel, voor hoe lang, waar ze worden opgeslagen en welke controle het bedrijf over die informatie behoudt.

De gebruikte versie is geen bijzaak

Een van de eerste aspecten die moet worden beoordeeld, is de specifieke versie van de tool. Het is niet hetzelfde om een gratis of persoonlijk account te gebruiken als een zakelijke of enterprise-versie.

In de consumentenversies accepteert de gebruiker algemene voorwaarden die bedoeld zijn voor individueel gebruik. In veel gevallen zijn deze voorwaarden niet ontworpen om te voldoen aan de behoeften van een organisatie, noch om een solide kader te bieden voor de naleving van de gegevensbescherming. Er zijn mogelijk onvoldoende beheerscontroles of de ingevoerde informatie kan worden onderworpen aan regels voor bewaring en gebruik die slecht verenigbaar zijn mit een zakelijke omgeving.

Zakelijke versies bieden doorgaans grotere garanties: gecentraliseerd gebruikersbeheer, beveiligingscontroles, rechtenconfiguratie, uitsluiting van gegevensgebruik voor training, verwerkersovereenkomsten, informatie over subverwerkers en duidelijkere opties voor retentie of verwijdering.

Om deze reden moet het bedrijf, alvorens het gebruik van een generatieve AI toe te staan, definiëren welke tool mag worden gebruikt, met welke versie en onder welke voorwaarden. Als elke werknemer zijn eigen persoonlijke account mag gebruiken, ontstaat er een risico dat moeilijk te beheersen is.

De verwerkersovereenkomst

Het gebruik van een generatieve AI-tool door een bedrijf impliceert over het algemeen een verwerking van persoonsgegevens. Zelfs als de organisatie interne instructies opstelt om geen persoonsgegevens in te voeren in de prompts of geüploade documenten, zal de leverancier normaal gesproken ten minste identificatie- en professionele gegevens verwerken van de gebruikers die toegang hebben tot de tool, evenals informatie met betrekking tot accountbeheer, activiteitslogs, technische gegevens, gebruikslogs of informatie die nodig is om ondersteuning te bieden en de veiligheid van de dienst te garanderen.

Daarom is een van de eerste kwesties die moet worden geanalyseerd, de rol die de leverancier op zich neemt. In de meeste gevallen, wanneer de tool als een dienst aan het bedrijf wordt geleverd, zal de leverancier optreden als verwerker, wat het afsluiten van een verwerkersovereenkomst conform artikel 28 van de AVG (GDPR) vereist.

Deze overeenkomst, in het Engels vaak aangeduid als DPA (Data Processing Agreement), moet op duidelijke wijze het onderwerp van de verwerking, de duur, de aard van de uitgevoerde bewerkingen, de categorieën van verwerkte persoonsgegevens, de categorieën van betrokkenen, de toepasselijke beveiligingsmaatregelen en de verplichtingen van de leverancier regelen. Het moet ook specificeren hoe datalekken, verzoeken om uitoefening van rechten, het retourneren of verwijderen van informatie en de mogelijke tussenkomst van derden worden beheerd.

Op dit punt is het bijzonder relevant om te controleren welke subverwerkers betrokken zijn bij de levering van de dienst. Veel AI-oplossingen maken gebruik van leveranciers van infrastructuur, clouddiensten, beveiligingstools, technische ondersteuning of entiteiten binnen de eigen bedrijfsgroep. Het bedrijf moet deze keten van dienstverlening kennen, vooral wanneer een van die derden toegang kan hebben tot persoonsgegevens of informatie buiten de Europese Economische Ruimte verwerkt.

De DPA mag niet afzonderlijk worden beoordeeld. Deze moet in verband worden gebracht met de servicevoorwaarden, de beveiligingsdocumentatie, de lijst van subverwerkers en de specifieke voorwaarden van de gecontracteerde versie. Alleen zo kan worden gecontroleerd of het contractuele kader daadwerkelijk weerspiegelt hoe de tool werkt en welke garanties de leverancier biedt.

Modeltraining: een kritieke kwestie

Een van de belangrijkste kwesties die moet worden geanalyseerd, is of de in de tool ingevoerde informatie kan worden gebruikt om kunstmatige intelligentie-modellen te trainen of te verbeteren.

In een zakelijke omgeving kunnen werknemers interne informatie, klantgegevens, financiële documentatie of zelfs inhoud die onderworpen is aan vertrouwelijkheid invoeren. Dat deze informatie kan worden gebruikt om modellen van de leverancier te trainen, brengt aanzienlijke risico’s met zich mee, zowel vanuit het oogpunt van gegevensbescherming als vanuit de bescherming van bedrijfsgeheimen en vertrouwelijkheid.

Daarom moet het bedrijf verifiëren of de prompts, geüploade documenten, gegenereerde antwoorden en feedback van de werknemer kunnen worden gebruikt om de dienst te verbeteren of modellen te trainen. Deze controle moet worden uitgevoerd op de specifieke versie die wordt gecontracteerd, aangezien de voorwaarden aanzienlijk kunnen variëren tussen gratis, professionele en zakelijke varianten.

Het verdient aanbeveling te kiezen voor oplossingen die het gebruik van bedrijfsgegevens voor training standaard uitsluiten of, in het tegenovergestelde geval, te kiezen voor het uitschakelen van deze functionaliteit. Het is ook raadzaam om de verwerking van feedback die gebruikers naar de tool sturen te controleren, aangezien dit in sommige diensten een andere regeling kan hebben dan de gewone inhoud van de gesprekken.

Internationale datadoorgifte

Veel generatieve AI-tools worden geleverd door leveranciers die gevestigd zijn in de Verenigde Staten of door bedrijfsgroepen met infrastructuur, ondersteuning of subverwerkers buiten de Europese Economische Ruimte. Dit dwingt tot een controle van de internationale datadoorgifte.

Het bedrijf moet weten waar de gegevens worden opgeslagen, vanuit welke landen ze toegankelijk zijn, welke entiteiten van de groep betrokken zijn en welke subverwerkers deelnemen aan de dienstverlening. Als er sprake is van internationale doorgifte, zal het noodzakelijk zijn om het toepasselijke juridische mechanisme te identificeren. In de praktijk kan dit het beoordelen van modelcontractbepalingen (SCC’s), adequaatheidsbesluiten (indien van toepassing) of specifieke door de Europese Unie erkende overdrachtsregelingen inhouden.

In veel gevallen kan het ook nodig zijn om een effectbeoordeling van de doorgifte uit te voeren, bekend als TIA (Transfer Impact Assessment). Deze beoordeling maakt het mogelijk om te evalueren of het land van bestemming een beschermingsniveau biedt dat in essentie gelijkwaardig is aan het Europese niveau en of de toegepaste contractuele, organisatorische en technische maatregelen voldoende zijn.

Bij generatieve AI-tools zijn technische maatregelen van bijzonder belang. Encryptie, toegangsbeperking, datasegregatie, de locatie van de hosting, logbeheer en de mogelijkheid om de verwerking te beperken, kunnen doorslaggevende elementen zijn bij het beoordelen van het risico.

Bewaring van informatie

Een ander essentieel aspect is de termijn gedurende welke de leverancier de informatie bewaart. Sommige tools bewaren gesprekken zodat de gebruiker ze later kan raadplegen. Andere bewaren technische logs, activiteitslogs, gebruiksgegevens of back-ups gedurende bepaalde perioden.

Het bedrijf moet deze termijnen kennen en beoordelen of ze compatibel zijn met het eigen interne bewaarbeleid. Niet elk gebruik brengt hetzelfde risico met zich mee. Een generieke vraag over schrijfstijl is niet vergelijkbaar met het uploaden van een contract met persoonsgegevens, een klacht van een klant, arbeidsdocumentatie of financiële informatie.

Het is ook raadzaam om te controleren of de organisatie gesprekken kan verwijderen, geschiedenissen kan uitschakelen, het uploaden van bestanden kan beperken, retentieperioden kan configureren of kan voorkomen dat bepaalde gebruikers gevoeliger functies gebruiken. Als la tool onvoldoende controle over de informatie biedt, is deze mogelijk niet geschikt voor bepaalde verwerkingen.

Intern gebruiksbeleid

Het contracteren van een zakelijke versie is niet voldoende als de gebruikers geen duidelijke instructies ontvangen. Het bedrijf zou een intern beleid voor het gebruik van generatieve AI-tools moeten goedkeuren dat aangeeft welke tools zijn toegestaan, welk type informatie mag worden ingevoerd, welke gegevens moeten worden vermeden en welke anonimiserings- of pseudonimiseringsmaatregelen moeten worden toegepast.

Dit beleid moet praktisch zijn. Werknemers hebben begrijpelijke criteria nodig om te weten wanneer ze AI wel en niet kunnen gebruiken. Ze moeten ook begrijpen dat AI onjuiste, onvolledige of verouderde antwoorden kan genereren, waardoor de resultaten moeten worden gecontroleerd voordat ze in een professionele context worden gebruikt.

Registratie, beveiliging en verantwoordelijkheid

De integratie van een generatieve AI-tool moet worden weerspiegeld in het compliancesysteem van de organisatie. Het bedrijf zou de tool moeten opnemen in zijn inventaris van technologische leveranciers en, indien van toepassing, in zijn verwerkingsregister of in de interne documentatie die aan de desbetreffende verwerking is gekoppeld.

Als het beoogde gebruik een hoog risico kan inhouden voor de rechten en vrijheden van personen, zal moeten worden beoordeeld of het uitvoeren van een gegevensbeschermingseffectbeoordeling (GEB / DPIA) aan de orde is. Dit hangt af van het type gegevens, het verwerkte volume, het doel, de betrokken groepen en de rol die AI in het proces speelt.

Conclusie

Generatieve AI kan veel waarde toevoegen aan een bedrijf, maar de implementatie ervan moet met beleid gebeuren. Het gaat er niet om het gebruik ervan te verbieden, maar om een duidelijk kader te scheppen dat het mogelijk maakt om van de voordelen te profiteren zonder dat persoonsgegevens, vertrouwelijke informatie of strategische activa van de organisatie in gevaar worden gebracht.

De sleutel ligt in het introduceren van deze tools met een voorafgaande adequate beoordeling, duidelijke gebruiksregels en een passende controle over de informatie die erin wordt ingevoerd.