Het voorgenomen verbod heeft betrekking op AI-programma’s die teksten, foto’s, audio of video kunnen genereren. Denk daarbij aan chatbots als ChatGPT en Bard of afbeeldingmakers als Dall-E en Midjourney.
Het conceptvoorstel, dat in handen is van de Volkskrant, is gemaakt op basis van onderzoek van het kantoor van de landsadvocaat Pels Rijcken en de Autoriteit Persoonsgegevens (AP). Zij concluderen: ‘Niet gecontracteerde generatieve AI-toepassingen voldoen over het algemeen niet aantoonbaar aan de Nederlandse privacy- en auteursrechtelijke wetgeving.’
AI-toepassingen waarbij de overheid wél een contract afsluit met een aanbieder, zouden niet onder dit brede verbod moeten vallen.
Staatssecretaris Van Huffelen schrijft dat het ‘onduidelijk’ is of aanbieders zoals Google of OpenAI voldoende rekening houden met de rechten van auteurs. De taalmodellen achter programma’s als ChatGPT en Bard zijn getraind met grote hoeveelheden teksten, onder meer afkomstig uit krantenarchieven en van boeken waarop nog auteursrechten berusten. Voor afbeeldings-AI geldt hetzelfde principe.
‘Niet transparant’
Veel aanbieders zijn niet transparant over welke werken zij gebruiken, schrijft Van Huffelen. Ook is er vanuit de rechtspraak nog geen expliciet oordeel of het gebruik van openbare internetbronnen voor dit doel wel mag.
Privacy is een ander heikel punt: ‘Ook kan een generatieve AI-toepassing zeer gevoelige informatie afleiden uit de interactie met de gebruiker.’ Tot slot noemt de staatssecretaris nog een fundamenteel gevaar dat aan het gebruik van AI kleeft: de antwoorden van een programma als ChatGPT ‘kunnen worden gebruikt om een besluit over een persoon te nemen’.
De nota zal binnenkort in de ministerraad worden besproken. Indien die instemt, dan zal het verbod behalve voor overheidsdiensten ook voor hun leveranciers gaan gelden.
Veilig en verantwoord
Tegelijkertijd ziet Van Huffelen ook kansen voor nuttig gebruik van generatieve AI binnen de overheid, maar dan wel op een veilige manier. Dit moet gebeuren via verschillende experimenten. Deze pilots moeten halverwege volgend jaar klaar zijn, waarna er een ‘handreiking’ komt voor een verantwoord gebruik van AI door overheidsorganisaties.
Ook komt er een opleidingsprogramma voor ambtenaren en een uitgebreidere ‘visie’ op AI. Experts waarschuwen al langer dat organisaties nu vaak nog te lichtvaardig denken over het gebruik van programma’s als ChatGPT. Professionals voeren dan bijvoorbeeld vertrouwelijke stukken in om die te laten samenvatten of vertalen, zonder dat altijd duidelijk is wat het techbedrijf precies doet met die informatie.
Bij diensten als ChatGPT is een extra probleem dat ambtenaren verplicht moeten inloggen met hun mailadres, waardoor eenvoudig bekend kan worden wie de vragen stelt aan de machines.
‘Nederland op achterstand’
Sander Klous, hoogleraar big data ecosystems aan de Universiteit van Amsterdam en partner bij KPMG, erkent de in de nota genoemde risico’s, maar vindt een verbod te ver gaan: ‘Er zijn zoveel nuances in toepassingen van AI dat je beter grenzen kunt stellen aan het gebruik op grond van reële risico’s dan direct alles verbieden.’ Een breed verbod zou Nederland bovendien op achterstand kunnen zetten ten opzichte van landen die ruimer gebruik maken van generatieve AI, waarschuwt de hoogleraar.
Een woordvoerder van het ministerie van Binnenlandse Zaken, waaronder Digitale Zaken valt, laat weten dat het ministerie de ontwikkelingen rond generatieve AI nauwlettend volgt, maar wil niet inhoudelijk reageren op het concept en kan ook niet zeggen wanneer dit eventueel in de ministerraad wordt besproken.
Ik snap dat het alom verbieden van AI-tools (die niet onder contract vallen) vooruitgang tegengaat, maar een tool met ‘nuance’ gebruiken in organisaties met duizenden en soms tienduizenden medewerkers is gewoon niet haalbaar.
Ik vind het wel apart dat gevoelige data invoeren in ChatGPT nu over de zelfde balk wordt gesmeten als plaatjes genereren om je powerpoint op te leuken.
Die arme ambtenaren, ik gun hun (en mijn belastingcenten) dat ze snel een overeenkomst kunnen sluiten om dit gebruik toch weer mogelijk te maken. Zeker gezien de natuur van het werk van vele ambtenaren.
4 comments
Het voorgenomen verbod heeft betrekking op AI-programma’s die teksten, foto’s, audio of video kunnen genereren. Denk daarbij aan chatbots als ChatGPT en Bard of afbeeldingmakers als Dall-E en Midjourney.
Het conceptvoorstel, dat in handen is van de Volkskrant, is gemaakt op basis van onderzoek van het kantoor van de landsadvocaat Pels Rijcken en de Autoriteit Persoonsgegevens (AP). Zij concluderen: ‘Niet gecontracteerde generatieve AI-toepassingen voldoen over het algemeen niet aantoonbaar aan de Nederlandse privacy- en auteursrechtelijke wetgeving.’
AI-toepassingen waarbij de overheid wél een contract afsluit met een aanbieder, zouden niet onder dit brede verbod moeten vallen.
Staatssecretaris Van Huffelen schrijft dat het ‘onduidelijk’ is of aanbieders zoals Google of OpenAI voldoende rekening houden met de rechten van auteurs. De taalmodellen achter programma’s als ChatGPT en Bard zijn getraind met grote hoeveelheden teksten, onder meer afkomstig uit krantenarchieven en van boeken waarop nog auteursrechten berusten. Voor afbeeldings-AI geldt hetzelfde principe.
‘Niet transparant’
Veel aanbieders zijn niet transparant over welke werken zij gebruiken, schrijft Van Huffelen. Ook is er vanuit de rechtspraak nog geen expliciet oordeel of het gebruik van openbare internetbronnen voor dit doel wel mag.
Privacy is een ander heikel punt: ‘Ook kan een generatieve AI-toepassing zeer gevoelige informatie afleiden uit de interactie met de gebruiker.’ Tot slot noemt de staatssecretaris nog een fundamenteel gevaar dat aan het gebruik van AI kleeft: de antwoorden van een programma als ChatGPT ‘kunnen worden gebruikt om een besluit over een persoon te nemen’.
De nota zal binnenkort in de ministerraad worden besproken. Indien die instemt, dan zal het verbod behalve voor overheidsdiensten ook voor hun leveranciers gaan gelden.
Veilig en verantwoord
Tegelijkertijd ziet Van Huffelen ook kansen voor nuttig gebruik van generatieve AI binnen de overheid, maar dan wel op een veilige manier. Dit moet gebeuren via verschillende experimenten. Deze pilots moeten halverwege volgend jaar klaar zijn, waarna er een ‘handreiking’ komt voor een verantwoord gebruik van AI door overheidsorganisaties.
Ook komt er een opleidingsprogramma voor ambtenaren en een uitgebreidere ‘visie’ op AI. Experts waarschuwen al langer dat organisaties nu vaak nog te lichtvaardig denken over het gebruik van programma’s als ChatGPT. Professionals voeren dan bijvoorbeeld vertrouwelijke stukken in om die te laten samenvatten of vertalen, zonder dat altijd duidelijk is wat het techbedrijf precies doet met die informatie.
Bij diensten als ChatGPT is een extra probleem dat ambtenaren verplicht moeten inloggen met hun mailadres, waardoor eenvoudig bekend kan worden wie de vragen stelt aan de machines.
‘Nederland op achterstand’
Sander Klous, hoogleraar big data ecosystems aan de Universiteit van Amsterdam en partner bij KPMG, erkent de in de nota genoemde risico’s, maar vindt een verbod te ver gaan: ‘Er zijn zoveel nuances in toepassingen van AI dat je beter grenzen kunt stellen aan het gebruik op grond van reële risico’s dan direct alles verbieden.’ Een breed verbod zou Nederland bovendien op achterstand kunnen zetten ten opzichte van landen die ruimer gebruik maken van generatieve AI, waarschuwt de hoogleraar.
Een woordvoerder van het ministerie van Binnenlandse Zaken, waaronder Digitale Zaken valt, laat weten dat het ministerie de ontwikkelingen rond generatieve AI nauwlettend volgt, maar wil niet inhoudelijk reageren op het concept en kan ook niet zeggen wanneer dit eventueel in de ministerraad wordt besproken.
Ik snap dat het alom verbieden van AI-tools (die niet onder contract vallen) vooruitgang tegengaat, maar een tool met ‘nuance’ gebruiken in organisaties met duizenden en soms tienduizenden medewerkers is gewoon niet haalbaar.
Ik vind het wel apart dat gevoelige data invoeren in ChatGPT nu over de zelfde balk wordt gesmeten als plaatjes genereren om je powerpoint op te leuken.
Die arme ambtenaren, ik gun hun (en mijn belastingcenten) dat ze snel een overeenkomst kunnen sluiten om dit gebruik toch weer mogelijk te maken. Zeker gezien de natuur van het werk van vele ambtenaren.