>De WRR-voorzitter slaat de spijker op de kop, vindt hoogleraar privacy
Bart Schermer. “Door de taak bij de AP onder te brengen, zit er gelijk
het stempel van persoonsgegevens op. De AP heeft niet per se kaas
gegeten van algoritmes voor de veiligheid van vliegtuigonderdelen of
algoritmes in medische apparatuur.”
Ik heb denk ik iets gemist. Wat voor soorten algoritmes moeten nu naar het AP gestuurd worden en op welke manier gaat dit? Moet ik nu als ik op m’n werk zit en een stuk code schrijf dat gaan omschrijven en naar het AP sturen? Want zo klinkt dit wel
Het is mij niet helemaal duidelijk waarom het AP hier (hoofd?)verantwoordelijk voor wordt. De wens voor een algoritme waakhond blijkt uit het regeerakkoord, maar volgens mij werd daarin niet perse het AP naar voren geschoven. Het zal ook samenhangen met de AI verordening waar Europa momenteel over praat, die stelt ook dat verschillende autoriteiten (waaronder de databeschermingsautoriteiten) verantwoordelijk zouden worden voor de controle op ‘AI systemen’. Feit is dat niet elk algoritme op persoonlijke data stoelt, of uberhaupt gebruikt, dus het AP is in veel gevallen niet de logische autoriteit.
Ontzettend lastig, maar het lijkt mij handiger om hier een losse autoriteit voor op poten te zetten, zeker met de Europese AI verordening in het achterhoofd. Het huidige voorstel eist dat veel algoritmes (vooraf) gecontroleerd moeten worden. Dat kun je niet zomaar bij een bestaande autoriteit inbrengen. Bovendien zijn de achterstanden bij het AP naar eigen zeggen (volgens voorzitter Wolfsen) [‘zo groot dat het lachwekkend is’.](https://www.trouw.nl/binnenland/voorzitter-autoriteit-persoonsgegevens-de-achterstanden-zijn-zo-groot-dat-het-lachwekkend-is~bb44d7a8/)
Als je AI gebruikt, wordt het beschrijven van het algoritme lastig tot onmogelijk volgens mij, maar ik ben geen deskundige.
Benieuwd hoe ‘algoritme’ straks gedefinieerd wordt. Als je niet oppast en het heel ruim definieert mag heel Nederland straks al z’n iets-complexere Excelletjes naar de AP sturen voor controle.
Betekent dit dan straks een boete als je Bubblesort gebruikt?
Dan schrijft de privacywaakhond een algoritme waar je algoritmen mee controleert.
6 comments
>De WRR-voorzitter slaat de spijker op de kop, vindt hoogleraar privacy
Bart Schermer. “Door de taak bij de AP onder te brengen, zit er gelijk
het stempel van persoonsgegevens op. De AP heeft niet per se kaas
gegeten van algoritmes voor de veiligheid van vliegtuigonderdelen of
algoritmes in medische apparatuur.”
Ik heb denk ik iets gemist. Wat voor soorten algoritmes moeten nu naar het AP gestuurd worden en op welke manier gaat dit? Moet ik nu als ik op m’n werk zit en een stuk code schrijf dat gaan omschrijven en naar het AP sturen? Want zo klinkt dit wel
Het is mij niet helemaal duidelijk waarom het AP hier (hoofd?)verantwoordelijk voor wordt. De wens voor een algoritme waakhond blijkt uit het regeerakkoord, maar volgens mij werd daarin niet perse het AP naar voren geschoven. Het zal ook samenhangen met de AI verordening waar Europa momenteel over praat, die stelt ook dat verschillende autoriteiten (waaronder de databeschermingsautoriteiten) verantwoordelijk zouden worden voor de controle op ‘AI systemen’. Feit is dat niet elk algoritme op persoonlijke data stoelt, of uberhaupt gebruikt, dus het AP is in veel gevallen niet de logische autoriteit.
Ontzettend lastig, maar het lijkt mij handiger om hier een losse autoriteit voor op poten te zetten, zeker met de Europese AI verordening in het achterhoofd. Het huidige voorstel eist dat veel algoritmes (vooraf) gecontroleerd moeten worden. Dat kun je niet zomaar bij een bestaande autoriteit inbrengen. Bovendien zijn de achterstanden bij het AP naar eigen zeggen (volgens voorzitter Wolfsen) [‘zo groot dat het lachwekkend is’.](https://www.trouw.nl/binnenland/voorzitter-autoriteit-persoonsgegevens-de-achterstanden-zijn-zo-groot-dat-het-lachwekkend-is~bb44d7a8/)
Als je AI gebruikt, wordt het beschrijven van het algoritme lastig tot onmogelijk volgens mij, maar ik ben geen deskundige.
Benieuwd hoe ‘algoritme’ straks gedefinieerd wordt. Als je niet oppast en het heel ruim definieert mag heel Nederland straks al z’n iets-complexere Excelletjes naar de AP sturen voor controle.
Betekent dit dan straks een boete als je Bubblesort gebruikt?
Dan schrijft de privacywaakhond een algoritme waar je algoritmen mee controleert.