C’est quoi le problème ? Que la caf contrôle ? À aucun moment la caf exclus qui que ce soit, elle contrôle juste les cas a risque, si les gens ne fraudent pas ils n’ont rien a craindre.
On est en plein dans les soucis classique avec les algos de traitement automatisé de données (IA ou non). Un outil statistique mesure ce qu’on lui fait mesurer.
Le paragraphe sur le focus fraude/trop perçu est intéressant d’ailleurs, ça me fait penser au sur-controle fiscal des ménages à bas revenus plutôt que haut, entre autres parce qu’ils contestent moins.
Tout irait bien si l’algorithme ne faisait que contrôler la véracité des déclarations ouvrant droit aux allocations. Mais s’il ne fait que déterminer un risque de fraude, ça me paraît en effet dangereux. Si ce n’est qu’une simple fonction de quelques critères, ils n’ont qu’à le rendre public et on pourra en débattre. Si c’est une IA qui n’a eu que des données biaisées pour s’entraîner, le résultat le sera aussi discutable. Le cas d’école est celui des jugements par IA faits aux US à partir de tous les jugements précédents : résultat, le juge IA ne rendait que des jugements racistes !
3 comments
C’est quoi le problème ? Que la caf contrôle ? À aucun moment la caf exclus qui que ce soit, elle contrôle juste les cas a risque, si les gens ne fraudent pas ils n’ont rien a craindre.
On est en plein dans les soucis classique avec les algos de traitement automatisé de données (IA ou non). Un outil statistique mesure ce qu’on lui fait mesurer.
Le paragraphe sur le focus fraude/trop perçu est intéressant d’ailleurs, ça me fait penser au sur-controle fiscal des ménages à bas revenus plutôt que haut, entre autres parce qu’ils contestent moins.
Tout irait bien si l’algorithme ne faisait que contrôler la véracité des déclarations ouvrant droit aux allocations. Mais s’il ne fait que déterminer un risque de fraude, ça me paraît en effet dangereux. Si ce n’est qu’une simple fonction de quelques critères, ils n’ont qu’à le rendre public et on pourra en débattre. Si c’est une IA qui n’a eu que des données biaisées pour s’entraîner, le résultat le sera aussi discutable. Le cas d’école est celui des jugements par IA faits aux US à partir de tous les jugements précédents : résultat, le juge IA ne rendait que des jugements racistes !