I A dans nos services : le Défenseur des droits veut plus de contrôle humain ...

C’est une question de confiance des usagers envers leur administration , a justifié cette autorité indépendante, qui reçoit des  réclamations d’usagers. Mais les premiers dossiers dessinent une problématique systémique .

À l’heure de l’algorithmisation de l’administration , la part de l’intervention humaine dans les décisions qui ne sont que  partiellement automatisées  inquiète le Défenseur des droits (DDD). Le fait qu’un agent applique de façon systématique, par exemple en appuyant sur un bouton valider, les résultats générés par l’algorithme ou le système d’IA, sans opération intellectuelle de vérification, ne saurait être considéré comme une intervention humaine , peut-on lire dans le rapport. Il peut s’agir de démarches concernant des attributions de prestations sociales, de calculs d’impôts, ou encore d’accès à l’enseignement supérieur.

On prend acte du droit tel qu’il existe et qui dit bien que dans toute une série de cas, il peut ne pas y avoir d’intervention humaine. Mais lorsqu’il doit y avoir une intervention humaine, on recommande de préciser ce que cette intervention doit apporter. Qui intervient ? À quel moment du processus ? Pour les décisions partiellement automatisées, il faut une intervention humaine plus substantielle, souligne le DDD.

-

Il n’y a pas de doute sur le fait qu’ils (IA et algorithmes) sont porteurs de progrès, il n’y a pas de doute non plus qu’ils soient porteurs de risques pour les droits fondamentaux , ajoute le Défenseur des droits. L’autorité administrative appelle également à davantage de transparence, en demandant par exemple au gouvernement de consacrer un  droit à l’explication  pour ces décisions.

Le ministre de la Fonction publique, Guillaume Kasbarian, a estimé samedi 9 novembre 2024 à Saint-Raphaël que l’IA était  la pierre angulaire de la transformation de la fonction publique et que son développement, selon lui (et uniquement selon lui ), devrait   permettre des gains colossaux en efficacité.

9

Le Défenseur des droits, lui, veut  alerter les pouvoirs publics sur la place du droit des usagers dans ces politiques de déploiement tous azimuts des algorithmes et de l’IA à peu près dans tous les services publics .

Le Défenseur des droits est une autorité administrative indépendante qui a été créée en 2021. Il est inscrit dans la Constitution française. Le Défenseur des droits  a 2 missions :

Défendre les personnes dont les droits ne sont pas respectés

Permettre l’égalité de tous

Claire Hedon est La Défenseure Des Droits.

 

6