Beaucoup ne savent pas que leur cas est décidé par un robot

Des nombreuses décisions dans le secteur public sont maintenant prises par ordinateurs et 80% des Suédois ne le savent pas. De plus, les décisions automatisées sont perçues comme moins fiables. Ce fait peut à long terme impacter la confiance et la démocratie.

Il y a 2 ans qu’une municipalité dans le sud de la Suède a introduit un « robot de gestion » pour prestations sociales, ce qui a provoqué des gros titres dans les journaux. Beaucoup de monde a été surpris par le fait qu'un robot puisse remplacer des humains.

Pourtant, le fait n'est pas nouveau. Divers fonctions publiques, comme par exemple la fiscalité, utilisent depuis longtemps des systèmes de décisions automatiques.

Une première étude sur la perception des Suédois de robots de décision a maintenant été publiée. Elle montre que seulement 20% savent que des systèmes de prise de décision automatiques existent au sein de l’administration publique.

La vue des robots de décision n'est pas très positive. Une réponse majoritaire est que les décisions informatisées sont moins fiables, ne prennent pas autant en compte les besoins individuels et créent moins de transparence. En revanche, 69% déclarent que les ordinateurs sont plus impartiaux. Les interviewés avec moins de connaissances de la technologie utilisée étaient généralement plus négatifs.

Il semble par conséquence que des nombreux aspects positifs que l'automatisation présente sont peu connus. La manipulation devient plus efficace, les ordinateurs ne se fatigue pas, non plus ont-ils faim et ils peuvent fonctionner 24h/24, ce qui accélère les décisions. Les administrateurs ont moins de tâches de routine et peuvent consacrer leur temps à des questions plus compliquées. De plus, les décisions sont basées sur les mêmes règles et deviennent ainsi neutres.

Cependant, il y a aussi des problèmes. Les rencontres personnelles disparaissent. Parfois il est aussi difficile à comprendre comment une décision a été .prise. Il n'y a pas toujours quelqu'un à appeler.

Un constat dans ce contexte est qu’un ordinateur ne peut pas être responsable de ses décisions, il faut une personne.

Actuellement les ordinateurs ne prennent décisions que pour affaires assez courantes. Les systèmes sont programmés pour récupérer des données spécifiques dans des bases de données et suivre des règles prédéterminées. Dans l'avenir ils pourraient décider dans des affaires plus complexes, assisté par intelligence artificielle.

On ne peut pas arrêter le développement vers plus d’autorisations mais l’étude montre qu’il est très important à informer les citoyens.