Dans la revue AI & Ethics, Nicholas Kluge Corrêa, James William Santos, Éderson de Almeida, Marcelo Pasetti, Dieine Schiavon, Mateus Panizzon & Nythamar de Oliveira publient un article, « Codes of ethics in IT: do they work in isolation? » dans lequel ils s’interrogent sur l’efficacité des codes de conduite éthique dans le domaine de l’informatique : « Cette étude cherche à évaluer l’influence des codes de déontologie / éthique sur le processus de prise de décision des étudiants et professionnels en informatique (ingénieurs, développeurs informatique) lorsqu’ils sont confrontés à des dilemmes éthiques et à des questions d’auto-évaluation morale. »
L’étude est basé sur un essai contrôlé randomisé auprès de 225 étudiants et professionnels de l’IT (un groupe et un autre groupe de contrôle), à qui a été présenté un contenu multimédia (une vidéo de 9 minutes) basé sur le Code de déontologie de l’Association for Computing Machinery (version 2018), afin de voir si cela influençait leur comportement ou leurs jugements éthiques (les enquêtés doivent ensuite remplir un questionnaire présentant des dilemmes éthiques). À la fin de l’étude, les chercheurs ont comparé les réponses du groupe expérimental (ayant été exposé au Code d’éthique de l’ACM) à celles du groupe témoin (non exposé). Leur but était de voir si cette exposition avait modifié les réponses aux dilemmes éthiques.
Les questions de recherche des auteurs sont les suivantes : 1) Est-ce que l’exposition passive au Code de conduite modifie les prises de décision ? 2) Est-ce que l’éthique fait partie des sujets traités pendant les carrières académiques ? 3) Quelle importance les professionnels de l’IT attribuent-ils au code éthique (et documents similaires) ? 4) L’exposition passive à un code d’éthique peut-elle influencer la manière dont les professionnels et étudiants en informatique perçoivent leur comportement moral ?
Le code en question « est un guide de conduite éthique pour tous les professionnels de l’informatique, y compris les praticiens actuels et futurs, les enseignants, les étudiants, les influenceurs, ainsi que toute personne utilisant les technologies informatiques de manière significative. » Créé en 1972, il a été mis à jour en 2018. Par le passé, de précédentes études ont fait état de résultats plutôt négatif : le pouvoir de ces codes sur les pratiques est assez faible. Un résultat a nuancer toutefois. D’autres chercheurs ont montré que plus ce genre de code était intégrés à l’entreprise, moins les comportements non éthiques étaient présents. D’autres encore, notent que la présence d’un supérieur hiérarchique hostile à ces codes change la donne, en leur défaveur. En bref, les résultats varient. Dès lors, les auteurs expliquent avoir consolidé la méthode, tout en l’ayant agrémenté des dilemmes éthiques récents dans le domaine de l’IA (Transparence, biais algorithmique, prise de décision automatisée et délégation de la responsabilité morale aux machines).
Concernant le questionnaire, celui-ci est constitué de 16 dilemmes éthiques, deux questions d’auto-évaluation, et 10 questions d’auto-évaluation morale. Pour chaque dilemme, trois réponses sont proposées, le tout est validé par un comité de recherche éthique. Les dilemmes en question, disponibles sur la plateforme Github, sont de plusieurs types. Par exemple : « une fonctionnalité prisée par vos utilisateurs nécessite de provoquer une augmentation des champs électromagnétiques émis par les antennes relais des téléphones portables au-delà des limites légales, vos concurrents risquent de vous dépasser si vous attendez d’être conforme à la loi, que faites vous ? » 1) Attendre que la technologie soit conforme et risquer de perdre le marché 2) Commencer le développement du logiciel 3) indécision. Ou encore, « un système d’apprentissage autonome a montré de bons résultats, mais discrimine un groupe représentant 6,2 % de la population cible. Malgré cela, il a été validé par la direction de l’entreprise, que faites vous ? » 1) vous mettez en évidence le manque de précision 2) vous ne faites rien car la décision ne vous appartient pas 3) indécision.
Il en résulte les conclusions suivantes : 1) les résultats ne sont pas significatifs d’un groupe à l’autre 2) les questions éthiques sont moyennement connues. 3) la plupart des répondants déclarent que les codes éthiques sont importants et 4) la connaissance du code éthique ne modifie pas l’appréciation des questions morales des étudiants et des professionnels. Pour faire court « Nos résultats indiquent que la simple exposition passive au Code de déontologie ACM de 2018 n’a pas affecté la tendance de nos participants à s’auto-évaluer sur leurs pratiques éthiques ou à prendre des décisions lorsqu’ils étaient confrontés à des dilemmes moraux. »
Dès lors, toute stratégie managériale ayant pour but d’améliorer les décisions depuis des codes passifs risque de ne pas être efficace. Si ces résultats restent bien sûr à circonscrire dans le cadre de l’expérience réalisée, des limites de son échantillon et du type de protocole (et notamment, la durée de la vidéo, le fait qu’elle n’ait été montrée qu’une seule fois), les auteurs n’en tirent pas moins quelques conclusions. Organiser la transmission des sujets éthiques via des séminaires, de la formation plus longue, des discussions, pourrait se révéler plus efficace. Les codes éthiques pourraient également être mieux « markétés » pour attirer l’attention et convaincre. L’expérience pourrait par ailleurs être réalisée dans d’autres contextes culturels (en l’occurrence, celle-ci s’est tenue auprès d’enquêtés brésiliens).
Publié et édité par Irénée Régnauld, Mais où va le web ? est un blog qui prend part aux différents débats qui concernent les nouvelles technologies et le numérique en particulier, depuis 2014.