Dans quelles situations pourrait-il être acceptable de concevoir quelque chose qui serait considéré comme contraire à l'éthique?
Dans la récente enquête StackOverflow Developer Survey, plus de 100 000 développeurs ont été invités à répondre à une série de questions reflétant leurs expériences de travail dans l'industrie.
Au sujet de l'éthique, deux questions ont été posées:
J'ai été assez surpris qu'en cas de situation hypothétique où on leur demande d'écrire du code pour un produit ou un but qu'ils considèrent clairement contraire à l'éthique, plus de 40% des développeurs disent que cela dépendrait de la situation.
Je pense qu'un scénario possible pourrait être s'il concerne la santé et le bien-être de l'utilisateur, mais cela l'oblige à faire quelque chose contre son gré, mais même c'est assez difficile à dire, c'est clairement contraire à l'éthique.
Compte tenu de leur réponse à une autre question sur l'IA, les réponses concernant l'éthique sont un peu inquiétantes, surtout si les concepteurs travaillent en étroite collaboration avec les développeurs pour mettre en œuvre des solutions:
S'ils étaient confrontés à la même question, dans quelle situation serait-il acceptable que les concepteurs participent à un processus de conception pour un produit ou un objectif qu'ils considèrent clairement contraire à l'éthique?
Voici un exemple de conception contraire à l'éthique d'Amazon. "Poursuivre la commande sans effectuer l'action supplémentaire d'achat premium" est en petit texte et masqué à côté des autres textes. L'élément le plus important est le bouton "payer immédiatement".
https://www.webdesignerdepot.com/2018/01/how-dark-ux-patterns-target-the-most-vulnerable/
Est-ce contraire à l'éthique? Certes, vous trompez vos utilisateurs. Les concepteurs refuseraient-ils fièrement de concevoir ce genre de choses lorsque leurs patrons le demandent? À peine.
Le marketing, la publicité, etc. regorgent de ce type de pratiques standard qui sont dans la zone grise de l'éthique. Les développeurs et les concepteurs sont des travailleurs de bas niveau qui ne prennent pas les décisions commerciales. Par conséquent, beaucoup estiment qu'il est acceptable de laisser les décisions concernant la zone grise aux hauts responsables.
Pour savoir si vous devez concevoir quelque chose qui pourrait (noter mon changement) être considéré comme contraire à l'éthique, d'abord: vous connaissez vous-même .
Ou comme le dit Socrate:
La vie non examinée ne vaut pas la peine d'être vécue.
Certaines personnes choisissent d'être végétaliennes. D'autres choisissent de travailler pour des organisations d'aide humanitaire. Ces choix sont basés sur des valeurs personnelles. Quelle est votre "étoile du nord"?
Examinons l'expression "concevoir quelque chose qui pourrait être considéré comme contraire à l'éthique" de trois manières différentes:
1. Un designer avec une entreprise peut-être contraire à l'éthique.
Un concepteur UX peut refuser de travailler pour des sociétés de jeux/paris en ligne, pour des raisons éthiques. Mais jusqu'où devrait-elle aller avec cette justification? Doit-elle refuser de travailler pour des entreprises qui, par exemple, créent des comportements addictifs ou créent des inégalités de richesse?
2. Un designer avec une entreprise éthique, a demandé de produire des dessins contraires à l'éthique.
Cela peut être une situation délicate pour un designer, et c'est celle où les valeurs fondamentales de l'individu entrent en jeu. Les concepteurs peuvent être invités à produire des "motifs sombres": Quand un motif persuasif devient-il un motif "sombre"?
Ce type de demande peut cependant être difficile à résister, en particulier si le concepteur commence à faire des motifs non foncés, puis est invité à concevoir une sorte de motifs gris, puis des motifs gris plus foncés, etc. Le changement est plus difficile à résister lorsqu'il est introduit progressivement, comme décrit par la grenouille dans la fable de l'eau bouillante: https://www.moralstories.org/frog-hot-water/
3. Un designer avec une entreprise éthique, choisissant de produire des designs contraires à l'éthique.
Si un designer choisit sciemment d'utiliser des motifs sombres, cela peut évidemment sembler contraire à l'éthique pour les autres. Mais elle a peut-être vu des sites/applications concurrents fonctionnant de manière similaire et a estimé que ses actions étaient justifiées. Il n'est pas facile de prendre une position de principe, lorsque le "troupeau" se comporte différemment.
Comme pour toutes les questions morales/éthiques, il existe de nombreuses zones d'ombre et bien qu'il existe des normes sociétales, la réponse peut se trouver à l'intérieur .
L'éthique concerne toujours des personnes données dans des situations données. Il y a toujours un contexte. "Cela dépend" est toujours vrai en matière d'éthique.
Inversement, la morale est niverselle. Je n'écarterais pas la possibilité que les répondants au sondage soient loin d'être clairs sur cette distinction entre éthique et morale. Je pense également que certains vœux pieux ont été impliqués. "Quoi, moi? Je ne ferais jamais rien de mal!"
Cela dit, c'est dans la nature d'un grand nombre de lieux de travail que les individus sont retirés ou protégés non seulement du processus de prise de décision, mais aussi de données fiables sur les conséquences de leurs actions et les actions de leurs employeurs. Les concepteurs et développeurs des principaux détaillants Web sont-ils informés des conditions de travail notoires dans les entrepôts? Sont-ils contraires à l'éthique s'ils ignorent les rapports sur ces conditions? L'employé éthique ne devrait-il pas garder un œil sur de telles choses?
Le type qui a conduit le train à Auschwitz n'était "qu'un" conducteur de train, très probablement un homme de famille paisible. Il n'a pas décidé de la "cargaison". Il est facile pour nous de dire qu'il se comportait de manière contraire à l'éthique, mais peut-être qu'on ne lui a tout simplement pas dit ce qui est arrivé à cette cargaison après la livraison. Il est également possible de qualifier toute dissidence de sa part de "contraire à l'éthique", car il serait "non professionnel" de refuser de faire le travail pour lequel vous êtes formé et payé. (Je ne doute pas que ce type de coercition arrive souvent pour faire taire les plaintes concernant l'éthique).
Si les développeurs sont organisés en syndicats, ils ont beaucoup plus de pouvoir pour orienter et informer l'éthique du lieu de travail. Il est intéressant de noter que l'enquête auprès des développeurs n'a pas mentionné cette possibilité. Les syndicats liés à l'informatique qui m'appartiennent sont parmi les critiques les plus acharnés de (par exemple) la surveillance de masse, la sécurité bâclée et d'autres pratiques contraires à l'éthique.
Une condition préalable importante pour être un développeur éthique est de s'assurer que l'éthique fait autant partie de la "conversation professionnelle" que les langues, les bibliothèques, les cadres, les paradigmes et les méthodologies préférés.
ne philosophie est ce qui fait une profession, plutôt qu'un simple travail. Les médecins, les avocats et les enseignants sont de bons exemples, chaque profession ayant des directives éthiques concrètes dont la transgression peut coûter à un individu non seulement son travail, mais aussi sa légitimité professionnelle et sa capacité à continuer à pratiquer.
Il n'existe pas encore de telles directives pour les développeurs, donc quels que soient les résultats de l'enquête, je m'attends à ce que le développement contraire à l'éthique se poursuive comme avant.