NOUS FORMONS LA TECHNOLOGIE QUI NOUS FORME

Le philosophe des affaires Jochanan Eynikel sur l’éthique de la technique

L’homme est-il le jouet malléable de la technologie? Pas complètement, témoigne le philosophe des affaires Jochanan Eynikel (ETION). Il croit dans une techno­logie au service de l’homme et désireuse de recréer de l’espace pour l’imagination et la créativité dans le temps supplémentaire que cette technologie peut nous offrir. Cela ne se fera pas tout seul. “Le développement de la technologie dépend des valeurs que les développeurs intègrent dans la technologie. Si nous ne visons que l’efficacité, la technologie ne fera que renforcer cet aspect. Toute personne qui innove, doit réaliser que ses décisions forment l’homme à leur tour.“

NOUS NE SAVONS PAS CE QUI NOUS ATTEND

La bienveillance, tel est le cœur du dernier ouvrage de Jochanan Eynikel ‘Robot aan het stuur’. Il aborde notamment la voiture autonome: un exemple de la façon de confier le contrôle de certaines décisions à une machine. La voiture autonome touche une corde sensible: quid si cela se passe mal, si des vies sont en jeu? L’innovation axée sur la valeur est l’issue d’après Eynikel: veiller à donner à chaque intéressé une voix dans le processus d’innovation, afin de déterminer au mieux la direction à suivre pour l’innovation.

“Des innovations technologiques interviennent de plus en plus dans les vies humaines; la technologie prend même des décisions dans certains cas spécifiques. Il est alors important de penser à l’avance à ce qui peut mal se passer. J’entends souvent, à raison, le soupir qu’on ne peut pas tout prévoir. C’est vrai, mais cela incite justement à la prudence et à ne pas se lancer à l‘aventure. Regardez Facebook: leur philosophie fut longtemps ‘move fast and break things'. Simplement agir et voir ce qui se passe. Maintenant, ils voient qu’ils ont beaucoup démoli, y compris la démocratie. C’est pourquoi nous devons réfléchir davantage à la façon de développer nos produits, afin de pouvoir éviter ce qui peut bel et bien être prévu – ou précisément contribuer à une société bienveillante. En effet, la technologie n’a pas toujours un impact négatif.“

Dans votre livre, vous êtes assez neutre sur l’impact de la technologie.

“Je me qualifie souvent de technoréaliste. Le technoréalisme part de l’idée que l’on peut être optimiste et croire dans les opportunités du changement technologique, mais que l’on doit bel et bien réaliser que cela dépend de la façon dont nous créons et concevons cette technologie. L’optimisme extrême qualifie chaque préoccupation relative à la technologie de catastrophisme; j’estime ceci im­moral, car on nie tout simplement les défis. Heureusement, de nombreuses entreprises technologiques commencent à s’en apercevoir. Oui, les smartphones nous procurent d’énormes avantages, mais savoir si les inconvénients auront un impact, dépend de la façon dont nous les concevons. Un réaliste déclare: l’avenir dépend des valeurs que nous implémentons dans notre technologie.“

Le changement est quantitatif

Est-ce plus urgent qu’avant? Les changements technologiques sont-ils vraiment plus rapides?

“Le changement accéléré existe depuis la Révolution Industrielle. Peut-être que les innovations pionnières sont moins nombreuses qu’avant – on affirme souvent que les précédentes innovations telles que l’électricité et la pilule ont eu plus d’impact que Facebook et les robots aujourd’hui – mais ces innovations se répandent nettement plus vite. Il a fallu des générations avant que la plupart des gens aient l’électricité, mais Facebook a atteint un milliard d’individus en sept ans. L’impact est donc bien plus rapide; vous ne pouvez plus vous prendre du recul et regarder comme cela évolue. Une appli telle que Waze (une appli de navigation qui combine l’information d’autres utilisateurs pour montrer la route la plus rapide, réd.) a été accueillie très vite, les communes doivent déjà prendre des mesures, parce que le détournement du trafic aug­mente. L’impact est plus grand, parce que l’échelle est plus grande.“

Pouvez-vous aussi projeter cette accélération dans l’avenir? La singularité, le moment où les ordinateurs seront plus intelligents que l’homme et se développeront d’eux-mêmes à un niveau que l’homme ne peut plus suivre, est traité de façon indirecte dans votre livre, mais vous êtes critique à ce sujet.

“Les changements du passé ne garantissent rien à l’avenir. La taille moyenne de l’homme a fortement augmenté ces cent dernières années, mais à un moment donné, on atteint une limite, autrement l’homme mesurerait trois mètres. L’intelligence basée sur la puissance de calcul surclasse déjà celle de l’homme et rien n’indique que cette puissance de calcul n’augmentera pas encore plus vite. C’est très différent d’une conscience, des angoisses, de l’empathie. Je ne suis pas devin et je ne garantis pas que cela n’arrivera jamais, mais je pense qu’il existe des défis plus urgents.“

“L’homme a ceci de beau et d’unique que parfois, il ne suit pas les regles, parce qu’il vaut mieux ne pas les suivre. L’intelligence artificielle ne peut pas le comprendre“

UNE MACHINE PEUT-ELLE DECIDER DE LA VIE ET DE LA MORT?

Votre livre évoque la voiture autonome pour illustrer la question de savoir quelle autonomie confier à la technologie. La voiture doit respecter les règles du code de la route, mais si elle le fait de faon trop stricte, elle met peut-être des vies en danger. Si elle ne peut jamais franchir une ligne blanche, elle écrasera peut-être un enfant, écrivez-vous.

“La voiture autonome montre bien la différence entre l’intelligence et la conscience. Pour la technologie, il n’y a pas de différence intrinsèque entre les règles ‘Je ne peux pas tuer des personnes' et 'Je ne peux pas franchir une ligne blanche'. L’homme doit y intégrer cette différence, mais le problème – regardez l’histoire – est que l’éthique n’est jamais un système concluant. Les entreprises ne s’y lancent pas à la légère, à raison. La technologie existe déjà, de nombreux prototypes aussi. Les développeurs affirment que l’’autonomie de niveau 3’ (le conducteur ne doit plus fixer son attention sur le trafic, mais la voiture peut lui demander de reprendre le contrôle à des moments spécifiques, réd.) sera entièrement opérationnelle en 2021. Le défi majeur réside dans la législation et l’aspect éthique. Qui est responsable si quelque chose se passe mal? Cela préoccupe aussi les entreprises: elles ne veulent pas prendre le risque d‘engendrer des victimes mortelles, certainement en l’absence de cadre légal. L’Allemagne a initié le mouvement vers un tel cadre légal et moral. Des éthiciens sont aussi impliqués.“

Utilitarisme et éthique des droits

“Dans ce cadre, vous pouvez par exemple instituer la règle que les voitures autonomes ne peuvent engendrer qu’un minimum de morts, mais alors, vous vous heurtez au problème suivant: doit-elle monter sur un trottoir et tuer un piéton pour sauver deux personnes qui traversent? D’un point de vue purement arithmétique, il vaut mieux sauver deux personnes qu’une seule. Mais on aboutit alors dans une situation dangereuse, à mon sens immorale. D’un point de vue moral et légal, il y a une différence entre ne pas pouvoir éviter des dommages et provoquer des dommages. On peut en discuter, mais j’estime que ceci est un joli principe de ce qu’un robot ne peut pas concevoir par lui-même. Vous devez donc inclure l’utilitarisme, le plus grand bien pour le plus grand nombre de personnes, mais pas trop non plus. Par ailleurs, vous devez tenter d’intégrer des valeurs déontologiques comme l’équité dans la prise de décision de ces machines – sans que ces machines sachent ce qu’est l’équité. Il n’est pas équitable de sacrifier les personnes qui se déplacent fortuitement près d’un tel système en raison de l’un ou l’autre calcul. L’éthique est difficile pour les machines, mais cela ne signifie pas que vous devez abolir la voiture autonome. L’industrie pharmaceutique teste des produits et des erreurs se produisent parfois dans cette phase de test, mais si vous ne développez pas ces produits, davantage de personnes connaissent des problèmes. Au mieux, les voitures autonomes sauvent de nombreuses vies.“

Imagination

“L’homme a ceci de beau et d’unique que parfois, il ne suit pas les règles, parce qu’il vaut mieux ne pas les suivre. Supposons que l’intelligence artificielle existait déjà du temps des Romains, et qu’elle a partagé la gestion: quel système IA aurait aboli l’esclavage? C’était super efficace, super bon marché et cela existait déjà. L’esclavage a été aboli, parce que des individus ont estimé que ce n’était plus correct, même si on s’en servait depuis des siècles. L’IA fonctionne toujours sur la base de règles issues du passé. L’homme a l’imagination pour défier les règles.“

Killer bots

La discussion a récemment porté sur les 'killer bots', qui peuvent décider de façon autonome de tuer des personnes. Est-ce aller trop loin?

“Pour moi, les 'killer bots' vont trop loin. Le choix le plus drastique qui soit, la vie ou la mort, ne peut être confié à une machine sans conscience éthique. Oui, il existe des psychopathes qui n’en ont pas non plus, mais la plupart des gens n’en sont pas. Quiconque développe des 'killer bots', agit sans éthique, car un robot ne peut jamais se repentir. Un contre-argument est: 'Quid si un ennemi les développe en premier?' Mais s’armer contre les robots, c’est autre chose que développer des robots tueurs. Ceci initie une course à l’armement dans laquelle l’immoralité de l’un induit le comportement immoral de l’autre: une spirale négative. Je ne m’oppose pas à l’efficacité: vous pouvez utiliser la technologie, mais pas une technologie qui décide de façon entièrement autonome de la vie et de la mort.“

ROBOTS ET JOBS

Comment voyez-vous l’impact de la robotisation sur le marché du travail?

“Difficile à prédire. La robotisation engendre sans aucun doute de nouveaux jobs, mais ceux-ci demanderont des aptitudes que chacun ne possède pas. De nombreux jobs disparaîtront aussi. L’efficacité de ce marché du travail dépendra de la politique suivie. Si nous formons les individus comme concurrents des robots, ce n’est pas une bonne chose. Si nous mettons l’accent sur l’interactivité, les aptitudes sociales, ce qui n’est pas l’apanage des robots, je vois bel et bien les avantages.“

Apprendre la dextérité

Il existe aussi des individus aux aptitudes sociales moins marquées, qui ont peut-être besoin justement d’un travail répétitif. Est-ce une solution pour eux?

“Cela me semble le plus gros défi, mais il n’est pas vrai qu’il n’y aura plus que des jobs ‘sociaux’ pour les individus. Il subsistera toujours un travail manuel que les robots ne savent pas faire – cela reste même le plus grand groupe selon de récentes études de McKinsey. Les jobs dans l’horeca et le nettoyage sont par exemple très difficiles pour un robot, parce qu’ils exigent une certaine dextérité. Si vous apprenez un peu de dextérité aux personnes qui effectuent un travail répétitif, elles auront toujours du travail. Dans l’entreprise de travail adapté Mariasteen à Gits, par exemple (voir Motion Control 1807, réd.), on engage des cobots pour des personnes distanciées du marché du travail. Certaines personnes souffrant d’un handicap ne savent pas toujours clairement ce qu’elles doivent faire, mais leurs manipulations sont bien plus souples que celles du robot. Le cobot leur indique ce qu’elles doivent faire, ce qui crée une jolie symbiose. Mais: c’est cer­tainement le groupe le plus fragile. Ici aussi, cela dépend des choix de notre société. Devons-nous automatiser tout ce que nous faisons? J’ai vu récemment un robot pasteur capable de donner l’extrême onction. Conçu comme un gimmick, mais un bel exemple de ce que l’on ne doit pas automatiser. Le but n’est pas cette onction, il s’agit de la présence humaine à l’un des moments les plus délicats de la vie. On ne peut pas y faire face avec des robots.“

“Si nous formons les gens comme des concurrents des robots, ce n’est pas une bonne chose“

Notre société n’est-elle pas de plus en plus axée sur le résultat, par exemple dans les soins de santé, le personnel soignant ne disposant que de quelques minutes pour une action précise? N’est-ce pas un problème dans une économie de plus en plus robotisée?

“Je pense que c’est un réel souci. La technologie traduit les valeurs et objectifs que nous lui donnons. Si ceux-ci ne visent que l’efficacité, ils suivent une tendance qui existe depuis longtemps déjà. Heureusement, il existe des contre-exemples. Buurtzorg Nederland est un prestataire de soins qui accorde plus de temps aux patients. Détail amusant, ces patients guérissent plus vite, si bien que Buurtzorg est plus efficace, mais ce n’était pas le premier objectif. La technologie peut, en cas d’utilisation incorrecte, encore renforcer cet effet. A l’inverse, vous pouvez l’engager comme suit: aujourd’hui, de nombreux infirmiers ou en­seignants prestent peu l’essence même de leur travail, parce qu’ils ont tellement de tâches administratives. Affectez-y un logiciel ou l’IA, et ils peuvent se consacrer à des tâches de soins et d’enseignement. Mais cela demande bel et bien un choix de la direction. Ils ne peuvent pas dire: le logiciel est automatisé, l’infirmier doit travailler davantage à mi-temps. Vous pouvez aussi choisir de donner plus de temps à l’infirmier pour voir les patients. C’est toujours un choix humain.“

Pas de taxe robot

L’automatisation permet d’engranger des bénéfices. Les producteurs ou utilisateurs de systèmes d’automatisation doivent-ils répercuter une partie de ce bénéfice dans la société?

“Une 'taxe robot' ne me paraît pas sensée. L’automatisation n’est pas bonne ou mauvaise en soi, tout dépend de son utilisation. Mais j’estime que les producteurs de robots doivent y réfléchir: les 'killer bots' et robots pasteurs ne sont pas une bonne idée. Les robots qui nous déchargent du travail répétitif, le sont bien. Une entreprise qui rend ainsi l’économie plus efficace, doit-elle partager ses bénéfices? Si une entreprise ne devient pas plus efficace, elle sera supplantée par la concurrence et son personnel se retrouvera à la rue. Celui qui améliore l’efficacité de son entreprise, le fait pour la faire grandir et assurer un revenu aux personnes qui y travaillent. Dans une entreprise qui n’emploie plus personne ou con­gédie ses fidèles salariés pour un bénéfice d’un demi pour cent, des questions éthiques se posent naturellement. On peut penser à long terme: si nous n’avons nullement besoin des individus dans cent ans, il faut un nouveau système de répartition. Une idée telle que le revenu de base vient à l’esprit, mais alors, la question de la motivation se pose peut-être.“

“Une ‘taxe robot’ ne me parait pas sensee. L’automatisation n’est pas bonne ou mauvaise en soi, cela
depend de son utilisation“

Interaction avec les robots

Quelle doit être l’apparence des robots? Très humaine, ou justement pas?

“Dans la littérature, cela s’intitule 'the uncanny valley'. Les robots sont angoissants quand ils ressemblent quasi à l’être humain; pas quand ils ressemblent parfaitement à l’être humain et pas non plus quand ils ne ressemblent pas du tout à l’être humain. Certainement dans le secteur des soins, le robot peut comporter une certaine ‘douceur’, mais le plus important, c’est de savoir avec certitude qu’il s’agit d’un robot. Dans l’interaction avec les robots, une distinction évidente doit toujours être visible. Je pense bien que la technologie disparaît de plus en plus à l’arrière-plan et que l’ordinateur avec clavier et souris sera supplanté par un assistant vocal. Cela ne marche pas encore très bien, mais nous allons de plus en plus communiquer avec la technologie comme nous communiquons avec les individus. C’est plus efficace et plus facile.“

L’homme et la technique seront de plus en plus confondus à l’avenir?

“Ce mouvement est déjà initié. Le desktop se trouvait déjà sur notre bureau, le laptop sur nos genoux, le smartphone dans notre poche, la smartwatch sur la peau. Mais je ne vois pas une fusion totale de l’homme et de la technique. On en revient à l’émotion et à l’imagination, le fait que nous sommes des créatures spirituelles désireuses de s’épanouir. Une voiture autonome ne voudra jamais subitement jouer au football. Nous devrons toujours canaliser la technique sans cette imagination. Mais l’homme et la machine se rapprochent, ne fût-ce que parce que notre infrastructure influence aussi nos actions. Si nous nous cantonnons de plus en plus dans notre propre croyance, c’est en partie la conséquence du fonctionnement des médias sociaux. Pour paraphraser Winston Churchill: nous commençons par former un outil puis l’outil nous forme. Tant que nous en restons conscients et que nous ne laissons pas l’imagination aux machines, tant que nous prenons des décisions éthiques, l’être humain reste au pouvoir. L’être humain ne doit pas ressembler à un robot pour survivre. L’éthique concerne toujours des ajustements, traiter le non-programmable.“