LA TECHNIQUE

  • La technique, une spécificité humaine ?
  • La technique libère-t-elle ou asservit-elle les hommes ? 
  • La technique est-elle réalisation ou destruction de l’humanité ?  
  • La technique résout-elle les problèmes ou en crée-t-elle davantage ? 
  • Peut-on gouverner la société à l’aide de techniques ?
  • L’homme peut-il devenir le produit de ses techniques ?
  • Est-il légitime de limiter le développement technique ?

DEFINITIONS

 « Technique » vient du verbe grec technein :  fabriquer, produire, construire.

Tekhnê   signifiait en grec : « art, habileté ».

La technique, est donc une action qui a pour but la production d’un objet ( qui peut être aussi bien une cafetière, un satellite, une œuvre artistique…), réalisé à partir de procédés spécifiques.

Bah oui ! On ne fabrique pas une œuvre littéraire avec les mêmes spécificités qu’une cafetière… 

Donc la technique n’implique pas seulement des connaissances, un savoir théorique, mais aussi des savoir-faire.

Aussi ce qui est produit par la technique s’oppose-t-il à ce qui est produit naturellement :
Une cafetière ou un arbre ne découlent pas du même processus…

L’arbre a son principe d’existence en soi.  

La cafetière a son principe d’existence hors de soi, elle nait de l’esprit et la main de l’homme.

Il faut aussi différencier l’instinct, d’un savoir conscient et volontaire. Un animal peut par instant construire un piège (l’araignée) mais quand l’homme construit un piège, il y a conscience. Il pourra définir, transmettre apprendre la construction du piège et l’adapter. « L’invention même non éphémère d’un individu, si elle n’est pas effectivement acquise et transmise par lemilieu social n’est pas technique. » Ducassé Histoire des Techniques. 1945.

INTRODUCTION

LE MYTHE DE PROMETHEE

Prométhée a volé le feu aux Dieux pour le donner aux hommes. Il sera puni par Zeus, il sera enchaîné à un rocher, un vautour viendra lui dévorer le foie chaque jour. 

Mais grâce à son geste, les hommes auront « l’intelligence qui s’applique aux besoins de la vie » : c’est-à-dire la technique. 

Par elle, il s’émancipe, et se pense et se vit comme différent du reste de la nature, seul à être doté d’une puissance créatrice et destructrice.

Prométhée est un personnage ambivalent : habile audacieux, bienfaisant envers les hommes mais en même temps son orgueil et son audace lui valent le châtiment divin. Une figure qui finalement ressemble à l’homme lui-même lorsqu’il veut devenir l’égal du dieu créateur.

QUAND LA PUB S’EMPARE DU MYTHE DE PROMETHEE…

Le mythe raconté par Platon dans Protagoras :

Platon (424-347 av. J.-C.) est un philosophe grec (Athénien).  Elève de Socrate, Platon rédige une série de dialogues dont chacun est l’occasion d’interroger un sujet donné (Le Beau, L’amour, La politique…). Dans le Protagoras,  il met en scène Protagoras, un sophiste célèbre.   Pour Protagoras, « l’homme est la mesure de toute chose” …

” Il fut jadis un temps où les dieux existaient, mais non les espèces mortelles. Quand le temps que le destin avaitassigné à leur création fut venu, les dieux les façonnèrent dans les entrailles de la terre d’un mélange de terre et defeu et des éléments qui s’allient au feu et à la terre.

Quand le moment de les amener à la lumière approcha, ils chargèrent Prométhée et Epiméthée de les pourvoir etd’attribuer à chacun des qualités appropriées. Mais Epiméthée demanda à Prométhée de lui laisser faire seul lepartage.

« Quand je l’aurai fini, dit-il, tu viendras l’examiner ». Sa demande accordée il fit le partage, et, en le faisant, ilattribua aux uns la force sans la vitesse, aux autres la vitesse sans la force ; il donna des armes à ceux-ci, les refusa àceux-là, mais il imagina pour eux d’autres moyens de conservation ; car à ceux d’entre eux qu’il logeait dans uncorps de petite taille, il donna des ailes pour fuir ou un refuge souterrain ; pour ceux qui avaient l’avantage d’une grande taille, leur grandeur suffit à les conserver, et il appliqua ce procédé de compensation à tous les animaux. Ces mesures de précaution étaient destinées à prévenir la disparition des races. Mais quand il leur eut fourni les moyensd’échapper à une destruction mutuelle, il voulut les aider à supporter les saisons de Zeus ; il imagina pour cela de lesrevêtir de poils épais et de peaux serrées, suffisantes pour les garantir du froid, capables aussi de les protéger contre la chaleur et destinées enfin à servir, pour le temps du sommeil, de couvertures naturelles, propres à chacun d’eux ; illeur donna en outre comme chaussures, soit des sabots de cornes, soit des peaux calleuses et dépourvues de sang, ensuite il leur fournit des aliments variés suivant les espèces, aux uns l’herbe du sol, aux autres les fruits des arbres,aux autres des racines ; à quelques uns mêmes il donna d’autres animaux à manger ; mais il limita leur fécondité etmultiplia celle de leur victime pour assurer le salut de la race.

Cependant Epiméthée, qui n’était pas très réfléchi avait sans y prendre garde dépensé pour les animaux toutes lesfacultés dont il disposait et il lui restait la race humaine à pourvoir, et il ne savait que faire. Dans cet embarras,Prométhée vient pour examiner le partage ; il voit les animaux bien pourvus, mais l’homme nu, sans chaussures, nicouvertures ni armes, et le jour fixé approchait où il fallait l’amener du sein de la terre à la lumière. Alors Prométhée,ne sachant qu’imaginer pour donner à l’homme le moyen de se conserver, vole à Héphaïstos et à Athéna laconnaissance des arts avec le feu ; car, sans le feu, la connaissance des arts était impossible et inutile ; et il en faitprésent à l’homme. L’homme eut ainsi la science propre à conserver sa vie ; mais il n’avait pas la science politique ;celle-ci se trouvait chez Zeus et Prométhée n’avait plus le temps de pénétrer dans l’acropole que Zeus habite et oùveillent d’ailleurs des gardes redoutables. Il se glisse donc furtivement dans l’atelier commun où Athéna etHéphaïstos cultivaient leur amour des arts, il y dérobe au dieu son art de manier le feu et à la déesse l’art qui lui estpropre, et il en fait présent à l’homme, et c’est ainsi que l’homme peut se procurer des ressources pour vivre. Dans lasuite, Prométhée fut, dit-on, puni du larcin qu’il avait commis par la faute d’Epiméthée.

Quand l’homme fut en possession de son lot divin, d’abord à cause de son affinité avec les dieux, il crut à leurexistence, privilège qu’il a seul de tous les animaux, et il se mit à leur dresser des autels et des statues ; ensuite il eutbientôt fait, grâce à la science qu’il avait d’articuler sa voix et de former les noms des choses, d’inventer les maisons,les habits, les chaussures, les lits, et de tirer les aliments du sol. Avec ces ressources, les hommes, à l’origine, vivaientisolés, et les villes n’existaient pas ; aussi périssaient-ils sous les coups des bêtes fauves toujours plus fortes qu’eux ;les arts mécaniques suffisaient à les faire vivre ; mais ils étaient d’un secours insuffisant dans la guerre contre lesbêtes ; car ils ne possédaient pas encore la science politique dont l’art militaire fait parti. En conséquence ilscherchaient à se rassembler et à se mettre en sûreté en fondant des villes ; mais quand ils s’étaient rassemblés, ils sefaisaient du mal les uns aux autres, parce que la science politique leur manquait, en sorte qu’ils se séparaient denouveau et périssaient.

Alors Zeus, craignant que notre race ne fut anéantie, envoya Hermès porter aux hommes la pudeur et la justice pourservir de règles aux cités et unir les hommes par les liens de l’amitié. Hermès alors demanda à Zeus de quellemanière il devait donner aux hommes la justice et la pudeur. « Dois-je les partager comme on a partagé les arts ? Orles arts ont été partagés de manière qu’un seul homme, expert en l’art médical, suffît pour un grand nombre de profanes, et les autres artisans de même. Dois-je répartir ainsi la justice et la pudeur parmi les hommes ou lespartager entre tous » –

«Entre tous répondit Zeus ; que tous y aient part, car les villes ne sauraient exister, si ces vertus étaient comme lesarts, le partage exclusif de quelques uns ; établis en outre en mon nom cette loi que tout homme incapable de pudeuret de justice sera exterminé comme un fléau de la société ».

Voilà comment, Socrate, et voilà pourquoi et les Athéniens et les autres, quand il s’agit d’architecture ou de tout autreart professionnel, pensent qu’il n’appartient qu’à un petit nombre de donner des conseils, et si quelque autre, endehors de ce petit nombre se mêle de donner un avis, ils ne le tolèrent pas, comme tu dis, et ils ont raison selon moi. Mais quand on délibère sur la politique où tout repose sur la justice et la tempérance, ils ont raison d’admettre tout lemonde, parce qu’il faut que tout le monde ait part à la vertu civile ; autrement il n’y a pas de cité”.

Platon, Protagoras.320.321c. Traduction d’Emile Chambry.

Ce mythe très connu de Platon donne à l’homme une place très particulière.

Certes, l’homme est mortel et à ce titre il est une espèce naturelle comme les végétaux ou les animaux il s’oppose aux dieux qui est sont immortels. Mais parce qu’Épiméthée n’a pas correctement réalisé sa tâche, c’est-à-dire donner aux hommes les attributs qui auraient assuré leur survie, l’acte de Prométhée va donner à l’homme l’intelligence technicienne  puis, par l’intervention d’Hermès,  l’intelligence  politique et morale ,  sans lesquelles il ne peut y avoir de société.

L’homme paraît donc dans le mythe doté d’une particularité, d’un statut particulier qui lui donne une dimension de supériorité.

L’homme serait donc celui qui produit de la culture, invente des religions et organise des mondes sociaux. Il n’y a pas de société humaine sans technique sans art, sans religion… Et  ce mythe place l’homme, qui est un animal, à un autre niveau du règne animal. En fait, son manque originel va se transformer en force, en avantage sur les autres espèces. C’est parce qu’il est indéterminé que l’homme va créer un « monde artificiel dans lequel la dimension institutionnelle est essentiel » (…) « La société joue pour chat comme le rôle de l’espèce pour l’animal » écrit Leroi-Gourhan

La technique est-elle une spécificité humaine ?

Le mythe fait apparaître la technique comme une nécessité pour l’homme. 

Selon le mythe de Prométhée, l’espèce humaine, seule, a reçu l’habilité technique. Elle ferait exception, par sa capacité à manier l’outil et à fabriquer. C’est l’Homo faber dont on parlera Bergson.

Mais depuis un demi-siècle, les progrès de l’éthologie[1] tendraient à montrer que, toute proportion gardée, les animaux seraient eux-aussi des faber, c’est-à-dire capables de mettre une technique au service de leurs besoins. (Vidéos)

Il faudra néanmoins ne pas confondre ce qui relève de l’instinct et ce qui relève de la technique. De manière traditionnelle, on désigne par le terme d’instinct un comportement inné, régulier, qui ne nécessite aucune transmission ni aucune réflexion pour être mis en œuvre.

[1] Etude du comportement animal

 Une araignée fait des opérations qui ressemblent à celles du tisserand, et l’abeille confond par la structure de ses cellules de cire l’habileté de plus d’un architecte. Mais ce qui distingue dès l’abord le plus mauvais architecte de l’abeille la plus experte, c’est qu’il a construit la cellule dans sa tête avant de la construire dans la ruche. Le résultat auquel le travail aboutit, préexiste idéalement dans l’imagination du travailleur. Ce n’est pas qu’il opère seulement un changement de forme dans les matières naturelles ; il y réalise du même coup son propre but dont il a conscience, qui détermine comme loi son mode d’action, et auquel il doit subordonner sa volonté.

Karl Marx, Le capital, 1867, trad. J. Roy, Éditions sociales, 1950.

Peut-on parler de création d’outils chez les animaux ? Certains animaux emploient des cailloux, des brindilles, pour briser ou pour ramasser quelque chose. Les corbeaux des villes fouillent les poubelles des humains et ramassent des objets, comme des cintres par exemple, qu’ils tordent avec leur bec et utilisent ensuite pour construire un nid par exemple.

La pêche aux insectes est une des pratiques les plus étudiées chez les chimpanzés. Elle concerne surtout les femelles, les mâles préférant la technique moins délicate […]. Quand elle veut pêcher, la femelle chimpanzé commence par repérer un nid, souvent déjà connu et exploité par le groupe. Elle cherche alors une brindille dans les arbres alentour, la casse, la débarrasse éventuellement de ses feuilles et de son écorce et la taille à la bonne longueur avec, pourquoi pas, un bout pointu. Elle retourne alors au nid, fait la queue si un collègue est déjà à table puis, son tour venu, plonge son outil dans les galeries pleines d’insectes.

 La pêche est-elle une pratique culturelle des chimpanzés ? Cela se pourrait. D’une part, toutes les populations ne pêchent pas à l’aide de baguette : dans la forêt de Taï, en Côte d’Ivoire, on ne pêche des termites qu’avec les bras. D’autre part, dans les groupes utilisant une baguette, les techniques de préparation varient d’un lieu à l’autre. La plupart du temps, l’extrémité de l’outil est pointue, sans effilochage, pour une progression optimale dans les galeries. Si elle est usée, le pêcheur la mordille pour la remettre à neuf. Mais un groupe vivant en République démocratique du Congo (RDC) fait exactement le contraire : ses membres abîment volontairement la pointe, à la main et avec les dents, pour l’effilocher et s’en servir comme brosse ! Ils passent régulièrement la baguette dans le creux de leur main pour ranger les fils, comme un peintre recoiffe son pinceau ébouriffé. Un tel outil peut même être exploité de plusieurs manières, la plus sophistiquée consistant à user du « manche » pour agrandir l’entrée de la galerie, puis de la brosse pour ramasser les termites. Au final, ce groupe vivant en RDC a développé une technique de pêche unique au monde… 

Damien Jayat, « La pêche aux insectes : pratique culturelle des chimpanzés ? », Futura-

Si comme le dit Merleau-Ponty, « Il est impossible de superposer chez l’homme une première couche de comportements que l’on appellerait « naturels » et un monde culturel ou spirituel fabriqué. Tout est fabriqué et tout est naturel chez l’homme, comme on voudra dire, en ce sens qu’il n’est pas un mot, pas une conduite qui ne doive quelque chose à l’être simplement biologique – et qui en même temps ne se dérobe à la simplicité de la vie animale, ne détourne de leur sens les conduites vitales, par une sorte d’échappement et par un génie de l’équivoque  qui pourraient servir à définir l’homme ».

Maurice Merleau-Ponty, Phénoménologie de la perception (1945)

Ainsi, la culture, donc la technique, comme d’autres comportements, serait une composante intrinsèque de l’homme, enrichie par des siècles d’évolution. L’homme alors serait naturellement technicien… La technique serait le propre de l’homme, une caractéristique biologique ; la technique serait son outil comme les griffes sont celles du lion… Un homo faber , un homme artisan…

Le fait est que l’homme est toujours déjà outillé. La présence humaine dans l’Histoire est toujours marquée par l’objet.  

Mais alors, la technique n’est-elle naturelle qu’à l’homme ?  Ou simplement l’homme n’est-il que le plus technicien des animaux ou marque -t-il une rupture ?

« On sait aussi que les chimpanzés ou les dauphins et d’autres espèces possèdent des formes de conscience de soi, qu’ils savent innover et se transmettent des techniques de chasse ou des façons de s’alimenter (ce que l’on nomme “cultures animales”). Enfin, en trente ans d’expérience d’enseignements du langage à des gorilles, des chimpanzés ou des bonobos, il est apparu que la frontière linguistique et symbolique entre les animaux et les hommes était moins nette qu’il n’y paraissait. »

J.-F. Dortier, L’homme, cet étrange animal 

 

Donc, la technique,  propre de l’homme  ou pas ?

Bergson  voit la technique comme une spécificité de l’Homme parce que pour lui, l’intelligence humaine est d’abord une intelligence technique (produire des outils)/ l’homme est un homo faber. Et c’est parce qu’il est homo faber qu’il est homo sapiens

Prothèse début XX°

La technique est aussi un fait culturel qui fait évoluer l’homme, le fait entrer dans l’histoire, modifie son environnement et le modifie.

 Pour Aristote le corps humain est fait pour la technique, parce que pour lui « la nature ne fait rien en vain » , l’homme possède un organe particulier, la main, qui n’a pas de fonction propre et peut servir à toutes les fonctions de l’intelligence. La main est un « couteau suisse » de l’intelligence dont elle serait le prolongement. Mais chez Aristote c’est parce que l’homme est intelligent qu’il a une main, or c’est une vision fixiste et non évolutionniste de l’homme et en ce sens, elle est   difficilement recevable aujourd’hui.

Tandis qu’Anaxagore soutiendra le contraire, c’est parce qu’il a une main qu’il est intelligent.

Leroi-Gourhan donne lui aussi un rôle fondamental à la main :

« La main à l’origine était une pince à tenir les cailloux, le triomphe de l’homme a été d’en faire la servante de plus en plus habile de ses pensées de fabricant. Du Paléolithique [1] supérieur au XIXe siècle, elle a traversé une interminable apogée. Dans l’industrie, elle joue encore un rôle essentiel, par quelques artisans outilleurs qui fabriquent les pièces agissantes des machines devant lesquelles la foule ouvrière n’aura plus qu’une pince à cinq doigts pour distribuer la matière ou un index pour appuyer sur le bouton. Encore s’agit-il d’un stade de transition, car il n’est pas douteux que les phases non mécaniques de la fabrication des machines s’éliminent peu à peu.{C}

  Il serait de peu d’importance que diminue le rôle de cet organe de fortune qu’est la main si tout ne montrait pas que son activité est étroitement solidaire de l’équilibre des territoires cérébraux qui l’intéressent. « Ne rien savoir faire de ses dix doigts » n’est pas très inquiétant à l’échelle de l’espèce car il s’écoulera bien des millénaires avant que régresse un si vieux dispositif neuro-moteur, mais sur le plan individuel, il en est tout autrement. Ne pas avoir à penser avec ses dix doigts équivaut à manquer d’une partie de sa pensée normalement, philogénétiquement [2] humaine. Il existe donc à l’échelle des individus sinon à celle de l’espèce, dès à présent, un problème de la régression de la main.”

André Leroi-GourhanLe Geste et la Parole, 1965, tome II, chap. 8, Éd. Albin Michel, p. 61-62.

 

Ainsi, l’homme en se redressant, a libéré la capacité de son cerveau et de ses mains. Mais l’âge des machines risque d’affaiblir l’intelligence des individus… Elle n’est plus un organe fabricateur, mais plutôt presque un organe au service de la machine.  

Aujourd’hui se pose une autre question : 

A l’âge des machines, la technique est-elle encore naturelle ? La machine n’est-elle pas plutôt un fait culturel qui pousse l’homme hors de la nature ?

Si bien qu’on se demandera à quel point la technique est naturelle ? Il y a une connaissance transmise et partagée dans la technique. Donc culturelle… Et c’est par la technique que l’homme s’humanise…

Les nouvelles technologies augment les capacités du corps humain. Depuis qqs années elles s’incorporent au corps. L’homme est déterminé par sa technique, même dans son corps : La technique est donc le produit de l’inadaptation essentielle de l’homme.

Au final, ce n’est pas l’homme qui s’adapte à son milieu mais c’est l’homme qui adapte le milieu à lui-même.  

Terre agricole dans le désert, Jordanie

La technique est-elle neutre ?

 « Science sans conscience n’est que ruine de l’âme » Rabelais

Définition de la neutralité :

Être neutre, c’est ne pas prendre parti. On considère n’avoir pas de responsabilité dans une question, un problème. C’est une façon de revendiquer son innocence.

 Dans le Gorgias, Platon fait assumer à Gorgias l’idée que la technique n’est pas responsable de ce qu’on fait d’elle…Si Gorgias parle de la rhétorique, ce qu’il en dit peut s’appliquer à toute technique.

 « Les criminels, affirme Gorgias, ce ne sont pas les maîtres (en rhétorique), ce n’est pas l’art[1] non plus…il n’y a pas lieu à cause de cela de le rendre coupable ou criminel ; non, les criminels, à mon sens, sont les individus qui font un mauvais usage de leur art ».

Gorgias, Platon.

[1] Ici, la technique

L’argument de Gorgias est que la technique est un simple moyen et qu’un moyen ne peut être responsable de quoi que ce soit. La responsabilité en revient à la personne qui l’utilise.

Force est de reconnaitre que si l’homme est un sujet pensant et libre, l’objet en revanche ne peut avoir ni liberté, ni conscience de lui-même, ni intention…La bombe qui a détruit Hiroshima n’avait pas d’intention…Le nucléaire peut être une source d’énergie ou de destruction en fonction de l’intention de celui qui s’en sert. 

  • Mais la technique est-elle vraiment si innocente ?

Platon considérait que la technique ne peut avoir sa place dans une cité qu’après jugement.

Le Roi Thamous, dans le mythe du Phèdre , incarne la souveraineté de l’ordre politique et moral. Il examine  les techniques et décide de leur donner droit de cité ou non.Ainsi, ils ne les considèrent pas neutres. Il y en a d’utiles et de nuisibles, de dangereuses ou d’inoffensives. Il va ainsi refuser l’art qu’apporte Teuth, l’inventeur de l’écriture, car il voit dans cette technique une menace de destruction de la mémoire et un péril pour la pensée vivante. Manière de signifier que toute médiation comporte le risque d’une aliénation. La calculatrice dispense de savoir calculer, le programme informatique de correction des fautes de maîtriser la langue, le téléphone de savoir écrire.

Une fois admise, une technique doit restée  soumise aux fins du politique. Le Roi Thamous symbolise donc  la puissance du Bien garante de l’ordre légitime.

La technique ne serait donc pas   inoffensive. Elle peut avoir des effets pervers qu’il faut savoir anticiper afin de ne pas être condamné à les subir.(principe de précaution)

 Platon dénonce donc par avance, dans le Phèdre, la subversion technocratique où le techniquement possible décide du moralement souhaitable, la faute de la technocratie consistant à substituer à l’ordre politique et à la délibération citoyenne non pas le gouvernement du neutre mais le débordement des fins par les moyens.

Le but de la technique, c’est l’efficacité : trouver le « moyen produisant le maximum d’effets avec le minimum de dépenses ».  Difficile de considérer la technique comme neutre dans la mesure ou la fin de la technique est le pouvoir.

Par la technique, l’homme cherche à maitriser la nature. Marcuse écrit que « Ce n’est pas seulement son utilisation, c’est bien la technique elle-même qui est déjà domination (sur la nature et sur les hommes), une domination méthodique, scientifique, calculée et calculante. …La technique, c’est d’emblée tout un projet socio-historique ». Industrialisation et Capitalisme , 1964.

On pourrait dire de la technique qu’elle est un « pouvoir sans conscience », Elle peut aussi bien se mettre au service du bien que du mal. Si les Européens ont pu conquérir et massacrer des populations entières au moment des grandes découvertes, c’est parce qu’ils avaient une supériorité technique qui leur permettait d’avoir des armes que n’avaient pas les habitants du Nouveau Monde.

La Technique est un moyen mais tout moyen suppose une fin qui est la domination (de la nature). Si bien que pour Heidegger, la technique est une manière de dévoiler le réel, comme ce qui doit être arraisonné c’est-à-dire mis à la raison, provoqué, exploité, mis en demeure de livrer une énergie qui puisse être extraite et accumulée. Avec les moyens techniques modernes (centrale hydraulique et non plus moulin à vent) la nature, la société, l’homme, sont appréhendés comme ce sur quoi on doit intervenir dans un but agressif et dominateur.

Pour Heidegger, l’essence de la technique est métaphysique : la technique est une façon de penser le rapport de l’homme au monde, dévoiler le réel   … donc la technique nous conduit a envisager société, la nature et l’homme comme ce sur quoi l’homme va intervenir de façon agressive et dominatrice. L’homme cherche par la technique a tout transformé en une réserve d’énergie exploitable au gré des projets des intérêts humains. La nature devient un immense réservoir de ressources dont il se sert pour son profit provoquant à plus ou moins long terme une destruction de l’environnement voire une disparition de lui-même. 

 L’essence de la technique est devenu un gigantesque dispositif d’arraisonnement, qui ordonne à l’homme de traiter tout ce qui est, même lui-même comme utilisable. Il y a donc risque majeur et il n’y a rien de neutre

Rodin, Le Penseur

 Conjointement pour Heidegger, cette essence de la technique provoque un   appauvrissement dans notre manière de penser la réalité ; nous sommes enfermés dans une pensée utilitaire qui nous empêche de réfléchir au sens d’une vie authentique. Et ce qui nous menace c’est le vide spirituel, la suprématie des valeurs matérialistes . Le danger pour Heidegger c’est la pensée « calculante », clinicienne technicienne prenant le pouvoir sur la pensée « qui médite » celle des artistes et des philosophes

 Technique n’est donc pas moralement neutre.

 

Non seulement la technique n’est pas une activité neutre mais en plus elle détermine l’évolution des sociétés. C’est le possible ( loi de Gabor) qui détermine ce qui est humainement souhaitable et non l’inverse. L’apparition de l’informatique puis d’Internet a totalement bouleversé nos sociétés.

Toutes les grandes  découvertes technologiques ont été des   révolutions dans notre manière de vivre et de penser le monde et la  place même  que l’homme y occupe  .

 La technique, au départ invention humaine, invente désormais l’homme et son monde.

Fin XV°, la révolution de l'imprimerie

Marx pensait déjà ainsi considérant que « Au moulin à bras correspond la société féodale. Au moulin à vapeur la société bourgeoise », ce qui signifie que c’est le matériel le technique qui détermine pour lui ce qui est d’ordre juridique politique ou même idéologique ; en d’autres termes ce qui construit le visage d’une société, c’est sa technique. Au 19e le passage de la société artisanale à la société industrielle est la preuve visible de cette idée. La fin de l’esclavage est dû en priorité à l’invention de machines plus performante que les esclaves et non pas à de grandes valeurs humaines

 

Comme tout moyen, la technique ne vaut que par les valeurs qu’elle sert . Et ce n’est pas à la technique elle-même d’en décider mais à la politique et à la morale à laquelle elle devrait obeir.

« Ce qui est maintenant possible par l’effet des techniques modèle le désir et l’opinion publique se forme à partir de là. Mais voici que celle-ci à son tour va faire pression pour exiger la réalisation. Un petit exemple : tous les apports d’experts sont maintenant unanimes pour dire que les accidents d’automobile sont provoqués en très grande majorité par l’excès de vitesse (29). Il semblerait qu’il y ait une mesure possible très simple : que les constructeurs de voiture n’utilisent que des moteurs à puissance limitée. Si dès le départ, les moteurs ne peuvent assurer qu’une vitesse maximale de 110 km heure, une très grande partie et des dangers et des règlements disparaît. Or, ceci ne semble pas pouvoir être envisagé. Parce que du moment qu’il est possible de faire des moteurs et des voitures réalisant 200 km heure sur route, ce qui est techniquement possible exerce une pression de nécessité sur l’opinion (parce que l’homme moderne est situé dans ce milieu-là) et l’opinion à son tour ne supporterait pas que les constructeurs limitent la vitesse des engins fournis, et que ne soit pas réalisé ce qui est possible. » (…)

« La médiatisation par la Technique est fondamentale pour comprendre la société moderne. Non seulement elle est médiatrice entre l’homme et le milieu naturel, puis médiatrice au second degré entre l’homme et le milieu technicien, mais elle est aussi médiatrice entre les hommes : ceux-ci entrent de plus en plus en contact les uns avec les autres au moyen d’instruments techniques (téléphone), de techniques psychologiques (pédagogie, relations humaines, dynamique de groupes) mais bien plus, chacun entre en contact avec l’humanité, l’ensemble des hommes au travers de ces moyens techniques (T.V., radio, etc.) instituant le règne de ce que l’on a appelé les relations longues, qui sont qualitativement différentes des relations courtes, non médiatisées (ou médiatisées par des approches culturelles traditionnelles très peu efficaces. Cette médiatisation technique de la relation humaine produit le phénomène sur lequel on ne cesse de s’étonner, le sentiment croissant de solitude individuelle dans un monde de communications généralisées). Devenue un Universum de moyens, la Technique est en fait le milieu de l’homme. Ces médiations se sont tellement généralisées, étendues, multipliées qu’elles ont fini par constituer un nouvel univers, on a vu apparaître le « milieu technicien ». Cela veut dire que l’homme a cessé d’être dans le milieu « naturel[…] »

Extrait de: Le Système Technicien. « Jacques Ellul. »

Technique, technologie et pouvoir

Dans Technopouvoir. Dépolitiser pour mieux régner (Les Liens qui Libèrent, 2019), Diana Filippova, éditorialiste et écrivaine, se penche sur les technologies du numérique avec la volonté de s’éloigner des lieux communs à leur propos : déjà connus du grand public, il ne font souvent guère avancer le débat. 

 

Elle définit la notion de “technopouvoir” en s’inspirant du travail de Michel Foucault. Dans l’acception qu’elle adopte, écrit-elle, le technopouvoir renvoie au répertoire d’actions, stratégies et tactiques qui se fondent sur les techniques pour nourrir ceux qui exercent le pouvoir ou qui veulent le conquérir. L’objectif des technologies numériques est de faire advenir l’Homo Oeconomicus, ce que j’appelle “l’homme sans qualité”. C’est un homme sans subjectivité qui se réduit à l’homme data, gouvernable et prévisible, ce qui est très pratique pour le pouvoir.      
(Diana Filippova)

Dans l’étouffement de toute forme de contestation dans l’espace public en procurant une impression de bien-être au citoyen lambda, mais encourageant en fait la guerre de tous contre tous et la dissolution des relations. Pour résister, il faudrait, écrit-elle, rétablir un état de friction et de conflictualité sur la scène publique, au vu et au su de tous. 

La neutralité technologique est une fiction, une illusion. La technologie n’a jamais été neutre. Elle a été instituée dans une certaine violence contre l’environnement, contre les corps, et donc jamais de manière neutre.      
 

Ambivalence de la technique : Liberté ou aliénation ?

 

La technique est ambivalente puisque son double aspect est d’être à la fois le moyen d’une vie plus heureuse pour l’homme par les progrès qu’elle induit dans tous les domaines mais en même temps elle est à l’origine de catastrophes humaines et environnemental dans le 20e et XXIe siècle regorgent.

Entre idolâtrie et diabolisation de la technique, où se situer ?

20 juillet 1969, l'homme réalise l'un de ses rêves fous...

Dans quelle mesure la technique peut-elle nous libérer et de quoi ?

Il va de soi que des compétences techniques permettent d’améliorer considérablement les conditions de vie de l’homme. La technique a permis à l’homme de se libérer en partie de sa charge matérielle pour se consacrer à des fins spirituelles.

D’un point de vue plus pragmatique, c’est grâce a l’invention des machines à laver que la vie des femmes a pu changer. Ce   qui a permis la fin de l’esclavage, ce n’est pas seulement les grandes idées humanistes de certains mais avant tout, l’apparition de la machine qui a rendu leur force de travail moins rentable.

D’une manière générale la technique permet à l’homme de produire plus en produisant moins d’efforts humains. L’outil est ce qui permet la libération de l’homme et sa conquête du monde.  

(exple du chirurgien de Ellul)

La technique est pour l’homme le moyen de contrôler son univers, de le projeter dans le futur.

Par ses inventions il se construit et construit le monde dans lequel il vit et dans lequel il va vivre.

Construction Empire State Building 1930

L’Homo faber, l’homme capable de fabriquer des outils, se projette dans l’avenir ; il se crée homme en créant le monde. 

 L’homo faber[1] est dès l’origine des temps un inventeur : déjà le bâton, la massue dont il arme son bras pour gauler les fruits, pour assommer les bêtes sont des instruments par lesquels il agrandit sa prise sur le monde ; il ne se borne pas à transporter au foyer des poissons cueillis au sein de la mer : il faut d’abord qu’il conquière le domaine des eaux en creusant des pirogues ; pour s’approprier les richesses du monde il annexe le monde même. Dans cette action il éprouve son pouvoir ; il pose des fins, il projette vers elles des chemins : il se réalise comme existant.

 Pour maintenir, il crée ; il déborde le présent, il ouvre l’avenir. C’est pourquoi les expéditions de pêche et de chasse ont un caractère sacré. On accueille leurs réussites par des fêtes et des triomphes ; l’homme y reconnaît son humanité. Cet orgueil il le manifeste aujourd’hui encore quand il a bâti un barrage, un gratte-ciel, une pile atomique. Il n’a pas seulement travaillé à conserver le monde donné : il en a fait éclater les frontières, il a jeté les bases d’un nouvel avenir.

Simone de Beauvoir, Le deuxième sexe, tome 1, © Éditions Gallimard, 1949.

[1] Capable de fabriquer des outils

René Descartes , mathématicien, physicien et philosophe français, ( -1650)

Il est considéré comme l’un des fondateurs de la philosophie moderne.  

Lorsque Descartes écrivait que l’homme doit se rendre « comme maitre et possesseur de la nature », il ne l’envisageait pas comme une supériorité absolue de l’homme sur le monde. D’abord parce que Descartes était déiste et que l’homme ne peut ni maîtriser ni être possesseur de la création de Dieu, d’où le « comme » ; ensuite parce que d’une certaine façon il répondait à l’invitation de la Genèse « emplissez la terre et soumettez- là » .

  Aristote pensait qu’il y avait deux mondes séparés par la lune, que le monde terrestre était soumis au changement, à l’irrégularité, à l’instabilité… on ne pouvait donc en faire une science,  celle-ci était réservée à l’étude des astres qui eux, pensait-on, appartenait à la régularité. Il pensait également que la nature poursuivait de buts. Mais Galilée a démontré que les astres eux aussi étaient soumis à l’irrégularité ce qui permet à Descartes de défendre l’idée que la nature est constituée uniquement de matière, elle n’a pas de but. Et elle répond à des mécanismes. Et en comprenant ces mécanismes par les lois mathématiques, l’homme pourra se rendre « comme maitre et possesseur de la nature ». L’homme dés lors n’est plus comme un enfant soumis aux caprices intentionnels de la Nature.  Descartes voit donc dans la technique une façon pour l’homme d’accomplir sa destinée sur un plan spirituel et sur un plan plus matériel, il s’agit bien sûr grâce à la connaissance d’améliorer les conditions d’existence de l’homme, sur le plan de la santé ou du travail, pour la recherche de plus de liberté et de bonheur..

Les recherches scientifiques et techniques doivent être tournées vers un seul but : la résolution de nos problèmes pratiques et l’amélioration de nos conditions de vie. 

 Mais, sitôt que j’ai eu acquis quelques notions générales touchant la physique […] elles m’ont fait voir qu’il est possible de parvenir à des connaissances qui soient fort utiles à la vie, et qu’au lieu de cette philosophie spéculative, qu’on enseigne dans les écoles[1] , on peut en trouver une pratique, par laquelle connaissant la force et les actions du feu, de l’eau, de l’air, des astres, des cieux et de tous les autres corps qui nous environnent, aussi distinctement que nous connaissons les divers métiers de nos artisans, nous les pourrions employer en même façon à tous les usages auxquels ils sont propres et ainsi nous rendre comme[2] maîtres et possesseurs de la nature. Ce qui n’est pas seulement à désirer pour l’invention d’une infinité d’artifices, qui feraient qu’on jouirait, sans aucune peine, des fruits de la terre et de toutes les commodités qui s’y trouvent, mais principalement aussi pour la conservation de la santé, laquelle est sans doute le premier bien et le fondement de tous les autres biens de cette vie ; car même l’esprit dépend si fort du tempérament et de la disposition des organes du corps que, s’il est possible de trouver quelque moyen qui rende communément les hommes plus sages et plus habiles qu’ils n’ont été jusqu’ici, je crois que c’est dans la médecine qu’on doit le chercher.

René Descartes, Discours de la méthode, 1637.

[1] Philosophie enseignée au Moyen Âge dans les universités. Elle repose sur la théologie chrétienne et sur une partie de la philosophie d’Aristote. 

[2] Ce « comme » sous-entend que le seul maître et possesseur est Dieu.

 

Au fil du temps on a oublié le déisme de Descartes et c’est à partir de lui au 17e, qu’on va considérer le scientifique comme celui qui parviendra à maîtriser le monde…

 Il ne viendrait bien sûr à l’idée de personne (à l’exception de quelques sectes…) de penser que la technique n’a pas améliorer la vie de l’homme. Couplée à la science, elle a permis des progrès remarquables dans tous les domaines et particulièrement dans la santé, ce qui était l’un des soucis premiers de Descartes.

Michel Serres évoque dans  Petite poucette, la naissance d’une nouvelle génération d’humains nés avec l’ère digitale qui vont développer de nouvelles capacités cognitives.

La technique n’est plus naturelle mais elle est devenue une seconde nature qui s’impose à lui et avec lequel il va devoir composer.

Voici des jeunes gens auxquels nous prétendons dispenser de l’enseignement, au sein de cadres datant d’un âge qu’ils ne reconnaissent plus: bâtiments, cours de récréation, salles de classe, amphithéâtres, campus, bibliothèques, laboratoires, savoirs même.. cadres datant, dis-je, d’un âge et adaptés à une ère où les hommes et le monde étaient ce qu’ils ne sont plus.

Ces enfants habitent donc le virtuel. Les sciences cognitives montrent que l’usage de la Toile, la lecture ou l’écriture au pouce des messages, la consultation de Wikipédia ou de Facebook n’excitent pas les mêmes neurones ni les mêmes zones corticales que l’usage du livre, de l’ardoise ou du cahier. Ils peuvent manipuler plusieurs informations à la fois. Ils ne connaissent, ni n’intègrent, ni ne synthétisent comme nous leurs ascendants.
Ils n’ont plus la même tête.

Néanmoins, les modifications apportées par la technique ont transformé le monde et sans doute aussi l’homme…

Au XIXe siècle, au moment de la révolution industrielle, la mécanisation du travail, la substitution de la machine au geste humain a souvent déshumanisé ce travail. Marx dénoncera cette aliénation de l’homme, de l’ouvrier par la machine. C’est la vision donnée par Charlie Chaplin dans Les Temps modernes. La technique devient un asservissement pour l’homme et particulièrement avec le taylorisme puis le fordisme  

Hannah Arendt montre dans Condition de l’homme moderne, que la machine oblige l’homme à suivre sa cadence de jour comme de nuit. L’outil de libération ne deviendrait-il pas asservissement ?

La machine, contrairement aux outils, impose aux hommes un rythme et une adaptation. 

 On ne s’était jamais demandé si l’homme était adapté ou avait besoin de s’adapter aux outils dont il se servait : autant vouloir l’adapter à ses mains. Le cas des machines est tout différent. Tandis que les outils d’artisanat à toutes les phases du processus de l’œuvre restent les serviteurs de la main, les machines exigent que le travailleur les serve et qu’il adapte le rythme naturel de son corps à leur mouvement mécanique. Cela ne veut pas dire que les hommes en tant que tels s’adaptent ou s’asservissent à leurs machines ; mais cela signifie bien que pendant toute la durée du travail à la machine, le processus mécanique remplace le rythme du corps humain. L’outil le plus raffiné reste au service de la main qu’il ne peut ni guider ni remplacer. La machine la plus primitive guide le travail corporel et éventuellement le remplace tout à fait.

Hannah Arendt, Condition de l’homme moderne, 1958, trad. G. Fradier, Calmann-Lévy, 1961.

 

Pour Martin Heidegger, l’avènement de la technique constitue le phénomène central des temps modernes.

Mais elle présente un danger majeur, empêcher l’homme de concevoir le monde autrement que comme un stock d’énergie à exploiter. C’est-à-dire le priver d’un rapport sacré au réel comme dans la religion ou même dans l’art.

Si l’homme en vient à oublier ces autres modes de relation au monde, il sera alors aliéné par la technique, et il en perdra, pour Heidegger, son essence – il ne sera plus véritablement un homme.

Et il subira le même sort que la nature,  sera comme un simple objet pour la volonté. La volonté de maîtriser le monde n’est plus désormais au service d’une émancipation de l’humanité, mais elle se retourne contre l’homme lui-même. « L’homme suit son chemin à l’extrême bord du précipice, il va vers le point où lui-même ne doit plus être pris que comme fonds disponible ». Heidegger illustre ce danger avec les camps d’extermination, une mise en œuvre de la technique qui a précisément appliqué à l’homme l’approche technicienne du monde.

Le plan D’Auschwitz-Birkenau est …inhumain mais parfaitement ordonné

C’est l’exemple par excellence de la technique mise au service de l’inhumanité.

Jacques Ellul rapporte dans une interview les propos du directeur du camp de Bergen-Belsen au procés de Nuremberg à qui on demandait s’il n’était pas effrayé par tous ces cadavres. Il aurait répondu : « Mais que voulez-vous ! Les fours crématoires étaient insuffisants. Je n’arrivais pas à bruler tous les cadavres et ça me créait des difficultés extraordinaires..Je n’avais pas le temps de penser aux gens qui mourraient. Moi ce qui m’interessait, c’était le problème technique de mes fours crématoires.

Le XX° voit donc un renversement de la raison ; Il y a dissociation entre progrès technique et progrès moral.

Ellul y voit l’exemple extrême de l’homme totalement irresponsable qui n’a qu’une tache technique à faire et que le tout le reste n’intéresse pas…

Une technique autonome : certaines techniques apparaissent, prolifèrent sans qu’aucune demande  préalable ne précède leur réalisation, et ne sont accompagnées d’aucune   réflexion sur leurs buts.  

 Depuis l’invention du GPS, combien d’entre nous font encore appel à leur sens de l’orientation ? On attend de la Machine qu’elle  nous conduise là où nous voulons aller…Les machines plus douées que nous, nous dispensent de développer nos aptitudes…  

La question qu’on finit par se poser, c’est de savoir si le progrès techniques est toujours au service des valeurs supérieures de l’humanité   (La liberté , le bonheur, la paix, l’égalité….) ou s’il n’est pas  devenu à lui-même sa propre fin … Sans compter les effets collatéraux de ce progrès :   pollution, destruction des équilibres naturels …

L’esclavage de l’homme à l’heure de la société technicienne

La technique n’est plus aujourd’hui seulement un outil   permettant à l’homme de se dépasser, Elle est désormais dotée d’une autonomie qui tient l’homme en esclavage.(Ellul)  

 Pour Ellul écrit dans La technique, « Le phénomène technique est la préoccupation de l’immense majorité des hommes de notre temps de rechercher en toutes choses la méthode absolument la plus efficace » . Ainsi, la modernité se caractérise par l’accession progressive au monopole d’un seul et unique critère de jugement, l’efficacité.

Mais cette course à l’efficacité modifie la société et les hommes. La technique est ce qui permet de  « transformer toute chose en moyen ». Par ailleurs, toute découverte en appelle d’autres …et la technique croit par elle-même.

Elle modifie l’homme et la société parce qu’en développant l’automatisation, elle aliène l’homme, donne à l’Etat une place grandissante puisque la technique moderne ne peut se répandre sans son soutien. Et trop de technique peut vite faire basculer l’État démocratique en un État totalitaire (voir Chine).

Par la technologie, l’Etat   intervient alors dans tous les domaines (armement, communication, santé, transports, réseaux électriques, etc.) et tente de diriger l’opinion par une propagande qui ne dit pas son nom.  

Günter Anders, dans L’Obsolescence de l’homme (1956)traite notamment du   décalage entre la perfection des machines et la faiblesse humaine. Le titre de L’Obsolescence de l’homme indique déjà qu’il y a quelque chose de périmé en l’homme, quelque chose hors sujet, à savoir son humanité. L’homme perd ses caractéristiques qui constituaient en propre son humanité : la liberté, la responsabilité, la capacité d’agir, la capacité à se faire être. 

Anders se demande à partir des années 1940 dans quelle mesure nous vivons l’époque historique qui réalise l’obsolescence de l’homme par la technique, mû par une certitude : « Le Sujet de la liberté et celui de la soumission sont intervertis ; les choses sont libres, c’est l’homme qui ne l’est pas. » Il réalise que l’homme n’est plus entouré «d’abeilles, de crabes et de chimpanzés, mais de postes de radio et d’usines »1. Dès le début des années 1940, il bâtit une œuvre envisageant l’homme, non plus du point de vue de la nature, mais de la technique.

Il cherche à penser la technique alors même que l’homme se dote des moyens de son propre anéantissement :  Auschwitz puis Hiroshima qui  marquent l’avènement de la techno-science.  

Pour lui, la technique fonctionne à partir de la fameuse loi de Gabor : « ce qui peut être fait doit l’être, inéluctablement ». Tant que l’on peut avoir la dernière version de l’homme, on doit le faire, et honte à ceux qui ne s’adaptent pas ! C’est ce qu’Anders appelle « la honte prométhéenne ».

 Dennis Gabor (1900-1979), ingénieur et physicien d’origine hongroise est l’inventeur de l’holographie (Nobel de physique en 1971)., a donné son nom à une loi affirmant que « ce qui peut être fait techniquement le sera nécessairement ». En réalité, il critiquait avec cette phrase le progrès fulgurant des techniques au XXe siècle et leur application aveugle dans le milieu industriel afin de tirer toujours plus de profit, sans se soucier des conséquences éthiques.     

Aujourd’hui, ce sont les penseurs technocritiques qui refusent que l’on réalise tout le champ du possible au nom de la rentabilité économique. Les solutions techniques que nous développons peuvent engendrer des doutes quant à leur intérêt social ou éthique.

« Rien ne nous aliène à nous-mêmes et ne nous aliène le monde plus désastreusement que de passer notre vie, désormais presque constamment, en compagnie de ces être faussement intimes, de ces esclaves fantômes que nous faisons entrer dans notre salon d’une main engourdie par le sommeil – car l’alternance du sommeil et de la veille a cédé la place à l’alternance du sommeil et de la radio – pour écouter les émissions au cours desquelles, premiers fragments du monde que nous rencontrons, ils nous parlent, nous regardent, nous chantent des chansons, nous encouragent, nous consolent et, ne nous détendant ou nous stimulant, nous donnent le la d’une journée qui ne sera pas la nôtre. Rien ne rend l’auto-aliénation plus définitive que de continuer la journée sous l’égide de ces apparents amis : car ensuite, même si l’occasion se présente d’entrer en relation avec des personnes véritables, nous préférons rester en compagnie de nos portable chums, nos copains portatifs, puisque nous ne les ressentons plus comme des ersatz d’hommes mais comme de véritables amis ».

Blade Runner,  film américain de Ridley Scott, 1982  

L’histoire se déroule en novembre 2019, à Los Angeles, au climat pluvieux et où la quasi-totalité de la faune a disparu. La population est encouragée à émigrer vers les colonies situées sur d’autres planètes. Les animaux sont artificiels et il existe également des androïdes, des robots (en fait des humains fabriqués par manipulations génétiques) à l’apparence humaine aussi appelés « réplicants » (parfois orthographié « répliquants »). Ceux-ci sont plus ou moins considérés comme des esclaves modernes, qui sont utilisés pour les travaux pénibles ou dangereux, dans les forces armées ou comme objets de plaisir.

Les réplicants sont fabriqués par la seule Tyrell Corporation, dirigée par Eldon Tyrell, dont le siège est installé dans une haute et massive tour pyramidale qui domine la ville. Ils sont créés à partir de l’ADN humain mais ne sont ni des clones, ni des robots. Après une révolte sanglante et inexpliquée des réplicants dans une colonie martienne, ils sont interdits sur Terre. Des unités policières spéciales, les blade runners, interviennent pour faire respecter la loi pour les contrevenants androïdes. Ils ont donc l’autorisation de tuer n’importe quel réplicant en situation irrégulière. On appelle cela un « retrait ». Toutefois, les androïdes les plus modernes sont difficiles à distinguer des humains. Les blade runners doivent alors enquêter longuement afin d’avoir la certitude qu’il s’agit bien d’un androïde avant de le mettre hors circuit. (wikipedia)

« La science a fait de nous des dieux avant d’être des hommes », Jean Rostand

 

La technique nécessite « un supplément d’âme »…

Henri Bergson, ( –,  philosophe français.  Bergson est élu à l’Académie Française en 1914 et il reçoit le prix Nobel de littérature en 1927.

Bergson : « la mystique appelle la mécanique »

Grace à la technique, l’homme peut satisfaire ses besoins et libérer du temps à son épanouissement moral. Mais aujourd’hui selon Bergson, la finalité de la technique a été détournée.

Plus que de satisfaire les besoins de tous, la technique sert la satisfaction de seulement quelques-uns ; il y a eu rupture d’équilibre

L’expansion de la technique, c’est l’expansion du corps mais dans la démesure depuis 19°

 C’est une chance que  l’homme n’a pas su saisir car à ce supplément du corps l’homme ,  n’a pas su associer un supplément d’âme. Le corps a pris des proportions gigantesques et l’âme est restée la même, donc l’âme ne réussit plus à soumettre le corps à ses exigences morales. L’âme dois donc faire un travail pour ne plus générer d’inégalités. (Exemple médecine : à tous ou à certains ?)

Agriculture intensive

« L’homme ne se soulèvera au-dessus de terre que si un outillage puissant lui fournit le point d’appui. Il devra peser sur la matière s’il veut se détacher d’elle. En d’autres termes, la mystique appelle la mécanique. On ne l’a pas assez remarqué, parce que la mécanique, par un accident d’aiguillage a été lancée sur une voie au bout de laquelle étaient le bien-être exagéré et le luxe pour un certain nombre, plutôt que la libération pour tous. Nous sommes frappés du résultat accidentel, nous ne voyons pas le machinisme dans ce qu’il devrait être, dans ce qui en fait l’essence 

Allons plus loin. Si nos organes sont des instruments naturels, nos instruments sont par là même des organes artificiels. L’outil de l’ouvrier continue son bras ; l’outillage de l’humanité est donc un prolongement de son corps. La nature, en nous dotant d’une intelligence essentiellement fabricatrice, avait ainsi préparé pour nous un certain agrandissement. Mais des machines qui marchent au pétrole, au charbon, à la «houille blanche » et qui convertissent en mouvement des énergies potentielles accumulées pendant des millions d’années, sont venues donner à notre organisme une extension si vaste et une puissance si formidable, si disproportionnée à sa dimension et à sa force, que sûrement il n’en avait rien été prévu dans le plan de structure de notre espèce : ce fut une chance unique, la plus grande réussite matérielle de l’homme sur la planète. Une impulsion spirituelle avait peut-être été imprimée au début : l’extension s’était faite automatiquement, servie par le coup de pioche accidentel qui heurta sous terre un trésor miraculeux 

Or, dans ce corps démesurément grossi, l’âme reste ce qu’elle était, trop petite maintenant pour le remplir, trop faible pour le diriger. D’où le vide entre lui et elle. D’où les redoutables problèmes sociaux, politiques, internationaux, qui sont autant de définitions de ce vide et qui, pour le combler, provoquent aujourd’hui tant d’efforts désordonnés et inefficaces : il y faudrait de nouvelles réserves d’énergie potentielle, cette fois morale. 

Ne nous bornons donc pas à dire, comme nous le faisions plus haut, que la mystique appelle la mécanique. Ajoutons que le corps agrandi attend un supplément d’âme, et que la mécanique exigerait une mystique. Les origines de cette mécanique sont peut-être plus mystiques qu’on ne le croirait ; elle ne retrouvera sa direction vraie, elle ne rendra des services proportionnés à sa puissance, que si l’humanité qu’elle a courbée encore davantage vers la terre arrive par elle à se redresser, et à regarder le ciel. »

Henri Bergson, Les Deux Sources de la morale et de la religion (1932), PUF, coll. «Quadrige», 1984, p. 329-331.

 

 

Vidéo Arte, Hiroshima, aout 1945

Pour une éthique moderne

La technique était censé apporter  à l’humanité une amélioration de sa qualité de vie. C’est vrai pour beaucoup mais pas pour tout le monde….

Aujourd’hui, on estime que la faim tue  environ  25 000 personnes par jour, dont 10 000 enfants. Pourtant nous polluons l’environnement avec des engrais chimiques, des OGM pour que ça pousse plus vite plus grand plus fort… On est quand même en droit de se demander acquis au service de qui est la technique. L’augmentation de la qualité et de l’espérance de vie ne concerne qu’une toute petite minorité. La science n’a pas su instaurer un principe d’expertise contradictoire, moduler ses objectifs en faveur de l’intérêt du plus grand nombre, et elle se fourvoie lentement.

Edgar Morin    : “l’éthique est en cours de tarissement“. Pourquoi ? Parce que, dans notre civilisation individualiste, on a perdu ce qui, dans une civilisation traditionnelle, religieuse, théocratique, constituait le fondement, comme le commandement divin. (…) Aussi, j’ai cherché les sources de l’éthique plutôt que ces fondements. À mon sens, il y en a deux : la solidarité et la responsabilité.

Article Philomagazine

« Quelles limites fixer à l’amélioration génétique de l’être humain ? » C’est la question, chaque jour plus pressante à mesure que les techniques progressent, que pose la philosophe anglaise Tess Johnson dans The Conversation (en anglais). Et elle déplace le problème de la question de l’intégrité corporelle à celle de la justice sociale. Ce que nous devons surtout redouter, c’est que les améliorations génétiques deviennent des « biens positionnels » avantageant une minorité. « Un exemple typique de bien positionnel lié à l’amélioration est la taille. Il a été démontré, en particulier pour les hommes, qu’être plus grand est associé à l’obtention de meilleurs résultats dans la vie », tout en générant des inconvénients (consommation accrue de nourriture, arthrose, etc.) « Si tout le monde avait accès à une technologie d’amélioration permettant d’augmenter sa taille, les avantages économiques qu’un individu pourrait espérer tirer de sa stature n’existeraient plus, puisque tout le monde serait également plus grand. Les inconvénients liés à la grande taille dépasseraient les avantages que celle-ci aurait pu procurer. » Les modifications génétiques que nous devons valoriser doivent permettre un « bénéfice collectif », y compris si elles sont généralisées à l’ensemble de la société. 

Pourquoi c’est captivant ? Parce que, plutôt que d’aborder de front les questions bioéthiques, Johnson aborde l’édition génétique par l’angle de la justice.

La nature a longtemps été menaçante, elle est aujourd’hui menacée !

La technique moderne augmente  le pouvoir de l’action humaine jusqu’à menacer l’écosystème globale de la terre. Cela impose à l’homme une nouvelle responsabilité.

 Les progrès des sciences et des techniques ont été exponentielles depuis le 19° mais particulièrement à partir de 1945. L’homme est désormais doté d’une puissance inégalée sur la nature et les autres espèces vivantes. L’homme peut détourner un fleuve, aller dans l’espace, détruire une ville en quelques secondes, remplacer un organe, communiquer en « live » avec le monde entier…et même reproduire la puissance du soleil ( près d’Aix en Provence , Iter, 35 pays* sont engagés dans la construction d’ une machine qui doit démontrer que la fusion — l’énergie du Soleil et des étoiles — peut être utilisée comme source d’énergie à grande échelle, non émettrice de CO2, pour produire de l’électricité)…

Notre environnement, le fond des océans et même l’espace sont devenues les poubelles de la terre, poubelles chargées de substances toxiques qui mettent parfois des millénaires à disparaitre…

On a en même temps des déforestations et dévastations de toutes sortes qui touchent le monde végétal et le monde animal avec la disparition de nombreuses espèces. Et puis l’homme lui-même auquel la biologie s’intéresse beaucoup…

Ce qui fait que l’homme est devenu une menace non seulement pour lui-même mais pour la biosphère tout entière.   (Tchernobyl/Fukushima…)  

Alors peut-être est-il temps de ne plus suivre la loi de Gabor…et de ne pas faire tout ce que l’on peut faire ! et peut-être temps aussi de réfléchir à une nouvelle éthique, et de prendre nos responsabilités.

Par ses actions il est donc responsable à la fois de la biosphère et des générations futures.

déforestation de l'Amazonie
Projet ITER-2025
Mutation de papillons 6 mois après l'accident de Fukushima

Hans Jonas est né en Allemagne, élève de Husserl et de Heidegger, il a été professeur à Jérusalem, au Canada, à New York et à Munich. Son principal ouvrage: Le Principe responsabilité́, paru en 1979, a connu un succès exceptionnel dans le monde entier, mais il a également suscité d’assez vives polémiques

 « Le Prométhée définitivement déchaîné, auquel la science confère des forces jamais encore connues et l’économie son impulsion effrénée, réclame une éthique qui, par des entraves librement consenties, empêche le pouvoir de l’homme de devenir une malédiction pour lui. La thèse liminaire de ce livre est que la promesse de la technique moderne s’est inversée en menace, ou bien que celle-ci s’est indissolublement liée à celle-là. Elle va au-delà du constat d’une menace physique. La soumission de la nature destinée au bonheur humain a entraîné par la démesure de son succès, qui s’étend maintenant également à la nature de l’homme lui-même, le plus grand défi pour l’être humain que son faire ait jamais entraîné. »

Hans Jonas, Préface, Le principe de responsabilité, Éthique pour la civilisation technologique.

  

Hans Jonas dans le principe de responsabilité–une éthique pour la civilisation technologique énonce ce principe de responsabilité. Pour Jonas, notre connaissance n’a cessé de grandir et avec elle a grandi notre puissance.

Mais puisque l’homme est libre et connaissant, alors, il est responsable.

 La responsabilité́ marque la nature du lien que l’homme entretient avec ses actes.  Et la question sera aussi de savoir si nous ne sommes responsables que des actes que nous avons directement commis  ?

« La planète est surpeuplée, nous nous sommes trop étendus, nous avons pénétré trop profondément l’ordre des choses. Nous avons par trop bouleversé l’équilibre, et d’ores et déjà condamné à l’extinction trop d’espèces. La technique et les sciences de la nature nous ont fait passer de l’état de sujets dominés par la nature à celui de maîtres de la nature. C’est cette situation qui m’a incité à dresser un bilan philosophique et à poser la question suivante : compte tenu de sa nature morale, l’homme a-t-il le droit de tolérer un tel état de choses ? Ne sommes-nous pas désormais appelés à une sorte d’obligation radicalement nouvelle, à quelque chose qui n’existait pas autrefois, à savoir, assumer notre responsabilité à l’égard des générations à venir et de l’état de la nature sur terre ? »

Une éthique pour la nature , Hans Jonas

Il est indéniable qu’ au cours de ces dix ou vingt dernières années, une conscience de l’environnement inédite a vu le jour. En outre, les semonces nous viennent directement de la nature. Ce que nous avons enduré jusqu’à présent, la mort des forêts, Tchernobyl, n’était rien encore : quelque chose de bien pire nous attend.

Jonas s’inquiète de l’effet cumulatif de l’ensemble des technologies utilisées de manière pacifique dans notre vie quotidienne plus que du nucléaire.

Cette technologie sur laquelle repose notre confort, dégrade l’environnement et   va jouer sur le long terme un effet bien plus catastrophique. Il s’agit pour lui d’une « apocalypse rampante » et  pour l’éviter nous avons le devoir de limiter ou d’interdire l’utilisation de certaines technologies. Il nous faut aussi repenser nos modes de production, nous extraire de la surconsommation. Bref il nous faut de nouvelles règles de vie compatible avec un nouvel impératif moral : « agis de façon que les effets de ton action soit compatible avec la permanence d’une vie authentiquement humaine sur terre »(Jonas)

L’impératif de Kant[1]   concernait  l’universalisme de l’action de l’homme, celui de Jonas s’étend à notre monde et à son avenir.

Désormais il nous faut prévoir et anticiper les conséquences de nos choix.

Mais H. Jonas ne se fait pas beaucoup d’illusion sur la bonne volonté des hommes. Aussi pour que les hommes accèdent à cette responsabilité « prévisionnelle », il table sur la peur  que peuvent générer des catastrophes telles que celle de Tchernobyl ou Fukushima. 

[1] « Agis de telle sorte que la maxime de ton action puisse être érigée par ta volonté en une loi universelle ; agis de telle sorte que tu traites toujours l’humanité en toi-même et en autrui comme une fin et jamais comme un moyen ; agis comme si tu étais à la fois législateur et sujet dans la république des volontés libres et raisonnables. »

Pollution sur Hong Kong
Agadir : inquiétude après la mort mystérieuse de centaines de poissons à Oued Massa

«  Il est beaucoup plus probable que la peur obtienne ce que la raison n’a pas obtenu et qu’elle parvienne à ce à quoi la raison n’est pas parvenue. Paradoxalement, l’espoir réside à mes yeux dans l’éducation par l’intermédiaire des catastrophes ».

Seules des catastrophes pourront nous imposer de modifier nos habitudes de vie, nous faire renoncer à la frénésie de la consommation au profit d’un idéal supérieur, l’aspiration vers le futur, car « qui n’est pas directement menacé ne se décide pas à réformer radicalement son mode de vie. En revanche quand la menace se fait pressante, il en va autrement, tant sur le plan individuel, que collectif ».

Aujourd’hui les menaces qui pèsent sur les générations à venir ne semblent malheureusement pas assez pressantes et ne suffisent pas à inciter les hommes à modifier leurs comportements.

« L’euphorie du rêve faustien s’est dissipé et nous nous sommes réveillés dans la lumière diurne et froide de la peur. Il ne faut pourtant pas céder au fatalisme., la panique apocalyptique ne doit jamais nous faire oublier que la technique est l’oeuvre de notre propre liberté humaine et que ce sont les actions engendrées par cette liberté qui nous ont conduit au point où nous en sommes actuellement. Et ce sont lesdites actions qui décideront de l’avenir global qui, pour la première fois, est aux mains de cette même liberté – laquelle subsiste en dépit des contraintes qu’elle se crée en continuant en emprunter la même voie-. » Hans Jonas, Technique, liberté et obligation , 1987

Mais respecter le principe de responsabilité de Jonas pose de nombreuses questions et de nombreux problèmes… la transition écologique suppose notamment des pertes d’emplois qu’il faudrait anticiper dans la formation des nouveaux métiers. Se pose aussi la question des pays les plus pauvres auxquels on ne peut pas imposer brutalement cette transformation…la liste n’est évidemment pas exhaustive !

Par ailleurs,   si l’ouvrage de Hans Jonas pose avec netteté et profondeur les questions les plus sensibles de notre temps, il a suscité également des objections de taille, et nourrit même, à son tour, de nouvelles inquiétudes.

N’est-il pas aléatoire et même dangereux de vouloir fonder une éthique” sur la peur, comme le recommande explicitement Hans Jonas ?

Prétendre que nous avons des devoirs envers la nature, cela ne revient-il pas à sacraliser celle-ci, ou encore à confondre être et devoir être ? Pourquoi faut-il qu’il y ait un monde animé, une humanité, plutôt que le néant?

Et enfin, plus prosaïquement devrons-nous, avec Hans Jonas (confère Le Principe responsabilité 1979), préconiser, puis soutenir, une « dictature bienveillante », seule susceptible d’appliquer fermement une véritable politique de responsabilité ?

C’est aussi à partir de Jonas que nait le principe de précaution

Le principe de précaution suppose un accord préalable et collectif sur les risques que nous sommes prêts à prendre. Il faut   être averti des risques, les évaluer pour pouvoir éventuellement les contenir. C’est un travail de recherche.

La dérive du principe de précaution, ce serait la recherche du risque zéro. Cela est impossible la vie elle-même est un risque…

 

Peut-on faire confiance à l'intelligence artificielle ?

Source Philosophie Magazine

S’en remettre à des machines et à des systèmes d’aide à la décision peut poser de gros problèmes éthiques. Et les programmes ont beau disposer d’une logique «froide», ils ne sont pas exempts de préjugés…

« Les féministes devraient toutes brûler en enfer » et « Hitler aurait fait un meilleur boulot que le singe actuel »1, psalmodiait en mars 2016 le chatbot de Microsoft, Tay, dès son premier jour d’immersion sur Twitter, Snapchat, Kik et GroupMe, apprenant en deep learning comment parler avec les « djeun’s ». Entraînée par les internautes qui s’amusaient à la faire déraper, l’intelligence artificielle (IA) twitteuse a même fini par nier l’existence de l’Holocauste. Piteuse vitrine de l’apprentissage machine, Tay a été mise hors circuit par ses concepteurs au bout de quelques heures. Mais que se passerait-il si on déléguait à des IA et autres algorithmes des décisions importantes ?

Une aide à la décision

En vérité, banques, sociétés d’assurances et directions des ressources humaines peuvent déjà tester d’efficaces systèmes d’aide à la décision pour gérer des patrimoines, calculer des primes et sélectionner des CV. Des voitures autonomes arpentent depuis des années les routes de Californie. Tandis que l’algorithme d’admission post-bac (qui a conduit au tirage au sort de certains bacheliers de la promotion 2017 pour une place en fac) n’a pas fini de faire grincer des dents. « Pour un film ou des chaussettes, ça m’est égal de recevoir des conseils de systèmes d’aide à la décision, mais je trouve plus gênant qu’ils orientent mes lectures vers des sites d’information qui peuvent conditionner mes opinions, voire être complotistes », commente Serge Abiteboul, chercheur au département d’Informatique de l’École normale supérieure2. « Et lorsqu’on se fie aux algorithmes et à l’IA (algorithme sophistiqué “simulant” l’intelligence) pour prendre des décisions qui ont de lourdes conséquences dans la vie des êtres humains, cela pose clairement des problèmes éthiques », complète-t-il.

En la matière, la libération sur parole des détenus américains est un exemple étonnant. « Il a été démontré que la probabilité d’être libéré est très supérieure si vous passez devant le juge après déjeuner plutôt que juste avant », informe Serge Abiteboul. Des algorithmes, exempts du « syndrome » du ventre vide, ont été testés en parallèle. « Comparer leurs performances est facile car, aux États-Unis, la libération sur parole ne dépend que d’un seul paramètre : le risque que la personne s’enfuie ou récidive. » Résultat du match : « Statistiquement, l’algorithme gagne haut la main et permet dans ce cas-là une justice aveugle ne tenant compte que des faits objectifs », commente le chercheur. Mais jusqu’où aller ? Si des systèmes perfectionnés permettaient de juger d’autres cas, accepteriez-vous la décision d’une machine ?

Ce n’est pas un problème purement philosophique. En déléguant nos décisions aux algorithmes et à l’intelligence artificielle, nous ne perdons pas seulement notre dignité humaine (ce qui n’est pas rien !) : ces systèmes ont eux aussi leurs failles. « Le deep learning, technique parmi d’autres en intelligence artificielle, est à la fois celle qui occasionne le plus d’applications spectaculaires et qui présente un inconvénient majeur : on ne sait pas en expliquer les résultats. Ce sont des réseaux de neurones qui fonctionnent comme des boîtes noires », souligne Sébastien Konieczny, chercheur au Centre de recherche en informatique de Lens3. Avec cette forme d’intelligence artificielle en effet, on ne reconnaît pas un chat parce qu’« il a deux oreilles, quatre pattes, etc. » (raisonnement humain composé de règles et dicté à la machine), mais parce qu’il ressemble à une foultitude d’autres chats dont on aura fourni les images à la machine pour l’« entraîner ». Quant à savoir quelles ressemblances font tilt pour celle-ci, mystère et boule de gomme.

« Or, il serait bon d’expliquer les raisons qui président aux choix importants, afin d’être en mesure de les justifier. Et garantir ainsi à chacun un traitement équitable », rappelle Raja Chatila, directeur de l’Institut des systèmes intelligents et de robotique4. Pourrait-on rendre ces systèmes plus transparents ? « Il y a des recherches sur “l’explicabilité” de ces boîtes noires, notamment financées par la DARPA »5, répond le chercheur. « Mais les réseaux de neurones ne sont que des calculs numériques : je ne vois pas comment on pourrait en extraire des concepts », observe Sébastien Konieczny. Or, personne n’acceptera de se voir refuser un prêt ou un poste intéressant à cause de la connexion 42 du réseau de neurones hélas inférieure à 0,2…

Les machines « contaminées » par nos préjugés

Pire encore : les machines ont beau disposer d’une logique froide, elles n’échappent pas aux préjugés. En matière d’apprentissage, « Tay-la-révisionniste » n’est pas la seule mauvaise élève. En avril 2017, la revue Science révélait les catastrophiques stéréotypes racistes et sexistes de GloVe, une intelligence artificielle « nourrie » de 840 milliards d’exemples piochés sur le Web en quarante langues différentes dans le but de faire des associations de mots. « Si un système est entraîné sur une masse de données issues de discours humains, rien d’étonnant à ce qu’il en reproduise les biais », indique Sébastien Konieczny.

Même problème pour les prêts bancaires. « Le système peut apprendre à partir des dix années précédentes à qui l’on a accordé un prêt et à quel taux, selon son salaire, sa situation familiale, etc. Mais il reproduira les biais des décisions humaines de cette période : alors si les minorités ethniques payaient des intérêts plus élevés par exemple, cette injustice se perpétuera », souligne Serge Abiteboul. « Le concepteur de ces systèmes n’est pas seul en cause, celui qui l’entraîne est également responsable en cas de dérive », complète le chercheur. Or, il sera impossible d’anticiper tous les biais potentiels. En particulier pour les systèmes conçus pour apprendre en permanence afin de s’améliorer, comme « Tay-la-langue-de-vipère » qui se modifiait en imitant ses malicieux interlocuteurs. Avant de déployer le deep learning à grande échelle, il serait bon de lui inculquer quelques règles « morales ».

« Dans un réseau de neurones, méthode purement numérique, on ne peut ni coder ni dicter de règles d’éthique, comme imposer que le résultat ne dépende pas du sexe, de l’âge, de la couleur de peau… Mais c’est possible avec une approche symbolique qui, elle, est faite de règles rédigées par le programmeur », commente Sébastien Konieczny. « Une solution serait d’hybrider les systèmes d’apprentissage avec des prescriptions que la machine serait contrainte de respecter », complète Jean-Gabriel Ganascia, président du Comité d’éthique du CNRS et chercheur au Laboratoire d’informatique de Paris 66 (lire l’encadré  ci-dessous). « Notez que l’on ignore si c’est possible techniquement car les deux approches sont intrinsèquement différentes, souligne Sébastien Konieczny. C’est justement l’un des gros défis à venir en intelligence artificielle. »

Autre question à résoudre : qui décidera des règles à implémenter ? « Certainement pas les informaticiens, répond Serge Abiteboul. « Ce ne devrait pas être à eux de décider comment mettre au point l’algorithme qui calcule le sort des bacheliers, tout comme ce ne devrait pas être à Google de décider d’interdire des sites extrémistes ou de fake news, déplore le chercheur. Le monde numérique s’est développé si vite qu’il en est encore au stade du western : les injustices foisonnent, l’État ne comprend pas assez bien pour légiférer correctement, et les citoyens sont perdus, résume-t-il. La loi relative au renseignement de juillet 2015 en est un tragique exemple. La majorité des informaticiens étaient contre car ils en comprenaient les conséquences. Politiques et citoyens qui l’ont votée ou laissé voter peuvent ne pas être d’accord avec nous, bien sûr, mais je doute que ce soit en connaissance de cause », regrette-t-il.

« Pour ce qui est de l’intelligence artificielle et de certaines recherches dans le numérique, il faudrait créer des comités d’éthique opérationnels spécifiques, à l’image de ceux qui, en biologie par exemple, nous aident à évaluer les limites à ne pas dépasser et cadrer certains travaux face aux dérives qu’ils engendreraient », complète Raja Chatila, qui est aussi membre de la Cerna7. Mais le temps de la réflexion est souvent plus long que celui de l’innovation technologique. Au sujet de la très médiatique voiture autonome, une logique utilitariste (sauver le plus de personnes possible quitte à sacrifier le conducteur), elle-même discutable, aura sans doute du mal à faire le poids face aux logiques de vente : en 2016, un responsable de Mercedes annonçait ainsi qu’il fallait protéger les passagers en priorité. Alors que le ministère des Transports allemand, pressé de prendre position, a présenté en septembre 2017 un rapport d’experts en intelligence artificielle, en droit et en philosophie, qui recommande de donner la même valeur à tous les humains, quels que soient leur âge, leur sexe, etc.

Maintenir la responsabilité du côté des humains

En attendant les décisions et les solutions techniques pour les injecter dans les systèmes d’apprentissage, de nombreux chercheurs s’accordent sur un point : il faut laisser à l’humain la décision finale dans les cas délicats. « À part la voiture autonome et quelques autres exemples, qui nécessitent des réactions en temps réel, les résultats proposés par les systèmes d’aide à la décision autorisent presque tous le temps de la réflexion. On pourrait donc s’inspirer de la façon dont sont prises certaines décisions, dans le domaine militaire notamment, via des protocoles codifiés impliquant plusieurs acteurs », fait ainsi remarquer Jean-Gabriel Ganascia.

Reste un léger problème : on a déjà largement observé, chez les pilotes d’avion en particulier, que l’humain croit presque toujours les machines plus pertinentes que lui, grâce aux énormes quantités d’informations dont elles disposent. Dès lors, qui osera aller contre leurs verdicts ? « Si nous n’en sommes pas capables, il ne faut pas les utiliser. Nous devons prendre nos responsabilités. Et si quelqu’un se défausse sur la machine, ce sera sa décision… et il en sera responsable », insiste Raja Chatila. « On peut aussi imaginer configurer les systèmes pour qu’ils donnent plusieurs solutions, si possible avec les raisons associées et leurs conséquences (à condition que les recherches sur l’explicabilité progressent), et laisser l’humain choisir parmi elles », propose Sébastien Konieczny. Mais pas question de démissionner. Sinon nous pourrions finir comme les humains du roman de Pierre Boulle8, devenus trop paresseux et trop bêtes pour conserver leur autonomie et leur liberté à force de laisser travail et responsabilités aux singes…

Là est bien le danger. Pas dans les fantasmes made in Hollywood de prise de pouvoir par des machines rebelles et malveillantes. « Cela correspond à ce qu’on appelle la “singularité”, cela n’a aucun fondement scientifique et ce n’est pas près d’arriver, contrairement à ce que prétendent certains cadors de l’industrie numérique et transhumanistes. Le véritable danger, c’est nous ! Lorsque, par ignorance ou par facilité, nous déléguons les décisions et notre autonomie à la machine, martèle Jean-Gabriel Ganascia. Laisser les agents autonomes ultra–rapides aux commandes de la Bourse a ainsi sans doute conduit à la crise de 2008. Mais il y a une confusion à cause du terme “autonome” : au sens technique, cela ne veut pas dire qu’une machine définit ses propres objectifs. Cela veut seulement dire qu’elle peut atteindre sans intervention humaine un objectif donné, celui-ci ayant bel et bien été fixé par l’humain-programmeur. »

Les robots ne sont ni gentils ni méchants et n’ont pas le moindre projet personnel. Ils font ce qu’on leur a dit de faire. Et nous pouvons les débrancher si certains effets pervers non prévus apparaissent en cours de route. « Les peurs irrationnelles de prise de pouvoir par les machines masquent des enjeux politiques et économiques majeurs », reprend Jean-Gabriel Ganascia. « L’asservissement à la machine est bien moins important que l’asservissement à la compagnie privée qui la contrôle », souligne-t-il. Le chercheur s’inquiète du glissement du pouvoir des États vers les big companies, fortes de milliards de données sur les citoyens, et bientôt plus encore via les futures applications dotées d’IA analysant tous nos comportements pour mieux nous assister. « Et tout ça en se cachant derrière un pseudo-moratoire sur l’éthique »9, s’agace le chercheur. Politiques, industriels, citoyens, il est urgent que chacun s’y intéresse, pour être en mesure de décider des limites éthiques à poser et bâtir le meilleur des mondes numériques possible. ♦

 
Des robots au banc des accusés ?

Si une voiture autonome a un accident, qui est responsable ? « La responsabilité dérive de la notion de personnalité juridique », explique Jean-Gabriel Ganascia. Dans deux des textes qui se mêlent de robotique en Europe10, on propose d’en donner une aux machines les plus sophistiquées (le texte évoque une « personnalité électronique »). Objectif : leur faire rembourser les dommages qu’elles ont causés (sauf cas grave ou mortel qui relèvent du pénal). « Dans ce cas, pour indemniser les victimes, il faudra créer un fonds assurantiel alimenté par les entreprises qui fabriquent ou possèdent les machines », explique-t-il, car les robots eux-mêmes sont évidemment sans le sou… « C’est vraiment la pire chose à faire, alerte le chercheur, car indemniser les victimes dans les cas mineurs a un effet pervers : on fera l’économie d’une enquête destinée à identifier les causes et à prévenir d’autres accidents, peut-être plus graves. Or, les machines autonomes impliquent des processus différents des produits classiques. »Par exemple, vous savez qu’en agitant frénétiquement un marteau en l’air, vous risquez de vous assommer, voire que le manche se démonte. Vous, comme le fabriquant, pouvez en être tenu pour responsable, mais au moins tout le monde sait à peu près à quoi s’attendre en utilisant l’outil. « Tandis qu’une machine qui apprend peut se reprogrammer de manière dynamique en fonction de l’environnement dans lequel elle évolue et de façon parfois imprévisible », rappelle le chercheur. « Au lieu d’indemniser sans enquête, il serait préférable d’analyser les causes des accidents afin de déterminer qui, de l’utilisateur, du fabriquant ou du “concessionnaire”, ayant mal entraîné le robot, est responsable »,conclut-il.
 

Programmer la « morale » en langage machine

La logique classique n’est pas d’un grand secours pour formaliser des règles d’éthique : trop rigide, elle se limite à des « vrai » ou « faux », et des « si ceci » alors « faire cela » ou au contraire « ne pas le faire ». « Or, en éthique, on se retrouve souvent coincé entre plusieurs injonctions contradictoires », explique Jean-Gabriel Ganascia. Par exemple, vous pouvez devoir mentir pour empêcher un assassinat. Ou encore franchir une ligne blanche pour éviter de renverser un piéton. « En cas de contradictions ou de dilemmes, il faudrait induire des préférences entre plusieurs “mauvaises” actions, avec des coefficients de pondération par exemple », poursuit Jean-Gabriel Ganascia. « Pour ce faire, plusieurs projets de recherche se fondent sur la logique déontique, ajoute Raja Chatila. Ses opérateurs modaux permettent de formaliser des possibilités facultatives, c’est-à-dire des actions autorisées mais qui ne seront pas forcément réalisées. On peut aussi utiliser une approche probabiliste, par exemple en tenant compte de la probabilité que ce que je distingue dans le brouillard est bien un piéton. Alors les prédicats ne sont pas soit “vrai” soit “faux” mais “peut-être vrai” ou “peut-être faux” selon une distribution de probabilité », conclut-il.

Cet article a été publié dans le numéro 3 de la revue Carnets de science.

Quelques dystopies célèbres au cinéma et en littérature

 Black Mirror

Particulièrement les 2 premiers épisode de la saison 4

La Route

La Route (The Road) est un film dramatique d’anticipation post-apocalyptique américain réalisé par John Hillcoat, sorti en 2009. Il est tiré du roman du même nom écrit par Cormac McCarthy.

BRAZIL

Sam Lowry est un bureaucrate dans un monde rétro-futuriste totalitaire. Il se contente de son travail et de sa petite vie tranquille tout en s’échappant en rêve dans un monde de héros romantiques. Son existence satisfaite, mais solitaire, est compliquée par l’arrestation brutale d’un certain Archibald Buttle, en raison d’une erreur administrative. Il tente de réparer cette injustice et doit lutter contre un système extrêmement contrôlé qui le considère de plus en plus comme un dissident.