couverture du livre

L’intelligence artificielle : vers une domination programmée ?



L'intelligence artificielle prendra-t-elle un jour le pouvoir ? L'homme doit-il avoir peur que sa création échappe à son contrôle ?

Cet ouvrage fait le point sur les risques encourus, s'attaquant aux préjugés et idées reçues.


Thématique : Intelligence artificielle


Partir des idées reçues sur l’intelligence artificielle


« Les robots nous mettront tous au chômage », « Les voitures autonomes sont programmées pour tuer leurs passagers », « L’intelligence artificielle constitue un danger existentiel majeur et inéluctable pour l’humanité. », « Grâce à l’intelligence artificielle, nous téléchargerons nos consciences et deviendrons immortels ! »… 

Autant de lieux communs que l’on entend tous les jours et qui portent tant sur l’intelligence artificielle que sur les robots programmés à l’aide de techniques d’intelligence artificielle ou sur les conséquences sociales, voire existentielles du développement de l’intelligence artificielle. Et, il en est bien d’autres. Ainsi, entend-on souvent affirmer que les militaires préparent dans leur antre secret une révolution terrifiante dans l’art de la guerre avec des armes redoutables qui choisiront d’elles-mêmes leurs cibles selon des critères échappant à l’entendement humain, ou pire, que l’on passera bientôt de l’intelligence artificielle faible à l’intelligence artificielle forte, ce qui fait frémir, sans que pour autant l’on sache très bien ce que recouvre cette dernière. À cela on devrait ajouter la substantialisation de l’intelligence artificielle, si courante aujourd’hui, qui conduit des hommes investis assurer que « les intelligences artificielles » nous dépasseront et prendront un jour le pouvoir ou, comme le dit un auteur très en vogue, que nous vivons une guerre des intelligences, intelligences humaines contre intelligences machines, dont l’issue, déjà écrite, nous sera fatale.


Prendre les lieux communs au sérieux pour y répondre


Comme tous les lieux communs, ces affirmations sont à la fois vraies et fausses, sans être ni totalement vraies, ni totalement fausses. L’objectif de cet ouvrage et d’y répondre, de façon argumentée, en rappelant d’abord — faut-il vraiment le faire ? — que, par elles-mêmes, les machines ne sont pas intelligentes ! Et, que les hommes font mine de leur attribuer de l’intelligence pour les asservir à leurs besoins. L’intelligence de l’intelligence artificielle n’est donc qu’une ruse de l’esprit. Pour autant, rien ne sert de se gausser des interrogations naïves de beaucoup de nos contemporains sur une discipline scientifique qu’ils ne connaissent pas nécessairement et dont les applications ont transformé la vie quotidienne. Cet ouvrage les affronte en tentant d’y répondre sans technicité, dans des petits textes didactiques qui devraient être utiles à beaucoup. Pour cela, outre une introduction et un historique général de l’intelligence artificielle, il part de 31 lieux communs qui font tous écho à des publications parues dans des journaux ou des ouvrages destinés au grand public. Ces lieux communs sont regroupés selon quatre catégories. 

La première traite de la généalogie de l’intelligence artificielle sous différents aspects ; son origine d’abord que l’on réfère trop souvent à Alan Turing et à son fameux test, même s’il est mort avant que le terme soit inventé ; son évolution ensuite, avec en particulier le rôle qu’on attribue parfois aux japonais et la part que prennent les GAFA dans son développement ; son futur ensuite, avec le supposé passage de l’intelligence faible, telle qu’elle existe aujourd’hui, à une intelligence artificielle dite forte ou générale.

La deuxième aborde la mise en œuvre pratique de l’intelligence artificielle avec les plus idées répandues sur le sujet, par exemple l’analogie avec le fonctionnement du cerveau, la puissance du Deep Learning, le caractère infaillible, voire artificiel des machines, ou les limites de leur fonctionnement binaire.

La troisième catégorie met en regard les capacités humaines et celles des machines, par exemple la créativité, la conscience, les émotions, l’intuition, etc. On y évoque la place des machines dans le monde des Hommes, à moins qu’il ne s’agisse de la place de l’Homme dans l’univers des machines. On a vu un tableau peint par un ordinateur se vendre à un prix conséquent. Cela suffit-il pour affirmer que les machines sont ou seront des artistes ? Prendront-elles des responsabilités ? Faudra-t-il leur donner des droits, ou tout au moins une personnalité juridique, comme le propose une résolution du parlement européen ? Devront-elles résoudre des dilemmes éthiques, comme ces voitures autonomes dont on nous affirme qu’elles auront bientôt à choisir entre condamner leur passager à une mort certaine, ou faire un carnage en écrasant des piétons qui auraient traversé par inadvertance au feu vert ? Mais, peut-être devrons nous nous réjouir, car les machines remplaceront bientôt les soldats, conservant leur sang-froid, pour ne tuer qu’à bon escient, et éviter ainsi les bavures ? À moins que l’on s’inquiète des armes autonomes qui détermineront d’elles-mêmes leurs cibles ?


L’avenir de l’intelligence artificielle, des machines et de l’Homme


Enfin, la dernière catégorie envisage l’avenir. On y évoque le futur, en particulier les craintes d’un raz-de-marée technologique qui nous submergerait tous, mettrait le monde entier au chômage, ou au contraire nous réduiraient en esclavage. Au delà du futur, il y va aussi du devenir de l’humain, en particulier du risque existentiel que ferait courir l’intelligence artificielle et que dénoncent des personnalités majeures du monde contemporain comme Stephen Hawking ou Elon Musk. À moins, qu’il ne s’agisse là d’une opportunité unique offerte à l’Homme afin qu’il s’élève à une pure spiritualité, en portant sa conscience à l’extérieur de son corps et, ce faisant, en procédant à une forme inédite de métempsychose, c’est-à-dire de transmigration de l’esprit, qui passerait par le numérique.

Enfin, songeons à la Terre lorsque l’humanité aura disparue et qu’elle sera visitée par d’autres espèces intelligentes : si la nature n’a pas tout recouvert, si les scorpions, les rats ou les blattes n’ont pas tout envahi, seuls les robots témoigneront de nos existences et de nos cultures… En cela, ils constituent le seul avenir possible pour l’Homme.



Auteur de l'article :

Jean-Gabriel Ganascia, professeur à la faculté des sciences de Sorbonne Université, président du Comets (Comité d’éthique du CNRS) et membre de l'Institut Universitaire de France