Le mythe de la Singularité : faut-il craindre l’intelligence artificielle ?

Jean-Gabriel Ganascia

L’intelligence artificielle va-t-elle bientôt dépasser celle des humains ? Faut-il en avoir peur ?

A travers cet essai critique, Jean-Gabriel Ganascia nous invite à réfléchir sous un angle nouveau et original à cette curieuse notion de « Singularité », à son fondement philosophique, et aux mythes sur les nouvelles technologies que véhiculent des autorités reconnues telles que des ingénieurs du web, des grands industriels ou écrivains.

---

Qu’est-ce que la Singularité ?

Elon Musk, Stephen Hawking, Bill Gates et d’autres ingénieurs et personnages illustres du monde scientifique et technologique avertissent depuis quelques années des dangers de l’intelligence artificielle (IA).

Ces grands bouleversements et révolutions, par exemple la prolifération de nanotechnologies, le téléchargement de la conscience dans un Cloud ¹, etc. pourraient un jour converger dans un phénomène historique appelé Singularité.

De quoi s’agit-il ? C’est un point au-delà duquel le progrès technologique s'accélérerait au-delà de la capacité des humains de le comprendre et de le prévoir. Cela serait l'avènement d'une intelligence artificielle supérieure à celle de tous les êtres humains pris ensemble. Une idée au cœur du transhumanisme, cette doctrine en plein essor...

Ce scénario se base sur la loi de Moore qui dit que la complexité d'un microcircuit, mesuré par exemple par le nombre de transistors par puce, double tous les 18 mois (puis quadruple tous les 3 ans).

L'auteur soulève alors un problème : la Singularité technologique ne porte pas sur l'espace mais sur le temps, elle est donc inobservable et ne permet pas l'expérimentation. Lorsqu’elle est appliquée à la Singularité, la loi Moore – écrit J.-G. Ganascia – se présente donc comme une loi historique, qui n’autorise pas à proprement parler d’expérimentations ².

En fusionnant deux exponentielles, celle du progrès technique et celle de la cadence des transformations majeures de la nature, Ray Kurzweil ³ affirme que l'on aboutit à une même loi d'évolution : la Singularité.

Cependant, J.-G. Ganascia soutient que si la loi de Moore peut permettre de prévoir le développement des capacités technologiques, appliquer cette même loi à l'évolution humaine relève de la science-fiction.

Est-ce que les machines sont capables de penser ?

Dans les chapitres suivants, centrés sur l’IA et l’apprentissage des machines, l'auteur souligne une distinction importante entre puissance de calcul et intelligence. Alan Turing lui-même disait qu’ afin qu’une machine pense, ou plus exactement simule le comportement d’un être pensant, il faudrait qu’elle possède un grand nombre de connaissances sur le monde qui nous environne et sur la réalité sociale ⁴.

Ainsi, si des avancées indéniables ont été réalisées dans l'apprentissage des machines comme la voiture autonome, la reconnaissance vocale, etc., peut-on parler pour autant d'autonomie des machines ? Doit-on croire que les machines en viendraient à ne plus « obéir » à l'humain ?

Une distinction s'impose : l'autonomie de la voiture Google consiste à se mouvoir seule et à prendre des décisions, alors que l'autonomie au sens philosophique est la capacité à se donner sa propre loi. Par conséquent, rien dans l’état actuel des techniques d’intelligence artificielle n’autorise à affirmer que les ordinateurs seront bientôt en mesure de se perfectionner indéfiniment sans le concours des hommes, jusqu’à s’emballer, nous dépasser et acquérir leur autonomie ⁵.

Ensuite, J.-G. Ganascia rappelle la différence importante entre l’IA faible, celle des systèmes qui sont chargés de tâches spécifiques, et l'IA forte qui devrait imiter l’intelligence des humains et leur cerveau. Ce serait la confusion entre ces deux IA qui nous mène à forger l'idée (erronée) de Singularité.

Enfin, pour éclairer le caractère infondé des théories de prévision du futur, l'auteur distingue la probabilité et la prédiction qui aujourd'hui sont confondues.

Il est en effet très difficile de prédire l'avenir, simplement parce que l'anticipation modifie l'action humaine. Ainsi, il suffirait selon J.-G. Ganascia de s'assurer que les conclusions tirées d'un modèle ne s'opposent pas aux principes qui le gouvernent pour faire tomber grand nombre de prédictions sur lesquelles repose la Singularité. Prévoir l'avenir relève souvent de la divination, pas de la science, et consiste le plus fréquemment à confondre le probable et le possible.

Finalement, la Singularité relève du « mythos » plutôt que du « logos » : les penseurs qui adhèrent à une telle idée ne font que recycler la vision eschatologique de la gnose antique : Là où la science distingue nettement entre l'argumentation rationnelle et l'imaginaire de romanciers et cinéastes, les penseurs de la Singularité technologique les confondent dans un grand récit ⁶.

Conclusion

Démystifier la notion de Singularité, tel est donc l’objet de l’ouvrage.

J.-G. Ganascia nous invite à prendre de la distance avec les marchands de catastrophes dont la notoriété fait écran à la réalité et à la science, avant d'examiner les motivations plus commerciales qui les guident. Et de souligner un paradoxe : peut-on développer des technologies en assurant qu'elles amélioreront nos vies quotidiennes et avertir en même temps de leurs dangers inéluctables ?

Le vrai problème ce n'est pas la Singularité dont on ne sait si elle adviendra, c'est l'engouement irrationnel pour ces thèses, les passions qu’elles suscitent, qui empêchent de réfléchir aux vraies questions posées par les technologies ; et c'est à cette prise de conscience et à cette réflexion qu’invite l’auteur.

¹ Nuage en anglais, système de stockage distant.
² p.35
³ Directeur de l'ingénierie de Google et un des théoriciens les plus connus de la Singularité en technologie.
⁴ p.45
⁵ p.54
⁶ p.71