Des intelligences TRÈS artificielles , livre ebook

Odile Jacob - Jean-Louis Dessalles

Découvre YouScribe en t'inscrivant gratuitement

Je m'inscris

Obtenez un accès à la bibliothèque pour le consulter en ligne
En savoir plus

111 pages

Français

Vous pourrez modifier la taille du texte de cet ouvrage

Obtenez un accès à la bibliothèque pour le consulter en ligne
En savoir plus

A propos
Informations
Extrait

Description

L’« IA » fait de plus en plus souvent la une des médias. Les mystérieux algorithmes de nos ordinateurs sont champions du monde d’échecs et de go, ils vont conduire nos voitures, traduire automatiquement en n’importe quelle langue, voire imiter nos modes de raisonnement. Hélas, ils ne savent même pas qu’ils sont intelligents. Pour le dire plus clairement, ils ne savent rien. Tout ce que peuvent manifester les ordinateurs dotés des techniques les plus récentes d’IA est une intelligence qui ne comprend rien – du réflexe sans réflexion. Certains de nos mécanismes cognitifs, patiemment mis au point par l’évolution biologique, comme la recherche de la simplification et de la structure des phénomènes, sont encore hors de portée des machines, contraintes d’approcher au plus près de nos modes de raisonnement sans jamais les reproduire vraiment. Le fantasme de la machine qui sait tout a donc de beaux jours devant lui, même si les progrès de l’IA posent avec toujours plus d’acuité la lancinante question de savoir si une véritable intelligence peut être produite par des circuits de silicium. Jean-Louis Dessalles est enseignant-chercheur à Télécom ParisTech. Il utilise l’intelligence artificielle pour démonter les mécanismes de l’intelligence humaine, notamment en ce qui concerne le langage et le raisonnement.

Sujets

Artificial Intelligence

Informatique

Computers

Expert Systems

Informations

Publié par	Odile Jacob
Date de parution	30 janvier 2019
Nombre de lectures	3
EAN13	9782738147158
Langue	Français

Informations légales : prix de location à la page 0,0850€. Cette information est donnée uniquement à titre indicatif conformément à la législation en vigueur.

Extrait

© O DILE J ACOB , FÉVRIER 2019 15, RUE S OUFFLOT , 75005 P ARIS
www.odilejacob.fr
ISBN : 978-2-7381-4715-8
Le code de la propriété intellectuelle n'autorisant, aux termes de l'article L. 122-5 et 3 a, d'une part, que les « copies ou reproductions strictement réservées à l'usage du copiste et non destinées à une utilisation collective » et, d'autre part, que les analyses et les courtes citations dans un but d'exemple et d'illustration, « toute représentation ou réproduction intégrale ou partielle faite sans le consentement de l'auteur ou de ses ayants droit ou ayants cause est illicite » (art. L. 122-4). Cette représentation ou reproduction donc une contrefaçon sanctionnée par les articles L. 335-2 et suivants du Code de la propriété intellectuelle.
Ce document numérique a été réalisé par Nord Compo .
INTRODUCTION
L’ultime invention de l’être humain ?

Le 2 décembre 2014, Stephen Hawking prédisait la fin de l’humanité au cours d’une interview à la BBC 1 . Que craignait ce grand physicien, spécialiste de la relativité générale et notamment des trous noirs ? Une apocalypse cosmique, l’explosion d’une supernova à proximité du système solaire, ou que la Terre croise malencontreusement la trajectoire d’un trou noir ? Non. La singularité qui l’inquiète lors de cette interview n’est pas de nature physique. Elle concerne l’intelligence artificielle :

[…] je pense que le développement de l’intelligence artificielle pourrait signifier la fin de l’humanité. Une fois que les humains auront développé une intelligence artificielle, celle-ci pourrait s’amplifier par elle-même et se reconfigurer à un rythme grandissant sans cesse. Les humains sont limités par la lenteur de l’évolution biologique ; ils ne pourraient se mesurer à elle et seraient supplantés.
Hawking n’était pas le premier à imaginer qu’une intelligence artificielle puisse s’emballer, par effet boule de neige, au point de prendre le contrôle de nos destinées, voire de nous éliminer. D’autres noms comme celui du mathématicien Irving Good sont souvent mentionnés à ce propos. Dès 1965, Good vit dans la machine ultra-intelligente la dernière invention que nous aurons besoin de réaliser et prédit ensuite une explosion de l’intelligence qui nous laissera loin derrière 2 . D’autres auteurs ont par la suite introduit le terme de singularité technologique . À l’instar des singularités invoquées par les physiciens pour parler du Big Bang ou des trous noirs, la singularité technologique correspond à une discontinuité. Elle désigne un emballement de l’innovation dû au fait que des machines sophistiquées permettent de créer des machines encore plus sophistiquées à un rythme sans cesse croissant. Cet effet boule de neige verra l’intelligence des machines atteindre un tel degré de puissance et de sophistication que nos cerveaux limités ne pourront plus suivre. Ils seront dans l’incapacité de prévoir ou même d’imaginer ce qui se passera à partir de ce stade. Comme le Big Bang vers le passé, la singularité technologique apparaît comme un horizon pour ce que nous pouvons connaître du futur. Rien n’empêche, dans une telle éventualité, que ces super-intelligences prennent tout contrôle sur nos vies, en manipulant par exemple les informations qu’elles nous donnent de manière à nous dresser les uns contre les autres. Selon Good et ses successeurs, si leur conjecture devient réalité, alors l’intelligence artificielle restera notre ultime invention, celle qui aura précédé notre abdication intellectuelle définitive.
Je me souviens des sourires esquissés entre collègues : Stephen Hawking était un physicien reconnu, mais que savait-il de l’intelligence artificielle ? En écho à la déclaration de Hawking , la presse a alors mis en avant les déclarations alarmistes sur l’intelligence artificielle provenant d’autres figures de premier plan, parmi celles qui ont tous moyens de s’entourer d’avis informés. C’est le cas d’Elon Musk , le fondateur des entreprises Tesla et SpaceX, qui avait parlé quelques semaines plus tôt du danger d’une super-intelligence engagée dans un cycle récursif d’autoamélioration, ou de Bill Gates , fondateur de Microsoft, qui ne comprenait pas pourquoi les gens ne se sentaient pas concernés par ce danger 3 . J’étais ravi. J’allais pouvoir agrémenter l’introduction de mes cours d’intelligence artificielle en citant ces déclarations de personnes célèbres. Après tant d’années passées à m’excuser de faire de la recherche dans ce domaine, voilà que l’intelligence artificielle, l’IA, apparaissait au premier plan. Nous passions même d’un extrême à l’autre : des promesses non tenues à la certitude d’une apocalypse prochaine. Était-ce dû à l’effet Hawking ? Toujours est-il que l’affluence dans les cours d’intelligence artificielle à Télécom ParisTech, où je l’enseigne, a quasiment doublé du jour au lendemain. Sans doute les étudiants voulaient-ils en savoir davantage sur cette révolution qui allait peut-être conduire à l’anéantissement de notre espèce.
Peu d’enseignants ont eu l’occasion de parler à des étudiants prêts à confondre le contenu de leurs cours avec de la science-fiction . Cet engouement pour l’IA date déjà de plusieurs années et il ne faiblit pas, bien au contraire. Il est vrai que l’IA a fini par tenir certaines de ses promesses. Mais elle en fait désormais de nouvelles, la plus extrême étant l’avènement de la singularité technologique, accompagnée de rien de moins que la possible perte du contrôle par l’humanité de son propre destin. Pouvons-nous continuer à vivre normalement face à un tel risque ?, s’interroge Bill Gates .
L’objet de ce livre n’est pas de nier la possibilité d’une super-intelligence artificielle 4 qui prendrait notre contrôle. Je n’ai pas d’arguments pour l’exclure totalement. En revanche, j’en ai de nombreux pour dire que nous ne sommes pas exposés à un tel risque. Certes, les techniques actuelles d’intelligence artificielle amènent avec elles de nombreuses menaces, qui portent notamment sur le remplacement rapide de nombreux emplois et sur la disparition de la notion même de vie privée. Il se pourrait également qu’elles provoquent un appauvrissement de notre savoir. Mais ces intelligences artificielles restent limitées. Tellement limitées que nous en viendrons peut-être dans quelques années à leur refuser le qualificatif « intelligent », les considérant comme des techniques informatiques standard. Je ne parle pas seulement des méthodes d’apprentissage artificiel dont les progrès récents ont provoqué une véritable révolution dans le monde des technologies de l’information. J’inclus également toutes les versions améliorées de ces techniques qui reposeraient sur les mêmes principes. Autrement dit, rien ne permet de croire qu’une super-intelligence pourrait être construite dans un avenir prévisible sur la base de ce qui existe. L’avènement de nouvelles intelligences capables de se mesurer à la nôtre passera par des découvertes qualitatives qui, comme toutes les découvertes, sont impossibles à dater.
Prenons un exemple qui donnera une idée de l’abîme qui nous sépare encore, et pour un temps indéterminé, des IA actuelles. L’exemple ressemble à un test de QI, ce qui est après tout pertinent puisque l’on parle d’intelligence. Un enfant de 6 ans à qui l’on montre la suite 1223334444 est parfaitement capable de la continuer avec cinq 5 . Certaines IA peuvent faire de même, mais en trichant. Si elles ont accès à la Toile , elles sont capables d’y trouver la réponse à la question, telle qu’elle a été écrite par des humains 5 . En revanche, aucune technique d’apprentissage artificiel n’est en mesure de passer ce test. Pire, une technique à base d’apprentissage statistique risque de continuer la suite sans sourciller (c’est-à-dire sans savoir qu’elle se trompe grossièrement) par quelque chose comme 4434 . Les progrès du stockage et de l’accès à l’information permettent d’imaginer que les machines pourront mémoriser les réponses à toutes les questions qu’on est susceptible de leur poser. Mais une machine qui aurait appris par cœur les réponses à tous les tests de QI connus serait-elle intelligente pour autant ?
Prenons un exemple encore plus concret. Une amie vous raconte au téléphone qu’elle est sur la plage, qu’elle marche sur le sable mouillé. Elle décide de marcher à reculons et regarde les traces de pas devant elle. Nous comprenons aussitôt qu’elle parle de ses propres traces de pas, mais aucune IA actuelle n’est en mesure de tirer cette conclusion. Ainsi, un fait qui apparaît aussi immédiatement à un esprit humain reste inaccessible au raisonnement de la machine. On peut multiplier la puissance des ordinateurs d’un facteur 1 000 ou davantage, rien ne permet de penser qu’il en sera autrement. Je ne dis pas que ces raisonnements, élémentaires pour nous, sont par principe hors d’atteinte des machines. Bien au contraire. Mon travail de recherche, ainsi que celui de bien d’autres chercheurs, vise à les rendre possibles. Simplement, la création d’une intelligence décente, capable de comprendre ce qu’un très jeune enfant saisit instantanément, ne s’obtiendra pas en augmentant la puissance des techniques actuelles.
Il ne s’agit pas de poser un regard sceptique sur les développements actuels de l’intelligence artificielle. Comme tout le monde, j’ai été très impressionné par la résurgence des « réseaux de neurones » et par la puissance de ce que l’on appelle l’« apprentissage profond » . Je conserve précieusement le numéro du 28 janvier 2016 de la revue Nature qui présente le système AlphaGo . Le jeu de go représentait un horizon réputé pour longtemps inaccessible pour l’intelligence des machines : trop de combinaisons à explorer, des structures à la fois locales et globales, une expertise des grands maîtres de go difficile à traduire sous forme explicite . Et pourtant, AlphaGo a été capable de battre les meilleurs joueurs du monde, exploit que les spécialistes les plus optimistes de l’IA renvoyaient au moins à une décennie dans le futur. N