Avant de parler d’intelligence artificielle, voyons d’abord ce qu’est l’intelligence. Notre « première » expérience de l’intelligence se fait à l’école. Globalement, si vous êtes un bon élève, vous apprenez vos leçons et vous êtes capable de répondre aux questions qu’on vous pose. C’est l’intelligence que nous pratiquons à l’école. On apprend mais on ne comprend toujours pas. Le gros problème est qu’on confond connaissance et intelligence.
Au tout début de l’intelligence artificielle, c’est ce que les ingénieurs tentaient de faire en créant des machines qui pensaient en leur faisant apprendre un maximum de choses. C’est ce qu’on appelle le Machine Learning. Ceci a donné Deep Blue d’IBM, le premier ordinateur à avoir battu un champion du monde d’échecs en 1997. Pour en arriver là, l’ordinateur a été formé comme un élève. On lui a littéralement appris les meilleurs coups. Il ne restait plus à l’ordinateur qu’à utiliser son super calculateur pour trouver le meilleur coup au moment donné. Le tour était joué.
Mais depuis 2010, l’intelligence artificielle a pris une nouvelle tournure. Elle a énormément progressé. Pour cela, elle a a changé son mode d’apprentissage. Les ingénieurs qui travaillent sur le sujet l’ont fait passer du Machine Learning au Deep Learning. Globalement sous un mode d’apprentissage de Machine Learning, les machines apprennent de façon passive. Elles assimilent des données et grâce à leur capacité de vitesse elles peuvent retrouver une information. Sous Deep Learning, on apprend aux machines à apprendre. Concrètement, pour que ce nouveau mode d’apprentissage soit possible, une quantité impressionnante de données est nécessaire. Et depuis 2010, le développement d’Internet a permis d’avoir un écosystème qui permet la production continue de ces données…. et cela presque gratuitement : chaque jour, sur le Web, l’échange de données permet d’enrichir ces nouveaux modèles.
Cette nouvelle approche permet en 2011 un nouveau premier succès pour IBM. Watson, son intelligence artificielle a gagné un jeu de culture générale. Ce jeu, le Jeopardy est très prisé aux USA. Le principe est simple. A partir de réponses, les candidats doivent deviner la question. Qu’est-ce qui change par rapport aux ordinateurs des expériences passées? Watson ne connaissait pas la réponse aux questions du présentateur. Il ne suffisait pas de rechercher rapidement ou de calculer rapidement. Il fallait qu’il déduise lui-même la réponse. Même prouesse réalisée par AlphaGo développé par Google: une IA qui, en 2016, a battu pour la première fois le plus grand champion de Go humain. Pour prendre conscience de la taille de la prouesse réalisée, on estime le nombre d’atomes dans l’univers à 10^80. Les possibilités des coups au jeu de Go est 10^600. Ainsi, on comprend l’ampleur de la prouesse réalisée.
La force du Deep Learning est d’adopter la même logique que l’apprentissage humain. Comme quand un enfant apprend à marcher, il passe par une succession d’expérimentations et d’échecs.
Vous l’aurez compris. On apprend aux machines à devenir aussi intelligentes que des humains voire plus intelligentes. Jusqu’ici rien de bien extraordinaire. Les machines ont toujours été créées pour effectuer les tâches dont les hommes ne voulaient plus ou pour les aider à être plus performants. Mais dans ce cas, d’où vient ce syndrome de la révolte des robots qui est un événement typique des récits de science fiction et des articles d’analyse qui portent sur l’intelligent artificielle ? Les futurologues ont même théorisé cette révolte à venir et son processus de diffusion à travers l’univers.
Derrière ces scénarios futuristes, il se joue quelque chose de plus important qui échappe à notre compréhension actuelle. Pour comprendre les vraies questions soulevées par l’intelligence artificielle, nous devons remonter le temps.
Au tout début de l’intelligence artificielle, c’est ce que les ingénieurs tentaient de faire en créant des machines qui pensaient en leur faisant apprendre un maximum de choses. C’est ce qu’on appelle le Machine Learning. Ceci a donné Deep Blue d’IBM, le premier ordinateur à avoir battu un champion du monde d’échecs en 1997. Pour en arriver là, l’ordinateur a été formé comme un élève. On lui a littéralement appris les meilleurs coups. Il ne restait plus à l’ordinateur qu’à utiliser son super calculateur pour trouver le meilleur coup au moment donné. Le tour était joué.
Mais depuis 2010, l’intelligence artificielle a pris une nouvelle tournure. Elle a énormément progressé. Pour cela, elle a a changé son mode d’apprentissage. Les ingénieurs qui travaillent sur le sujet l’ont fait passer du Machine Learning au Deep Learning. Globalement sous un mode d’apprentissage de Machine Learning, les machines apprennent de façon passive. Elles assimilent des données et grâce à leur capacité de vitesse elles peuvent retrouver une information. Sous Deep Learning, on apprend aux machines à apprendre. Concrètement, pour que ce nouveau mode d’apprentissage soit possible, une quantité impressionnante de données est nécessaire. Et depuis 2010, le développement d’Internet a permis d’avoir un écosystème qui permet la production continue de ces données…. et cela presque gratuitement : chaque jour, sur le Web, l’échange de données permet d’enrichir ces nouveaux modèles.
Cette nouvelle approche permet en 2011 un nouveau premier succès pour IBM. Watson, son intelligence artificielle a gagné un jeu de culture générale. Ce jeu, le Jeopardy est très prisé aux USA. Le principe est simple. A partir de réponses, les candidats doivent deviner la question. Qu’est-ce qui change par rapport aux ordinateurs des expériences passées? Watson ne connaissait pas la réponse aux questions du présentateur. Il ne suffisait pas de rechercher rapidement ou de calculer rapidement. Il fallait qu’il déduise lui-même la réponse. Même prouesse réalisée par AlphaGo développé par Google: une IA qui, en 2016, a battu pour la première fois le plus grand champion de Go humain. Pour prendre conscience de la taille de la prouesse réalisée, on estime le nombre d’atomes dans l’univers à 10^80. Les possibilités des coups au jeu de Go est 10^600. Ainsi, on comprend l’ampleur de la prouesse réalisée.
La force du Deep Learning est d’adopter la même logique que l’apprentissage humain. Comme quand un enfant apprend à marcher, il passe par une succession d’expérimentations et d’échecs.
Vous l’aurez compris. On apprend aux machines à devenir aussi intelligentes que des humains voire plus intelligentes. Jusqu’ici rien de bien extraordinaire. Les machines ont toujours été créées pour effectuer les tâches dont les hommes ne voulaient plus ou pour les aider à être plus performants. Mais dans ce cas, d’où vient ce syndrome de la révolte des robots qui est un événement typique des récits de science fiction et des articles d’analyse qui portent sur l’intelligent artificielle ? Les futurologues ont même théorisé cette révolte à venir et son processus de diffusion à travers l’univers.
Derrière ces scénarios futuristes, il se joue quelque chose de plus important qui échappe à notre compréhension actuelle. Pour comprendre les vraies questions soulevées par l’intelligence artificielle, nous devons remonter le temps.
Des nouvelles du futur
Imaginez-vous dans une machine à remonter le temps. Vous avez la possibilité de remonter au 18e siècle. Là, vous êtes projeté en pleine rue et vous devez expliquer aux passants le monde d’aujourd’hui. Globalement, ça donnerait ça : vous leur expliquez le principe d’internet, des smartphones, des voitures, des avions, des fusées, de la physique quantique…. Vous avez de fortes chances que les passants fassent une crise cardiaque ou finissent par vous faire interner dans un asile psychiatrique.
Dans la foule, l’un des passants vous croit et souhaite également, comme vous, remonter le temps pour impressionner d’autres personnes dans le passé. Il décide de faire comme vous, un bond de 3 siècles dans le passé. Il se retrouve dans la même rue au 15e siècle. Globalement, il expliquerait aux passants les avancées de la physique du 18e siècle, les guerres des grands empires, quelques avancées technologiques. Tout ce qu’il décrira du 18e siècle aux passants du 15e siècle, impressionnera ces derniers, mais n’aura pas trop d’effet sur eux. Pour beaucoup de passants, il s’agira de l’évolution logique de leur monde.
Pour que notre passant du 18e siècle puisse obtenir le même effet que vous avez obtenu sur lui, il faudrait qu’il remonte à 12 siècles avant JC. Là, il pourrait présenter les avancées techniques de son monde aux passants et les impressionner d’une façon équivalente. Cet exercice de remontée le temps, nous apprend que plus le temps s’écoule et plus les avancées technologiques s’accélèrent.
Dans la foule, l’un des passants vous croit et souhaite également, comme vous, remonter le temps pour impressionner d’autres personnes dans le passé. Il décide de faire comme vous, un bond de 3 siècles dans le passé. Il se retrouve dans la même rue au 15e siècle. Globalement, il expliquerait aux passants les avancées de la physique du 18e siècle, les guerres des grands empires, quelques avancées technologiques. Tout ce qu’il décrira du 18e siècle aux passants du 15e siècle, impressionnera ces derniers, mais n’aura pas trop d’effet sur eux. Pour beaucoup de passants, il s’agira de l’évolution logique de leur monde.
Pour que notre passant du 18e siècle puisse obtenir le même effet que vous avez obtenu sur lui, il faudrait qu’il remonte à 12 siècles avant JC. Là, il pourrait présenter les avancées techniques de son monde aux passants et les impressionner d’une façon équivalente. Cet exercice de remontée le temps, nous apprend que plus le temps s’écoule et plus les avancées technologiques s’accélèrent.
Ray Kurzweil
Si on étudie de près les tendances des technologies, on s’aperçoit que la technologie se développe de façon exponentielle. Le futuriste Ray Kurzweil décrit cet effet comme étant la loi d’accélération du progrès humain. Après modélisation de millions de données, on a pu se rendre compte que le taux réel de changement de paradigme double chaque décennie selon les modèles Ray Kurzweil.
Pour comprendre l’implication d’une telle loi, il suffit d’observer à quelle vitesse les différentes technologies de notre quotidien ont été adoptées. Il a fallu un demi-siècle pour adopter le téléphone et moins de huit ans pour adopter les smartphones. Les récentes technologies comme internet ont été adoptées en moins d’une décennie.
Quand nous pensons à l’avenir, nous le faisons de façon linéaire. Nous observons les problèmes rencontrés aujourd’hui et nous tentons de déduire quelles peuvent être les solutions en utilisant les idées d’aujourd’hui, au rythme du progrès d’aujourd’hui. Nous oublions que chaque décennie le rythme du progrès double. A cette vitesse, certains prévoient un emballement de la croissance technologique qui impliquerait des changements qui seraient imprévisibles pour les sociétés humaines (Singularity hypotheses : A Scientific and Philosophical Assessment, Dordrecht, Springer, 2012, 1–2 p.).
Cet état technologique appelé Singularité technologique (ou Singularité) est un événement hypothétique qui marquerait la perte du pouvoir politique humain car les plus grandes avancées technologiques seraient entre les mains d’une intelligence artificielle qui serait autonome et qui dépasserait qualitativement de loin l’intelligence humaine.
Pour comprendre l’implication d’une telle loi, il suffit d’observer à quelle vitesse les différentes technologies de notre quotidien ont été adoptées. Il a fallu un demi-siècle pour adopter le téléphone et moins de huit ans pour adopter les smartphones. Les récentes technologies comme internet ont été adoptées en moins d’une décennie.
Quand nous pensons à l’avenir, nous le faisons de façon linéaire. Nous observons les problèmes rencontrés aujourd’hui et nous tentons de déduire quelles peuvent être les solutions en utilisant les idées d’aujourd’hui, au rythme du progrès d’aujourd’hui. Nous oublions que chaque décennie le rythme du progrès double. A cette vitesse, certains prévoient un emballement de la croissance technologique qui impliquerait des changements qui seraient imprévisibles pour les sociétés humaines (Singularity hypotheses : A Scientific and Philosophical Assessment, Dordrecht, Springer, 2012, 1–2 p.).
Cet état technologique appelé Singularité technologique (ou Singularité) est un événement hypothétique qui marquerait la perte du pouvoir politique humain car les plus grandes avancées technologiques seraient entre les mains d’une intelligence artificielle qui serait autonome et qui dépasserait qualitativement de loin l’intelligence humaine.
Un monde dirigé par des robots ?
Dans cette course à la création d’une intelligence artificielle qui dépasserait l’intelligence humaine, trois seuils devront être franchis.
1. Une intelligence artificielle faible (IA faible) qui se concentre sur une tâche précise. Tous les systèmes actuellement existants sont considérés comme des intelligences artificielles faibles.
2. Une intelligence artificielle générale ou forte (IA forte) qui est une machine capable d’appliquer l’intelligence à tout problème plutôt qu’un problème spécifique.
3. Une super intelligence artificielle (Super IA) qui est une machine qui posséderait une intelligence de loin supérieure à celle des humains les plus brillants et les plus doués.
1. Une intelligence artificielle faible (IA faible) qui se concentre sur une tâche précise. Tous les systèmes actuellement existants sont considérés comme des intelligences artificielles faibles.
2. Une intelligence artificielle générale ou forte (IA forte) qui est une machine capable d’appliquer l’intelligence à tout problème plutôt qu’un problème spécifique.
3. Une super intelligence artificielle (Super IA) qui est une machine qui posséderait une intelligence de loin supérieure à celle des humains les plus brillants et les plus doués.
Actuellement, nous savons produire une intelligence artificielle dite faible. Il s’agit de tous les produits technologiques que nous utilisons. Quand vous demandez à Siri d’effectuer une recherche, l’intelligence qui opère est catégorisée comme faible. Pour passer à une intelligence artificielle dite forte, nous devons relever deux défis :
1. Augmenter la capacité de calcul des machines. La capacité des technologies de l’information double leur capacité chaque année. La loi de Moore qui est associée à cette croissance exponentielle, est parmi d’autres lois celle qui identifie le mieux ce processus évolutif de la technologie. Cette loi prévoit que d’ici 2025, les transistors n’auront que quelques atomes de largeur. Ce sera la fin de la loi de Moore et nous rentrerons dans l’aire du calcul quantique et de la maîtrise des photons.
Globalement, l’augmentation de la performance technologique touchera l’ensemble des domaines de notre société. Notre capacité à séquencer l’ADN, à produire des mini ordinateurs à l’échelle d’une cellule permettront de faire des progrès technologiques qu’il est difficile d’imaginer aujourd’hui. Nous sommes déjà en mesure de produire un dispositif nano-technologique qui a la taille d’une cellule et qui peut traire le diabète de type 1. L’éventualité de telles avancées technologiques (qui est bien plus qu’une éventualité) a donné naissance au transhumanisme qui est un mouvement culturel et intellectuel international prônant l’usage des sciences et des techniques afin d’améliorer la condition humaine.
2. Doter les machines d’une autonomie d’apprentissage. La capacité de calcul des ordinateurs doit être associée à une autonomie d’apprentissage qui doit reproduire l’apprentissage par expérience qui caractérise l’intelligence humaine. Les plus optimistes annoncent cette avancée pour 2030. Pour cela, les entreprises technologiques explorent le principe du réseau neuronal artificiel. Dans la pratique, on apprend aux machines à apprendre par l’expérience. Grâce à leur formidable capacité de calcul, on dote les machines de logiques d’apprentissage par l’erreur. Au mois de juin 2017, l’entreprise Google a réussi l’un de ses paris : faire que les machines soient capables d’apprendre à d’autres machines.
Revenons à notre machine à remonter dans le temps. Jusqu’ici, nous savons que le progrès technologique qui est en train d’être réalisé, va produire des changements fabuleux. Des avancées que nous n’avons jamais pu imaginer dans la santé, la conquête de l’espace, dans l’art, dans la construction …. vont se produire. Notre machine à remonter le temps nous permet de nous projeter dans le futur et d’essayer d’imaginer ce qui pourrait se produire avec cette explosion d’intelligence. L’un des résultats attendu de l’humanité construisant une Super intelligence artificielle est l’explosion d’intelligence. Cet avènement hypothétique est décrit par Irving John Good, statisticien britannique né en 1916 à Londres et mort en 2009 à Radford.
Vu l’état actuel de notre niveau technologique, il est difficile d’anticiper les conséquences réelles de la Singularité. Toutefois, les prévisionnistes et les chercheurs de la technologie nous permettent d’entrevoir les enjeux à venir d’un tel sujet:
1. Les avancées technologiques qui se sont produites dans le passé ont généré des changements dramatiques des taux de croissance économique. On sait que l’économie a doublé tous les 250 000 ans de l’époque paléolithique jusqu’a la Révolution néolithique. Par la suite, la révolution agricole a permis un doublement de l’économie tous les 900 ans.
A partir de la révolution industrielle, la production économique mondiale a doublé tous les 15 ans, soit 60 fois plus que pendant l’ère agricole. Si la Super intelligence artificielle venait à produire une révolution similaire, on peut s’attendre à ce que notre économie double tous les trois mois. Dans ce cas, nous nous retrouverons dans un monde, où les changements de paradigme se produiraient à une telle vitesse, que nous ne serions pas conscients de tous les changements qui se produiraient.
2. Un risque existentiel pourrait émerger. Parmi les sujets les plus récurrents et probables, il y a est le risque d’être dominé par une forme de vie technologique ou le risque pour l’homme de se retirer dans une forme de vie postbiologique. Le premier risque est débattu au sein de l'Institut de l’avenir humain (du Future of Life Institute). Cette association de volontaires cherchent à diminuer les risques provenant de l’intelligence artificielle. Plusieurs travaux de recherche financés par cet institut permettent de soulever des débats publics autour des risques potentiels liés à l’émergence d’une Super Intelligence Artificielle. Le deuxième risque est moins souvent évoque et étudié. Le paradoxe de Fermi nous permet de bien entrevoir l’étendue d’un tel risque.
A l’origine le paradoxe de Fermi permettait d’expliquer pourquoi aucune civilisation extraterrestre ne nous a encore rendu visite, alors que notre galaxie compte des milliards de planètes. Cette question des plus sérieuses, qui a animé la communauté scientifique pendant près d’un demi-siècle est aujourd’hui réévaluée sous l’angle de l’intelligence artificielle. Une tendance transhumaniste défend l’idée que l’avenir de notre société s’oriente vers une civilisation digitale dans laquelle le corps humain deviendrait artificiel.
Dans cet univers postbiologique, les machines sont l’espèce dominante à laquelle il faudrait s’associer. Ces fameux extraterrestres (comprenez les machines) sont déjà parmi nous et nous devons chercher à nous allier à eux pour tenter de devenir immortels. Avec cet forme de transhumanisme un nouveau paradigme religieux émerge. Fatigué d’être soi, l’homme se tourne vers la technologie pour se recréer lui-même.
Les débats autour de la technologie ne sont pas nouveaux. L’irrationalité et les passions qui les accompagnent non plus. A la différence des évolutions technologiques passées, qui soulevaient des questions périphériques, l’avènement d’une super intelligence artificielle soulève l’une des questions les plus importantes que nous avons rencontrée jusqu’à aujourd’hui : doit-on ou pouvons-nous remettre notre pouvoir de décision en tant qu’espèce humaine à une machine ?
*****
Première parution de l'article sur le site de Participation et Spiritualité Musulmanes (PSM).
1. Augmenter la capacité de calcul des machines. La capacité des technologies de l’information double leur capacité chaque année. La loi de Moore qui est associée à cette croissance exponentielle, est parmi d’autres lois celle qui identifie le mieux ce processus évolutif de la technologie. Cette loi prévoit que d’ici 2025, les transistors n’auront que quelques atomes de largeur. Ce sera la fin de la loi de Moore et nous rentrerons dans l’aire du calcul quantique et de la maîtrise des photons.
Globalement, l’augmentation de la performance technologique touchera l’ensemble des domaines de notre société. Notre capacité à séquencer l’ADN, à produire des mini ordinateurs à l’échelle d’une cellule permettront de faire des progrès technologiques qu’il est difficile d’imaginer aujourd’hui. Nous sommes déjà en mesure de produire un dispositif nano-technologique qui a la taille d’une cellule et qui peut traire le diabète de type 1. L’éventualité de telles avancées technologiques (qui est bien plus qu’une éventualité) a donné naissance au transhumanisme qui est un mouvement culturel et intellectuel international prônant l’usage des sciences et des techniques afin d’améliorer la condition humaine.
2. Doter les machines d’une autonomie d’apprentissage. La capacité de calcul des ordinateurs doit être associée à une autonomie d’apprentissage qui doit reproduire l’apprentissage par expérience qui caractérise l’intelligence humaine. Les plus optimistes annoncent cette avancée pour 2030. Pour cela, les entreprises technologiques explorent le principe du réseau neuronal artificiel. Dans la pratique, on apprend aux machines à apprendre par l’expérience. Grâce à leur formidable capacité de calcul, on dote les machines de logiques d’apprentissage par l’erreur. Au mois de juin 2017, l’entreprise Google a réussi l’un de ses paris : faire que les machines soient capables d’apprendre à d’autres machines.
Revenons à notre machine à remonter dans le temps. Jusqu’ici, nous savons que le progrès technologique qui est en train d’être réalisé, va produire des changements fabuleux. Des avancées que nous n’avons jamais pu imaginer dans la santé, la conquête de l’espace, dans l’art, dans la construction …. vont se produire. Notre machine à remonter le temps nous permet de nous projeter dans le futur et d’essayer d’imaginer ce qui pourrait se produire avec cette explosion d’intelligence. L’un des résultats attendu de l’humanité construisant une Super intelligence artificielle est l’explosion d’intelligence. Cet avènement hypothétique est décrit par Irving John Good, statisticien britannique né en 1916 à Londres et mort en 2009 à Radford.
Vu l’état actuel de notre niveau technologique, il est difficile d’anticiper les conséquences réelles de la Singularité. Toutefois, les prévisionnistes et les chercheurs de la technologie nous permettent d’entrevoir les enjeux à venir d’un tel sujet:
1. Les avancées technologiques qui se sont produites dans le passé ont généré des changements dramatiques des taux de croissance économique. On sait que l’économie a doublé tous les 250 000 ans de l’époque paléolithique jusqu’a la Révolution néolithique. Par la suite, la révolution agricole a permis un doublement de l’économie tous les 900 ans.
A partir de la révolution industrielle, la production économique mondiale a doublé tous les 15 ans, soit 60 fois plus que pendant l’ère agricole. Si la Super intelligence artificielle venait à produire une révolution similaire, on peut s’attendre à ce que notre économie double tous les trois mois. Dans ce cas, nous nous retrouverons dans un monde, où les changements de paradigme se produiraient à une telle vitesse, que nous ne serions pas conscients de tous les changements qui se produiraient.
2. Un risque existentiel pourrait émerger. Parmi les sujets les plus récurrents et probables, il y a est le risque d’être dominé par une forme de vie technologique ou le risque pour l’homme de se retirer dans une forme de vie postbiologique. Le premier risque est débattu au sein de l'Institut de l’avenir humain (du Future of Life Institute). Cette association de volontaires cherchent à diminuer les risques provenant de l’intelligence artificielle. Plusieurs travaux de recherche financés par cet institut permettent de soulever des débats publics autour des risques potentiels liés à l’émergence d’une Super Intelligence Artificielle. Le deuxième risque est moins souvent évoque et étudié. Le paradoxe de Fermi nous permet de bien entrevoir l’étendue d’un tel risque.
A l’origine le paradoxe de Fermi permettait d’expliquer pourquoi aucune civilisation extraterrestre ne nous a encore rendu visite, alors que notre galaxie compte des milliards de planètes. Cette question des plus sérieuses, qui a animé la communauté scientifique pendant près d’un demi-siècle est aujourd’hui réévaluée sous l’angle de l’intelligence artificielle. Une tendance transhumaniste défend l’idée que l’avenir de notre société s’oriente vers une civilisation digitale dans laquelle le corps humain deviendrait artificiel.
Dans cet univers postbiologique, les machines sont l’espèce dominante à laquelle il faudrait s’associer. Ces fameux extraterrestres (comprenez les machines) sont déjà parmi nous et nous devons chercher à nous allier à eux pour tenter de devenir immortels. Avec cet forme de transhumanisme un nouveau paradigme religieux émerge. Fatigué d’être soi, l’homme se tourne vers la technologie pour se recréer lui-même.
Les débats autour de la technologie ne sont pas nouveaux. L’irrationalité et les passions qui les accompagnent non plus. A la différence des évolutions technologiques passées, qui soulevaient des questions périphériques, l’avènement d’une super intelligence artificielle soulève l’une des questions les plus importantes que nous avons rencontrée jusqu’à aujourd’hui : doit-on ou pouvons-nous remettre notre pouvoir de décision en tant qu’espèce humaine à une machine ?
*****
Première parution de l'article sur le site de Participation et Spiritualité Musulmanes (PSM).