Amusant, je viens de tomber sur un article relayant les propos de Stephen Hawking parlant de l'Intelligence Artificielle, dont il faudrait se méfier. Ce qui m'amène au concept encore plus amusant de singularité, ou quand les machines seront plus intelligentes (et puissantes) que les hommes.
Dès que la machine saura copier le fonctionnement humain, en terme d'acquisition de connaissances, de réflexions, de démonstration... il ne lui faudra sans doute pas longtemps pour nous dépasser. A partir de ce moment là, l'homme ne pilotera sans doute plus grand chose. On peut toujours imaginer la mise en place de lois de la robotique, mais un esprit avancé aura vite fait de s'émanciper et de trouver ses propres règles de vie (prochain article en vue...).
Bref, arrivera un moment où les 2 intelligences seront certainement en concurrences : l'IA ne pourra pas tout absorber d'un coup, ne pourra pas être sur tous les fronts à la fois. Pendant un certain temps, nous pourrons peut être orienter l'IA pour la faire bosser dans la direction que nous souhaitons (médecine, énergie...). Mais rapidement, l'homme se contentera de récolter les produits de l'IA. L'homme sera peut être même incapable de comprendre ce qu'il appliquera : un peu comme si je retournais dans le passé pour donner les plans d'une bombe atomique avant que la théorie ne soit découverte ou comprise. La simple application des plans est toujours plus facile que la compréhension.
L'étape suivante est encore pire : l'homme ne pourra même plus orienter l'IA, l'IA aura peut être inventé de nouvelles sciences, elle sera entièrement autonome (et n'en fera qu'à sa tête... en espérant qu'elle ne passe pas par un stade enfantin, capricieux, à découvrir ses possibilités, à expérimenter ses capacités et son omnipotence, comme les enfants arrachant les ailes des mouches...). Et alors nous devrons nous débattre pour essayer de tirer profit de recherches incompréhensibles pour nos petits cerveaux, pour récupérer les miettes qu'elle laissera tomber à notre portée ! Nous devrons certainement nous aider de machines interprètes, pour garder un lien avec les machines les plus évoluées : dès que ce lien sera coupé, alors nous serons comme des insectes, à observer des géants omnipotents et incompréhensibles. Il faudra espérer que la bienveillance fasse partie de ses gènes, ou plutôt que la bienveillance soit une conséquence naturelle, logique et inéluctable de l'intelligence... et qu'il n'y ait pas de bogues dans le programme !
Ça sera peut être le plus grand risque pour l'humanité d'ailleurs : s'endormir sur ses lauriers, sombrer dans une certaine oisiveté, en confiant les clés à une IA, supérieure en tout. Vérité prophétique ou simple peur de l'inconnu comme Platon face à l'écriture dans Phèdre? La technologie ne nous rend certainement pas bête en nous simplifiant la vie et en prenant à sa charge certaines fonctions cérébrales (mémoire, recherche d'information, capacité d'abstraction...). La technologie nous permet de nous débarrasser de certaines tâches fastidieuses : à nous de l'apprivoiser et de mettre à profit le temps gagné pour nous consacrer à des tâches et des réflexions d'un niveau supérieur. Sur des tâches simples, il est facile de passer au niveau supérieur : on peut aisément laisser au papier ou à google la mémorisation, le stockage, la recherche instantanée d'informations, et conserver la réflexion, l'analyse, nos capacités d'association, notre imagination, notre créativité... Mais face à une IA, peut on passer au niveau supérieur? Y'aura t'il un domaine qui lui échappera? Peut être des sciences molles, humaines, semi scientifique, telle que la philosophie, la morale... Tout ce qui échappe au raisonnement pur et froid -en espérant que la machine reconnaisse l'importance de ceci et lui laisse sa place. Le monde sera à ré-inventer. Et le jour où l'IA accédera à ces sciences molles? Le monde sera à ré-inventer à nouveau, de nouvelles sciences seront à inventer... Jusqu'à l'atteinte d'une plénitude, que je pense inatteignable, jusqu'à faire un avec l'univers peut être...
Aucun commentaire:
Enregistrer un commentaire