Stephen Hawking : Voici son message flippant sur les dangers de l’IA avant sa mort

Le regretté physicien Stephen Hawking décédé le 14 mars 2018 était une voix majeure dans le débat sur la façon dont l’humanité peut bénéficier de l’intelligence artificielle face à ses dangers. Mais c’était évident que Hawking ne cachait pas ses craintes que des machines pensantes puissent un jour prendre en charge l’humanité dans tus les sens.

Il est allé jusqu’à prédire que les développements futurs de l’IA  » pourraient sonner le glas de la race humaine « 

Mais la relation de Hawking avec l’IA était bien plus complexe que cette phrase sonore souvent citée.

Les profondes inquiétudes qu’il a exprimées concernaient l’IA surhumaine, le moment où les systèmes d’IA non seulement reproduisent les processus d’intelligence humaine, mais continuent également de les développer, sans notre soutien – une étape qui est au mieux dans des décennies, si jamais cela se produit du tout .

Et pourtant, la capacité même de Hawking à communiquer ces peurs, et toutes ses autres idées, en est venue à dépendre de la technologie de base de l’IA.

La relation conflictuelle de Hawking avec l’IA

Aux centres de propriété intellectuelle et de droit de la santé de l’Université DePaul, mes collègues et moi étudions les effets des technologies émergentes comme celles qui inquiètent Stephen Hawking.

LIRE AUSSI  Amazon : La compagnie manque de personnes à embaucher

À la base, le concept d’IA implique une technologie informatique conçue pour faire fonctionner les machines avec une prévoyance qui imite, et finalement dépasse , les processus de pensée humaine.

Hawking a mis en garde contre une forme extrême d’IA, dans laquelle les machines pensantes « décolleraient » d’elles-mêmes, se modifieraient et concevraient et construiraient indépendamment des systèmes toujours plus performants.

Les humains, liés par la lenteur de l’évolution biologique, seraient tragiquement déjoués.

Les dangers de l’IA

Bien avant d’en arriver à une technologie surhumaine, l’IA peut être utilisée à des fins terribles. Déjà, les universitaires et les commentateurs craignent que les drones autonomes ne soient les précurseurs des robots autonomes mortels .

L’IA à un stade précoce d’aujourd’hui soulève également plusieurs autres problèmes éthiques et pratiques.

Les systèmes d’IA reposent en grande partie sur des algorithmes opaques qui prennent des décisions que même leurs propres concepteurs peuvent être incapables d’expliquer .

Les modèles mathématiques sous-jacents peuvent être biaisés et des erreurs de calcul peuvent se produire. L’IA peut progressivement supplanter les compétences humaines et accroître le chômage . Et un accès limité à l’IA pourrait accroître les inégalités mondiales .

L’ étude de cent ans sur l’intelligence artificielle , lancée par l’université de Stanford en 2014, a mis en évidence certaines de ces préoccupations. Mais jusqu’à présent, il n’a identifié aucune preuve que l’IA constituera une  » menace imminente  » pour l’humanité, comme le craignait Hawking.

LIRE AUSSI  La fusée Blue Origin de Jeff Bezos s'enflamme quelques minutes après son lancement

Pourtant, les opinions de Hawking sur l’IA sont un peu moins alarmistes et plus nuancées qu’on ne le croit habituellement. Au fond, ils décrivent la nécessité de comprendre et de réglementer les technologies émergentes. I

l a appelé à plusieurs reprises à davantage de recherches sur les avantages et les dangers de l’IA. Et il croyait que même les systèmes d’IA non surhumains pourraient aider à éradiquer la guerre, la pauvreté et la maladie.

La vie de Hawking et les IA

Cette contradiction apparente – une peur que l’humanité soit finalement dépassée par l’IA mais un optimisme quant à ses avantages entre-temps – peut provenir de sa propre vie : Hawking en était venu à compter sur l’IA pour interagir avec le monde.

Incapable de parler depuis 1985, il a utilisé une série de différents systèmes de communication qui l’ont aidé à parler et à écrire, aboutissant à l’ ordinateur désormais légendaire actionné par un muscle de sa joue droite.

La première itération du programme informatique était extrêmement lente et sujette aux erreurs. L’IA très basique a changé cela . Un programme open source a rendu sa sélection de mots beaucoup plus rapide.

LIRE AUSSI  Tim Cook : "Il n'y a pas assez de femmes en technologie car ..."

Plus important encore, il a utilisé l’intelligence artificielle pour analyser les propres mots de Hawking, puis a utilisé ces informations pour l’aider à exprimer de nouvelles idées.

En traitant les livres, les articles et les scripts de conférences de Hawking, le système est devenu si bon qu’il n’a même pas eu à taper le terme que les gens lui associent le plus,  » le trou noir « . Lorsqu’il sélectionnait « le », « noir » était automatiquement suggéré de le suivre, et « noir » invitait « trou » sur l’écran.

Stephen Hawking discute d’un système prédictif qui l’a aidé à communiquer.

L’IA améliore la santé des gens

L’expérience de Stephen Hawking avec une forme d’IA aussi basique illustre comment une IA non surhumaine peut en effet améliorer la vie des gens. La prédiction de la parole l’a aidé à faire face à une maladie neurologique dévastatrice . D’autres systèmes basés sur l’IA aident déjà à prévenir, combattre et réduire le fardeau de la maladie.

Par exemple, l’IA peut analyser des capteurs médicaux et d’autres données de santé pour prédire la probabilité qu’un patient développe une infection sanguine grave . Dans les études, il était nettement plus précis – et fournissait un avertissement beaucoup plus avancé – que les autres méthodes.