Le développement de l’IA est inéluctable, malgré toutes les précautions que nous pourrions prendre sur le plan de l’éthique, malgré toutes les mesures de régulation que nous pourrions imposer (serait-ce seulement possible au niveau mondial ?, j’en doute).
L'homme est ainsi fait qu'il ira au bout de l'expérimentation, comme cela a toujours été avéré pour quelle que science ou technique que ce soit; l'homme est curieux, c'est sa nature. Même si une réglementation venait tenter de réguler, ou de contrôler ce développement, il y aura toujours quelqu'un pour la contourner. Nos moyens de communication ne cessent de se développer, ce qui permet à n'importe qui (quand je dis "n'importe qui", je signifie par là qu'il existera quelqu'un doté de l'intelligente adéquate et de la volonté de le faire) d'accéder à la connaissance et à l'information. Aucun système de protection n'est parfait, c'est l'histoire du gendarme et du voleur, c'est une question de temps.

Donc si cela doit signer la fin de l'humanité, alors ce sera le cas.

Il me semble que le « danger » viendra de la possibilité qui sera donnée à un organisme artificiel de se réparer et de se reproduire. Or cette aptitude est d'ores et déjà techniquement réalisable aujourd'hui: à partir du moment ou tous les circuits, tous les organes sont redondants (c'est déjà le cas de certaines réalisations, les avions par exemple), rien ne s'oppose à doter une machine d'une capacité de remplacer une pièce en panne pour peu que l'auto-diagnostic soit implémenté, ce qui n'est pas difficile, et que cette entité possède les organes de manipulation adéquats (ce qu’on appelle un robot aujourd’hui).
Pour neutraliser une telle machine en dernier recours , on peut espérer pouvoir couper la source d’énergie, mais là aussi, il sera facile de la doter d'une intelligence lui permettant d'y pallier par ajout d'une source alternative existante et disponible telle que des panneaux solaires par exemple. Bref, en dehors de la prise de conscience proprement dite (dont on ne sait pas très bien ce que c'est réellement), nous pourrions déjà maintenant construire une machine auto-suffisante. Et les recherches en cours ont pour objectifs de rendre de telles machines encore plus intelligentes, en particulier de tenir compte de leur environnement et de s’y adapter.

De toute façon, on peut supputer que la fin de l'humanité est proche, pas seulement à cause de l'IA, mais à cause de l’homme lui-même et de son intelligence . L'IA est sans doute un des risques encourus, mais ce n'est pas le seul: le sabotage de la nature en est un autre en particulier. Certains prédisent cette fin pour dans un siècle environ, et je partage cette opinion. Ce qui ne signifie pas la fin de la vie sur terre, mais bien celle de l'homme et probablement de beaucoup d'espèces parmi les plus développées.

Je suis frappé par la convergence de toutes les contingences de notre monde actuel (démographie, appauvrissement de la terre, disparition de la diversité biologique, assèchement des ressources naturelles, la génétique, l’IA, et d’autres) qui pourraient conduire à la fin de l’humanité.

Et puis... Toutes les Enigmes non résolues de l'histoire, ne nous font-elles pas penser que d'autres civilisations intelligentes ont pu exister sur terre bien avant l'apparition de l'homme ? Mais, c'est un autre sujet...

http://www.zdnet.fr/actualites/bill-gates-elon-musk-stephen-hawking-l-intelligence-artificielle-cumule-ses-detracteurs-39813864.htm

http://www.itespresso.fr/stephen-hawking-intelligence-artificielle-75160.html

http://www.notre-planete.info/actualites/actu_2447_extinction_espece_humaine.php