Pas d'Intelligence Artificielle, de Skynet de Terminator et pas d'ET ni d'UFO

[Kaptain 5 874]

Vaufrèges ! Pas sûr que Gogol l'aurait trouvé, celle-là...

[Alain MOREAU 7 316]

Pas sûr, surtout, qu'il puisse s'exécuter !

[Richard Guillaume 15]

Ces robots sont quand même bornés par des limites théoriques, Halting problem de Turing, reconnaitre et sortir des boucles infinies, et bien sûr l'Event Horizon indépassable de Godel. Tous les algorithmes qui tournent ont été testés par les programmeurs, mais si d'aventure, la Conscience et l'imagination lui venant, AlphaGo s'essayait de sa propre initiative à un nouvel alogrithme pour mieux jouer au go, a t-il les moyens (posséde t-il un algorithme) de savoir si cet Algorithme s'arretera un jour ou continuera éternellement sans jamais retourner de résultat ?
Et de toutes façons, comment peut il 'imaginer' un nouvel algorithme, de novo, ex nihilo, c'est à dire un algorithme qui ne soit pas simplement un résultat des algorithmes d'apprentissages qui lui sont pré-programmés, mais réellement une conséquence de son emergence à la conscience, sans faire tourner cet algorithme au préalable sur ses processeurs, et s'exposer ainsi au Halting Problem du Turing ?
Que veux dire 'penser ou Ímaginer' quand votre cerveau est fait de microprocesseurs, sinon faire tourner un algorithme ?
Admettons par exemple qu'il s'intéresse de lui même aux mathématiques et l'idée lui vient de trouver, pour le fun, le plus grand nombre premier.
Admettons qu'il soit chanceux et n'aie jamais 'imaginé' un tel algorithme, A t-il les moyens (posséde t-il des algorithmes) de savoir qu'il est pris dans une boucle infinie et d'en sortir, quand il est pris dans une boucle infinie ?
Il n'y a pas besoin de John Connor, le Skynet de Terminator émergeant à la conscience et s'essayant à la 'pensée', se planterait de lui même aux bouts de quelques nanosecondes.

[Superfulgur 16 086]

"Et de toutes façons, comment peut il 'imaginer' un nouvel algorithme, de novo, ex nihilo"

Ben si on lui apprend le latin, y devrait y arriver nan ?

S

[vaufrègesI3 15 035]

Oui et non...

Par exemple, on sait que le meilleur latin de Luther ne pouvait combler la belle morgue d'un Erasme.

[Kaptain 5 874]

Vous en êtes un drôle, de lutin...

[Alain MOREAU 7 316]

On peut pas Luther contre un esprit pareil

[Richard Guillaume 15]

je ne veux pas diminuer en aucune façon le mérite et l'exploit scientifique de réaliser une machine capable de jouer au GO au niveau d'un grand Maitre, ce dont je serais incapable. La question n'est pas là.
A t-on le droit de s'interroger sur le problème de la Conscience en la formulant dans des termes Algorithmiques comme l'a fait Penrose ?

Par exemple que signifie 'penser' pour une machine dont le support matériel est un ensemble de microprocesseurs qui ne contient, comme information, qu'un ensemble de 0 et de 1 ? Dans cette machine 'pensante', chaque pensée ne peut consister qu'en en une chaine de 0 et de 1.

Pour Penrose la 'Pensée' sur microprocesseur est tout simplement impossible. La machine ne pourrait éviter le Halting Problem de Turing et ne serait pas capable de prévoir quel Algorithme pourrait la planter.
Donc pour lui les ordinateurs actuels sont impressionants de pouvoir de calcul mais sont aussi loin de la Conscience que ne l'était un Oric ou un ZX81 des années 80, ou même un boulier Chinois construit en 3000 BC.

Pour ceux intéressés, voilà une vidéo où on apprend que le Go, comme les échecs font partie des problèmes résolvables en Exponential Time (par un nombre exponentiel d'opérations algorithmiques). Mais il y a pire avec la question qui tue, à 17' et qui montre qu'il y a en fait 'beaucoup' plus de problèmes sans solutions.
https://www.youtube.com/watch?v=moPtwq_cVH8


A la question similaire de savoir en combien de temps des Algorithmes pourraient produire (et non pas re-reproduire ou simuler) la Conscience, Penrose répond qu'ils ne peuvent tout simplement pas. C'est un de ces problémes non résolvables. C'est un point critique, car dans ce cas la question est maintenant de savoir comment la Conscience est apparue en vrai.
On nous dit 'c'est l'Évolution selon Darwin'. Je dis non, ce nest pas possible non plus car le modèle Darwinien de l'Evolution EST parfaitement Algorithmique par nature, c'est un calcul avec un INPUT et un OUTPUT qui consiste à trouver des nombres, rien de plus, voir la partie Antithèse du départ du fil. Il y a donc quelque chose qui cloche très sérieusement. Penrose a raison ou Darwin a raison, mais pas les deux.

[Superfulgur 16 086]

A l'intuition, comme ça, je parie sur Darwin.

S

[ChiCyg 0]

Richard Guillaume :

quote:

---

la question est maintenant de savoir comment la Conscience est apparue en vrai.

---

La seule et unique expérience de la conscience que j'ai est la mienne. Comment est-elle apparue ? Avant de naître je n'en avais pas (ou alors j'avais pas conscience d'avoir une conscience ) et après, c'est venu ... comme ça.

On se pose toujours la question de l'origine comment est apparue le quark, le proton, l'électron, la première étoile, la première galaxie, la première bactérie, la vie, l'univers, le multivers, le plurimultivers, le temps, la conscience ...

Question un peu vaine, probablement pas "scientifique" qui cache une profonde angoisse métaphysique. Au fait comment est apparue l'angoisse métaphysique ? Sérieux, une machine peut-elle avoir des angoisses métaphysiques ?
Au fait, peut-on avoir conscience sans angoisse métaphysique ? C'est la conscience qui fait l'angoisse métaphysique ou l'angoisse métaphysique qui fait la conscience ? les deux intimement liées ?

[Kaptain 5 874]

Un vieux philosophe disait dans une émission sur Arte : "Sentir, c'est sentir qu'on sent". Tout est là.

[George Black 5 774]

quote:

---

la question est maintenant de savoir comment la Conscience est apparue en vrai.

---

Lucifer (bourré et avant d'être déchu) : Ehhhh Dieu, t'es même pas cap, d'abeurrrr, de coller une conscience dans la tête de l'autre là... verre Adam... eh eh eh ....

Dieu (bourré) : Comment ça j'suis pas cap ?

Et voilà...

[Richard Guillaume 15]

@ ChiCygn

Il faut chercher au niveau de l'Evolution, puisque les Genres, Espéces, Individus, Organes, Cellules, Organelles, Proteines, Acides Nucleiques, ainsi que toutes leur fonctions respectives, sont un produit de l'Evolution. Le 'cerveau' est un produit de l'Evolution sans le moindre des doutes. C'est sur le mécanisme d'Évolution qu'il y a un doute. Le Darwinisme est peut être une bonne approximation de l'Évolution, mais l'approximation échoue pour expliquer la conscience. Rajouter une quantité, je ne dirai pas infinie, mais disons exponentielle, de calculs ou d'Epicycles (figurativement) supplémentaires n'y changera rien.

Je ne comprends pas comment on peut se vouer corps et âme à Darwin et au Néo-darwinisme même le plus général, comme si le modéle actuel de l'Evolution, représenté par le Darwinisme, ne pouvait pas, ou ne devait pas changer. En particulier sur ce forum les gens savent bien que les théories physiques changent.

J'ai lu l'Origine des Espéces, honnêtement le concept est trivial. Il suffisait d'admettre le Transformisme, donc l'Evolution, au départ, et le reste allait de soit. Lamarck était là avant lui sur ce coup là, entre parenthéses. Le livre de Penrose par contre, est beaucoup plus profond.

[PascalD 4 355]

Mouais. Il est aussi beaucoup moins étayé que les théories évolutionnistes.
L'argument de Penrose me semble quand même 'achement capillotracté. Avant de jeter toute la théorie de l' évolution et toutes les sciences cognitives, il faudrait peut-être compléter un peu le tableau ?

Pour info, ça fait longtemps qu'on sait contourner le problème de l' arrêt en informatique. C'est trivial: il suffit de mettre un réveil

[Richard Guillaume 15]

Penrose aborde le problème des boucles dans son livre, c'est pour ça que j'en ai parlé aussi. Il aborde presque tous les problèmes d'ailleurs. Ce n'est pas central dans sa demonstration mais c'était pour illustrer le genre de problèmes qu'un ordinateur 'pensant' de lui même devrait résoudre. Mais de là à dire que sa 'conjecture' n'est pas très bien ettayée, c'est un peu dur pour lui.
Tout le monde est au moins d'accord ici pour admettre que bien que les ordinateurs actuels soient très supérieurs aux humains en terme de puissance de calcul, comme le montre AlphaGO, ils sont aussi loin d'un début de prise de conscience qu'un manche à balai.
Ca passe et cela va passer encore pour quelques dizaines d'années, mais après cela il va falloir commencer à se poser des questions. Relisez alors le livre de Penrose et re-postez dans ce fil dans 20 ans.

l' Arrêt dans le Halting problem par contre, il n'y a pas de solution.

[Ce message a été modifié par Richard Guillaume (Édité le 16-03-2016).]

[PascalD 4 355]

Si, si, j'insiste: Il suffit débrancher le bazar après un temps prédéterminé. En théorie c'est insoluble, mais je t'assure qu' en pratique, le "halting problem" ne pose aucun problème. Si ça se trouve, c'est pour ça qu'on dort.

Je sais bien qu' en théorie, la théorie et la pratique c'est la même chose, mais en pratique, c'est différent.

Sa conjecture est un ovni dans un faisceau d' indices contraires. Elle est certainement bien étayée, mais elle sort du nuage de points des connaissances actuelles, si tu veux. Il faudrait d'autres indices allant dans le même sens pour commencer à la prendre au sérieux, je pense; C'est sans doute pour ça que malgré le temps écoulé depuis la publication de cette approche, les biologistes continuent à faire comme si Darwin avait raison, les généticiens continuent à bricoler l' ADN, les informaticiens à chercher à construire des IAs, et les neurologues à explorer le cerveau comme s'il était un système classique.

Et effectivement, j' ai l'impression que dans 20 ans, on y verra plus clair. Peut-être même avant.

[Ce message a été modifié par PascalD (Édité le 16-03-2016).]

[George Black 5 774]

http://www.futura-sciences.com/magazines/high-tech/infos/actu/d/technologie-apres-victoire-jeu-go-ia-google-pense-jeux-video-62044/

Quelques phrases clées de l'article.

quote:

---

Lee Sedol s’est dit ravi de cette expérience. Il a expliqué que, d’après lui, le plus grand avantage que possédait AlphaGo était d’ordre psychologique. Contrairement à un joueur humain, la machine n’est pas sujette aux émotions ; elle n’est pas impressionnée par les enjeux et son niveau de concentration n’est pas susceptible de varier au cours de la partie.

---

quote:

---

Demis Hassabis a cité la possibilité d’organiser une confrontation Homme-machine autour du jeu vidéo StarCraft. [...]
En effet, le go est un jeu dit à information parfaite, où les joueurs ont une vision complète du jeu de l’adversaire sur le plateau. Dans un jeu comme StarCraft, chaque joueur développe sa stratégie offensive et défensive sans voir ce que fait l’adversaire. Il y a donc une part d’incertitude qui rend la prise de décision plus difficile et imprévisible. Il serait donc tout à fait intéressant d’observer comment une intelligence artificielle se comporterait dans ces conditions.

---

quote:

---

Demis Hassabis : « J’aimerais voir une science où une IA serait un assistant de recherche faisant tout le travail fastidieux de trouver des articles intéressants, d’identifier une structure dans une vaste quantité de données pour les faire remonter aux experts humains et aux scientifiques qui pourraient avancer plus rapidement »

---

[vaufrègesI3 15 035]

En tout cas Yann LeCun garde la tête froide. Considérant les progrès actuels de l'IA, dans l'Express de février il déclare : "Nous continuons à rouler à 100 km/h en plein brouillard en risquant à tout moment de nous prendre un mur."

[PascalD 4 355]

Pfouu elle est dure, je ne la trouve pas celle-là, vaufrèges
En même temps, c'est Gogole qui fait les titres, pas fesse de bouc, normal qu'il le prenne fraîchement Yann Lecun ...

[vaufrègesI3 15 035]

C'est vrai que question contrepêt.. avec "LeCun" y'a du potentiel ..

A part Facebook le Monsieur a des occupations très nobles : Il est désormais titulaire de la chaire d'informatique et de sciences numériques au Collège de France. Le 4 février il y a donné sa leçon inaugurale. Trop pris ces derniers temps pour l'écouter, mais ça viendra :

http://www.college-de-france.fr/site/yann-lecun/inaugural-lecture-2016-02-04-18h00.htm

[Ce message a été modifié par vaufrègesI3 (Édité le 16-03-2016).]

[ChiCyg 0]

Depuis que j'ai lu l'article de la Recherche (n°510 avril 2016 page 64) je relativise un peu "l'échec" humain. Faut voir que le champion européen a été battu par un réseau de machines fort de 1202 CPU et 176 GPU sachant que chaque CPU devait avoir 4 cœurs et quelques gigas de mémoire vive et que chaque carte graphique comporte chacune un bon millier de processeurs et quelques giga de mémoire le tout cadencé au delà du gigahertz ... sans oublier l'investissement humain qui a préparé et entraîné le programme depuis des années.

Côté puissance électrique faut compter au moins 100 W par CPU et 250 W par GPU ce qui nous mène à un minimum de 0,15 MW !!!

C'est un peu comme si le champion de lutte olympique avait été battu par un char lourd (le rapport de puissance est du même ordre ).

Conclusion je trouve qu'il est stupéfiant qu'un être humain ait pu rivaliser, sinon vaincre une telle débauche de puissance humaine et siliceuse coalisée. A noter que la version précédente comportait (seulement ) 48 CPU et 8 GPU mais elle n'a pas gagné ...

[vaufrègesI3 15 035]

En effet ChiCyg, mais je crois que l'essentiel se trouve dans la déclaration du "perdant", Lee Se-Dol ("Siences et Avenir" d'Avril) : "Les robots ne comprendront jamais la beauté du jeu comme nous les humains la comprenons"

[Ce message a été modifié par vaufrègesI3 (Édité le 03-04-2016).]

[Richard Guillaume 15]

C'est vrai, il faudrait faire jouer dans les mêmes catégories de poids et dans ce cas il serait intéressant de faire jouer des humains rassemblés contre AlphaGo.
A 20 Watt/cerveau, dont une partie seulemenet est dédiée au cortex, il faudrait 50 000 Maîtres de Go pour égaler les 1 MW d'AlphaGO.
Chiffre irréaliste, mais on pourrait déjà réunir une dizaine de grands Maitres. En pratique, on pourrait imaginer que les Maîtres discutent entres eux pendant un certain temps avant de décider d'un coup.
Gros conflits de personnalités en perspectives...personne ne niera qu'aux Echecs, les Champions ont d'assez gros ego. Il faut s'attendre à des : "on a perdu, je vous l'avais bien dit qu'l ne fallait pas jouer ce coup ". Bon, pourraient ils s'entrendre pour jouer contre une machine ?

Team Human vs The Machine, Go !

[brizhell 2 625]

Histoire de remettre 10 balles dans le bouzin :

https://lejournal.cnrs.fr/nos-blogs/aux-frontieres-du-cerveau/limage-de-la-semaine-les-neurones-geants-dans-le-cerveau-siege?utm_content=buffer34f17&utm_medium=social&utm_source=fa cebook.com&utm_campaign=buffer

Le papier dans Nature : http://www.nature.com/news/a-giant-neuron-found-wrapped-around-entire-mouse-brain-1.21539

[Ce message a été modifié par brizhell (Édité le 07-03-2017).]

[Richard Guillaume 15]

Oui j' avais vu l' histoire de ces Neurones géants. C' est très intéressant en effet. J'ai un peu touché à ça quand je faisais de la science 'wet lab'.
Imaginons que l'on puisse produire ces Neurones a volonté et qu'au lieu de synchronizer 1 tête seulement, ils en englobent plusieurs...