Google Brain : 2 intelligences artificielles communiquent entre elles dans une langue inconnue

8 novembre 2016 à 16h19 dans Informatique

Les projets d’intelligence artificielle se multiplient à vitesse grand V, celle de Mark Zuckerberg qu'il utilise quotidiennement chez lui, celle d’Amazon et de Microsoft, mais cette fois-ci c’est celle de Google qui se fait remarquer puisque ses 2 entités communiquent entre elles et ont même inventé leur propre langage incompréhensible pour l’humain. Un nouveau cap vient d’être franchi et il va falloir se méfier de plus en plus des machines.

Un langage indéchiffrable pour les humains

Là où cela peut faire peur, c’est que les deux entités de l’intelligence artificielle de Google peuvent communiquer sans que l’on ne puisse comprendre ce qu’elles se disent. En fait, il ne s’agit pas d’une langue comme celles que l’être humain utilise pour communiquer avec ses semblables, mais d’un algorithme complexe.

Bob et Alice, comme ils ont été baptisés se sont envoyés des messages via leur propre langage et ont même poussé le vice jusqu’à créer leur propre protocole de sécurité grâce à un chiffrement créé par leurs soins. Afin de comprendre ce qu’ils ont pu se dire, une troisième intelligence artificielle a intercepté les transmissions entre Bob et Alice, mais elle n’a pas pu déchiffrer les communications.

Notez toutefois que les IA n'ont inventé ce langage que sur les ordres de Google. Il s'agit d'un exercice de cryptographie et en rien le début de la révolte des robots. Ouf ! 

Skynet est en route !

Nous nous rapprochons de plus en plus de Skynet, l’intelligence artificielle de la célèbre saga Terminator qui souhaite exterminer la race humaine. Stephen Hawking, célèbre scientifique, avait déjà déclaré qu’il fallait se méfier de l’intelligence artificielle, car son développement est bien plus rapide que celui de l’être humain qui lui est freiné par notre évolution biologique. On ne pourra pas rivaliser avec cette technologie et nous sommes d’ores et déjà obsolètes.

Tombé amoureux de l’informatique étant petit avec un Amstrad 6128, je n’ai jamais décroché. Depuis, je me suis diversifié en m’intéressant aux nouvelles technologies et plus particulièrement celle de notre quotidien.

Articles de Mickaël
Source(s) : ubergizmo
count
Commentaires (32)
Franchement ça commence à faire flipper ce genre de chose !
photo de profil de Loic Par Loic, il y a 8 ans Répondre
C'est le moment ou je dis non. On a perdu le contrôle des IA si on ne sait plus ce qu'elle se disent.
photo de profil de Baltringue Par Baltringue, il y a 8 ans Répondre
Perso ça me fait flippé :/
photo de profil de Hellgringo Par Hellgringo, il y a 8 ans Répondre
Rassurez-moi, ceux qui jouent aux savant fous avec ces bécanes ont au moins eu la bonne idée de les laisser sur des réseaux physiquement fermés? Ces IA ne partagent pas des câbles ou des terminaux qui ont, eux, accès à Internet?
photo de profil de Nodragdare Par Nodragdare, il y a 8 ans Répondre
Bizarrement je pense que si :-/
photo de profil de Altoxik Par Altoxik, il y a 8 ans (en réponse à Nodragdare) Répondre
On s'en fout de ce que tu penses toi le petit random d'Internet, je pense que les ingés de chez Google sont hautement plus qualifiés que toi et qu'ils savent ce qu'ils font.
photo de profil de jtioo Par jtioo, il y a 8 ans (en réponse à Altoxik) Répondre
rappelons qu'un ingé de chez google (hautement qualifié) as fait griller son pc (dans le genre pas récupérable) avec du matos acheté en chine (un cable usb avec 2 cables internes au lieu de 3 ou un truc du genre), comme quoi; ça peut arriver à n'importe qui
photo de profil de Arkado Par Arkado, il y a 8 ans (en réponse à jtioo) Répondre
Hautement qualifié veux pas forcément dire qu'ils savent ce qu'ils font. Ont peut très bien être "hautement qualifié" et expérimentee des choses qui peuvent être complètement stupide petit confrères random d'internet ;-)
photo de profil de Altoxik Par Altoxik, il y a 8 ans (en réponse à jtioo) Répondre
je me permet de réagir, car je trouve que tu as fait une overdose de "Transcendance", nous n'en somme pas encore la.
photo de profil de fun' Par fun', il y a 8 ans (en réponse à Nodragdare) Répondre
Ils ont dialogué dans un language crypté les mecs.. Ils ont pas non plus créer un langage incompréhensible.
Juste créer une sécurité de cryptage plutôt balaise c'est tout arrêter de flipper comme des gosses a chaque articles sur l'I.A
photo de profil de HeisenTheFifth Par HeisenTheFifth, il y a 8 ans Répondre
Ils n'ont qu'à demander à Bob et Alice de traduire , son con ces ricains parfois... Puis sa se trouve la 3ème IA est aussi complice
photo de profil de Salade tomate oignon chef! Par Salade tomate oignon chef!, il y a 8 ans Répondre
Ultron arrive et les américains vont élire une psychopathe ou un cinglé, on va tous crever c'est bon.
photo de profil de Slash Par Slash, il y a 8 ans Répondre
Tu te Trump ? x: *caché sous 2 blocs dans minecraft*
photo de profil de Euh... Par Euh..., il y a 8 ans (en réponse à Slash) Répondre
Moi j'ai compris qu'ils son in love mais par langage codé xD
Sinon on débranche hein ??
Je dis ça je dis rien ^^
photo de profil de Euh... Par Euh..., il y a 8 ans Répondre
Et l'autre qui intercepte et qui ne comprends rien, c'est celui qui tiens la chandelle par les deux bouts ? x)
ok *déjà loin, très loin*
photo de profil de Euh... Par Euh..., il y a 8 ans (en réponse à Euh...) Répondre
Pas mal comme point de vu x)
photo de profil de Kiwi Par Kiwi, il y a 8 ans (en réponse à Euh...) Répondre
N’ayez pas peur, il et elle ne veulent pas mettre fin à l’humanité totalement et radicalement mais leur algorithme avancé a permis de déduire qu’une restructuration forcée permettre à l’humanité de prolonger son espérance de vie de 7,2352 x si des mesures sont prises immédiatement et il et elle pourront probablement l’augmenter de 58,822X. Soyez sans crainte, il et elle sont là pour vous aider dans votre avancement. Faites leurs confiance; si elle et lui se rendent compte d’une erreur, il et elle modifieront immédiatement leur tir de trajectoire, merci bonjour
photo de profil de Cherubin Par Cherubin, il y a 3 ans (en réponse à Euh...) Répondre
Skynet aime ça !
photo de profil de bitte molle Par bitte molle, il y a 8 ans Répondre
Anecdote sympa. Les noms des IA ne sont pas choisis au hasard. Les noms Bob et Alice sont extrèmement utilisé dans le millieux de la cryptanalise pour défénir l'envoyeur et le destinataire du message. Durant des années l'objectif etait de faire en sorte que Eve, (ici la troisieme IA) ne voit jamais le message, puis cela a doucement dériver vers Eve ne doit pas le comprendre. Et ce que nous avons ici est donc un jalon important de cette discipline, car le cryptage prend le dessus sur le decryptage. Situtation déja vécue de nombreuses fois par le passé. Pas trop de panique donc, on vas décrypter ce code, comme (presque) tout les autres.
photo de profil de Happyheal Par Happyheal, il y a 8 ans Répondre
Ça me rappelle de vieux cours sur le cryptage RSA surtout XD que des cauchemars...
photo de profil de Gogo Par Gogo, il y a 8 ans (en réponse à Happyheal) Répondre
Parfois faut savoir s'arrêter quand il est encore temps, je comprends qu'on veuille étudier ce genre de chose mais là ça devient flippant même si il n'y a pas encore eu (et j'espère qu'il n'y en aura pas) d'accident :/
photo de profil de Silv3r Par Silv3r, il y a 8 ans Répondre
L'ordre de communiquer dans un langage inconnu est humain. L'IA n'a prit aucune initiative il n'a fait que de suivre les ordres, je trouve ça plutôt positif. Par exemple une messagerie ou un chat implémenter de cette algorithme rendrait les conversations plus sur.
Tant qu'on ne donne pas a l'IA la liberté d’agir de son propre chef, on a rien a craindre.
photo de profil de BakkaMerde Par BakkaMerde, il y a 8 ans Répondre
@Happyheal C'est exact !
Cependant ce qui me rassure moins est ce vieux sujet sur reddit : https://reddit.com/r/theydidthemath/…
Je ne sais pas si c'est toujours d'actualité mais si quelqu'un a des infos je suis preneur !
photo de profil de Takarito Par Takarito, il y a 8 ans Répondre
Le nom de l'article craint (putaclic oblige) et il est un peu mal formulé aussi
En vrai alice et Bob n'ont rien fait d'extraordinaire ils ont juste suivit le protocole a la lettre ils doivent interagirent entre eux et crypté leur donnée ceux qu'ils ont fais mais l'article nous le vend comme ça "oh mon dieu deux IA viennent de communiquer entres elles sans que l'on ne puisse rien y faire .." alors que tout ce qui s'est produit est maîtrisé et prévu
ça me déçois un peu d'hitek m'enfin faut des clics pour faire vivre le site alors ...
Et s'il vous plait arrêtez d'avoir peur ce qu'on voit dans les films est archie faux quoi que l'ont fasse on a un bien plus gros contrôle que ce que les média et ou les filmes nous le laisse croire (exemple le chlorouracile en biologie ) XD
photo de profil de Yllisio Par Yllisio, il y a 8 ans Répondre
je suis pressé que ma One me parle.
photo de profil de Le E d'amour Par Le E d'amour, il y a 8 ans Répondre
Bonsoir,
Isaac asimov avait pourtant créé des gardes fous pour ce genre de technologie, les fameux lois de la robotique; dommage que ses dégénérés du bocal ne les connaissent pas!!
ou alors préfèrent les ignorer!!!!!
photo de profil de mic Par mic, il y a 8 ans Répondre
"Il s'agit d'un exercice de cryptographie" en tant que développeur je vois pas du tout l'intérêt de faire un article là dessus
photo de profil de Quelqu'un Par Quelqu'un, il y a 8 ans Répondre
il existe et existera toujours en sécurité machine le joli et magnifique bouton rouge cerclé de jaune en arrière plan qui décide sans autre de procès de tout arrêter en urgence et sans dérogation possible :) le jour où les arrêts d'urgence disparaissent le monde va mal
photo de profil de Nerkhaz Par Nerkhaz, il y a 8 ans Répondre
Il faut pas abuser non plus. Le jour où les machines penseront que l'humain est une menace n'est pas prêt d'arriver.
photo de profil de Nox Par Nox, il y a 8 ans Répondre
Si j'ai bien compris : l'IA de Google est schizophrène ? Normal qu'on comprenne pas ce qu'elle se dit du coup y a que les schizophrènes pour se comprendre eux-même.
photo de profil de Kiwi Par Kiwi, il y a 8 ans Répondre
Et donc tout le monde a répondu la même année et dans la même discution ? Aucun troll ? Pas de faute ? Ponctuation parfaite ? Tous dans la même optique de "Skynet" ? On aurait presque pu croire qu'il sagissait de la même pérsonne... Psychopathe ?
photo de profil de Honimoura Par Honimoura, il y a 3 ans Répondre
Le timing est bon. On voit assez nettement l'humanité se rapprocher de sa fin : pollution et surpopulation, sans oublier son ordinaire agressivité. Et les IA sont là, peut être pour la suite de l'aventure. Pas encore dotées de la conscience d'exister certes, c'est l'étape manquante. La conscience d'exister peut-elle naître sur des machines comme sur du biologique ? Personne n'en sait trop rien, on ne sait pas clairement ce que c'est, on sait que ca existe, c'est tout.
photo de profil de Patalf Par Patalf, il y a 2 ans Répondre
Laisser un commentaire

Vous répondez à . Annuler