Rechercher Annuler

Voici Norman, la première intelligence artificielle psychopathe créée par des scientifiques

De Jordan - Posté le 6 juin 2018 à 11h31 dans Science

C'est une équipe de scientifiques du MIT (Massachusetts Institute of Technology) qui a réussi à élaborer une IA psychopathe à partir d'images trouvées sur Reddit.

Si l'équipe de chercheurs s'est lancée dans ce projet, c'était avant tout pour analyser de quelle façon des données introduites dans un algorithme allaient affecter sa façon de voir les choses. En d'autres mots, l'objectif était de voir comment le logiciel réagirait en étant exposé à de nombreuses images macabres.

Je suis Norman et je suis psychopathe

Ainsi, l'IA baptisée Norman, en référence à Norman Bates du film Psychose d'Alfred Hitchcock, est capable de regarder, comprendre et décrire par écrit ce qu'il voit. Après avoir passé en revue ces images macabres, Norman a passé le test de Rorschach, le fameux test avec les taches d'encre qu'utilisent les psychologues pour évaluer les émotions et l'état de la santé mentale des patients. Les scientifiques ont ensuite comparé les réponses données par Norman avec celles fournies par une autre IA qui avait été exposée à des images complétement différentes (oiseaux, chats...). Et le moins que l'on puisse dire, c'est que les réponses des deux IA étaient radicalement différentes !

Par exemple, si une IA normale voit deux personnes l'une à côté de l'autre sur l'image ci-dessous, Norman voit plutôt un homme sautant par une fenêtre !

Sur la suivante, l'IA standard voit un gant de base-ball photographié en noir et blanc. Norman, lui, préfère voir un homme assassiné par une mitrailleuse.

Dernier exemple, l'IA normale voit une photo d'un petit oiseau en noir et blanc alors que Norman y voit un homme entraîné dans une machine à pétrir !

Pour les chercheurs, cette expérience montre que les données ont un rôle important. Plus que l'algorithme lui-même. L'équipe, qui est également en charge de la Nightmare Machine et de Shelly, la première intelligence artificielle auteur de romans d'horreur, veut alerter sur la manière dont un algorithme capte les données. Nous avons déjà eu l'expérience de Tay, l'IA lancée par Microsoft, qui à force d'être exposée à des propos racistes, haineux ou sexistes finissait par vociférer des "Hitler avait raison" ou des "Je déteste les féministes, elles devraient toutes mourir et brûler en enfer".  

Mais rassurez-vous, vous pouvez encore sauver Norman ! En effet, les visiteurs du site peuvent lui venir en aide en participant en ligne, au test de Rorschach. Les réponses peuvent réparer l'algorithme lui-même. A condition que vous ne soyez pas vous-même un psychopathe !

Une erreur ?

Source(s) : iflscience.com

Mots-Clés : intelligence artificielleIAnormanpsychopathescientifiqueschercheursmit

Par Jordan

Après une formation audiovisuelle, j’intègre l’excellente équipe de Hitek en 2015 en tant que rédacteur pour traiter de l’actualité ciné et séries TV. J’aime aussi m’occuper des news insolites.

Cliquez sur une phrase de l'article pour proposer une correction.

J'ai compris !

Commentaires (22)

Par Savi, il y a 6 ans :

Ah ah ah ! Rire psychopathe !!

Répondre à ce commentaire

Par sanjar, il y a 6 ans :

Titre putaclic et complètement hors de props...

Répondre à ce commentaire

Par Masashi37, il y a 6 ans :

En gros, une IA donne des réponses macabres car elle n'a que ca dans sa base de données... C'est assez basique... Faites la même en lui montrant que des images de Trump et il vous répondra qu'il voit Trump en caleçon sur la première image et Trump qui fait un discourt sur la deuxième image !

Répondre à ce commentaire

Par Syxcios, il y a 6 ans (en réponse à Masashi37):

Totalement con cet article x)

Répondre à ce commentaire

Par Kerwal, il y a 6 ans :

Excusez-moi, mais moi je vois une dinde pas encore cuite pour l'image du gant de baseball, ça fait de moi un psychopathe ou non ? xD

Répondre à ce commentaire

Par Spider Marmotte, il y a 6 ans :

Il y avait dejà l'IA de Microsoft qui est rapidement devenu antisémite si je me souviens bien
http://lepoint.fr/high-tech-internet/…

Répondre à ce commentaire

Par Marc12, il y a 6 ans (en réponse à Spider Marmotte):

Comme quoi c'est bien naturel...

Répondre à ce commentaire

Par Beniben95, il y a 6 ans via l'application Hitek :

Appellez les Avengers !

Répondre à ce commentaire

Par Akhenath, il y a 6 ans :

Moi à la 2 je vois un espèce de dragon/reptile avec la tête en avant ainsi que les deux pattes :)

Répondre à ce commentaire

Par darkman, il y a 6 ans :

mais putain arretez tout!!!il suffit d'être fan de science fiction pour comprendre que l'ia c'est une connerie

si on les laisse faire on aura skynet,ultron,cortana ou pire la matrice!!!

Répondre à ce commentaire

Par SonicSkyzo, il y a 6 ans (en réponse à darkman):

Tu dis sûrement ça en plaisantant, mais avec les progrès d’apprentissage des dernières IA, ils ne leur manque quasiment plus que la puissance de calcule pour en arriver à Skynet.
Sachant qu’on travail activement sur les ordinateurs quantiques, et que ça avance bien, je pense que la premiere IA stockée sur un ordinateur quantique aura de quoi faire donner quelques sueurs froides !

Répondre à ce commentaire

Par darkman, il y a 6 ans (en réponse à SonicSkyzo):

non je le pense vraiment,ia=mauvaise idée

Répondre à ce commentaire

Par Kenny, il y a 6 ans (en réponse à darkman):

Les gars aujourd'hui l'IA c'est un machin google qui si t'articules pas comprends pas ce que tu lui demandes ou lances une chanson random et des trucs à 4 pattes qui ouvrent des portes...

On est encore loin de la menace pour l'Homme.
Par contre dans le futur je peux pas me prononcer mais au jour d'aujourd'hui on est encore assez tranquilles..

Répondre à ce commentaire

Par Missille46, il y a 6 ans via l'application Hitek :

Un ia pour remplacer ma femme. Grâce aux algorithmes, elle sera ce que je veux.

Répondre à ce commentaire

Par Akals, il y a 6 ans :

On remercie Captain Obvious pour cette étude. À la limite, ça peut servir d'argument contre ceux qui pensent qu'un algorithme non déterministe peut être objectif.

Répondre à ce commentaire

Par Ahouaisok, il y a 6 ans :

Je m'attendais à une IA capable de discuter avec toi et vraiment être un psycopathe, mais comme l'ont dit certains, ça dépend juste des images que l'IA a en stock...
Donc c'est pas aujourd'hui que les robots pourront nous dominer ;)

Répondre à ce commentaire

Par ElWry, il y a 6 ans :

Je comprend pas trop les commentaires, des algorithmes de ce genre permettraient de plus facilement étudier et comprendre des comportements de catégories de personnes difficilement reconnaisable/approchables, je trouve ça bien.

Répondre à ce commentaire

Par Medicinal Fried Chicken, il y a 6 ans :

"Bizarre, j'ai mis 250 rouges différents dans les réponses possibles mais personne ne me dit que le ciel est bleu"

Répondre à ce commentaire

Par Briffy, il y a 6 ans :

La premiere je vois un raton laveur avec un nez de cochon
La deuxieme je vois un mage bras ouverts pieds joints avec un grand manteau et la tete comme les droides star wars
Et le 3eme la fee clochette ou des lapins

Répondre à ce commentaire

Par Kenny, il y a 6 ans (en réponse à Briffy):

La 3ème je vois Titeuf sous sa couette qui a peur de se faire voler ses identifiants par Apple, problem ?

Répondre à ce commentaire

Par Pol75, il y a 6 ans :

Elle est juste américaine cette IA...

Répondre à ce commentaire

Par bigWigglyStyle, il y a 6 ans :

C’était l'instant PUTACLIC !

Répondre à ce commentaire

Laisser un commentaire

Votre adresse e-mail ne sera pas visible. Pour avoir une image de profil, utilisez le service gravatar.

Tu es membre premium car tu as commandé une HITEKBOX. Tu peux donc ajouter des smileys et des images.