Voici Norman, la première intelligence artificielle psychopathe créée par des scientifiques

C'est une équipe de scientifiques du MIT (Massachusetts Institute of Technology) qui a réussi à élaborer une IA psychopathe à partir d'images trouvées sur Reddit.

Si l'équipe de chercheurs s'est lancée dans ce projet, c'était avant tout pour analyser de quelle façon des données introduites dans un algorithme allaient affecter sa façon de voir les choses. En d'autres mots, l'objectif était de voir comment le logiciel réagirait en étant exposé à de nombreuses images macabres.

Je suis Norman et je suis psychopathe

Ainsi, l'IA baptisée Norman, en référence à Norman Bates du film Psychose d'Alfred Hitchcock, est capable de regarder, comprendre et décrire par écrit ce qu'il voit. Après avoir passé en revue ces images macabres, Norman a passé le test de Rorschach, le fameux test avec les taches d'encre qu'utilisent les psychologues pour évaluer les émotions et l'état de la santé mentale des patients. Les scientifiques ont ensuite comparé les réponses données par Norman avec celles fournies par une autre IA qui avait été exposée à des images complétement différentes (oiseaux, chats...). Et le moins que l'on puisse dire, c'est que les réponses des deux IA étaient radicalement différentes !

Par exemple, si une IA normale voit deux personnes l'une à côté de l'autre sur l'image ci-dessous, Norman voit plutôt un homme sautant par une fenêtre !

Sur la suivante, l'IA standard voit un gant de base-ball photographié en noir et blanc. Norman, lui, préfère voir un homme assassiné par une mitrailleuse.

Dernier exemple, l'IA normale voit une photo d'un petit oiseau en noir et blanc alors que Norman y voit un homme entraîné dans une machine à pétrir !

Pour les chercheurs, cette expérience montre que les données ont un rôle important. Plus que l'algorithme lui-même. L'équipe, qui est également en charge de la Nightmare Machine et de Shelly, la première intelligence artificielle auteur de romans d'horreur, veut alerter sur la manière dont un algorithme capte les données. Nous avons déjà eu l'expérience de Tay, l'IA lancée par Microsoft, qui à force d'être exposée à des propos racistes, haineux ou sexistes finissait par vociférer des "Hitler avait raison" ou des "Je déteste les féministes, elles devraient toutes mourir et brûler en enfer".  

Mais rassurez-vous, vous pouvez encore sauver Norman ! En effet, les visiteurs du site peuvent lui venir en aide en participant en ligne, au test de Rorschach. Les réponses peuvent réparer l'algorithme lui-même. A condition que vous ne soyez pas vous-même un psychopathe !