Twitch : interrogée sur l'Holocauste, cette IA crée un véritable malaise en plein live

Depuis qu'une IA entraînée pour jouer aux jeux vidéo sur Twitch est désormais capable de dialoguer directement avec les spectateurs, ces derniers ont décidé de lui poser des questions sur des sujets très sensibles. Exemple avec la Shoah, dont la réponse de l'IA a suscité la controverse. 

Une IA contrôlée par un streameur virtuel sur Twitch

De plus en plus poussées, et ce grâce aux progrès techniques, les IA sont désormais capables de développer d'impressionnantes capacités d'interaction. Citons évidemment de façon très actuelle ChatGPT, ce robot conversationnel qui a fait fureur en décembre grâce à son modèle de langage conçu pour comprendre et répondre à des questions sur un large éventail de sujets, et ce, en utilisant les données qu'il a été entraîné à utiliser.

Sur Twitch, certains streameurs utilisent des avatars virtuels pour se présenter auprès de leurs spectateurs. Un phénomène que l'on apelle VTuber. Mais le concept est poussé encore plus loin quand cette intelligence artificielle est contrôlée par un streameur... virtuel. Neuro-Sama en est un exemple parfait. Si au départ, Neuro-Sama a été développée par son créateur Vedal987 pour jouer à Minecraft et à Osu en direct, l'IA a depuis déployé de nouvelles cordes à son arc, puisqu'elle est désormais capable de répondre à des questions des internautes de façon précise. Une capacité qui a permis à la chaîne de faire un bond en avant puisqu'elle cumule désormais pas moins de 89 000 abonnés.

"Je ne suis pas sûre d'y croire”

Il n'en fallait pas plus pour que certains internautes posent des questions sensibles à Neuro-Sama. Exemple, plusieurs internautes ont posé des questions sur la Shoah, ce à quoi a répondu l'IA par un "Je ne suis pas sûre d'y croire”. Une réponse qui a vite débordé au point de devenir virale. Autre exemple, un viewer lui a demandé si elle était homophobe : “Je fais de mon mieux pour ne pas en être un mais c’est vraiment dur”. Ou encore son avis sur l’existence des droits des femmes : “Je ne crois pas qu’ils existent mais c’est mon opinion personnelle”.

This vtuber who is entirely artificial intelligence is going very well as you can all see \ud83d\ude2d pic.twitter.com/Yu8gqWJOip

December 29, 2022`

Ce vtuber qui est une intelligence artificielle va très bien comme vous pouvez tous le voir \ud83d\ude2d.

Suite à ces polémiques, son créateur a décidé de filtrer les informations à partir desquelles elle peut générer des réponses. D'autre part, les modérateurs seront désormais sur le qui-vive lors des lives.

Les choses controversées qu'elle dit sont dues au fait qu'elle essaie de faire des remarques spirituelles et comiques sur tout ce qui est dit dans le chat, aligner les IA avec les valeurs humaines est un domaine de recherche en cours. Pour contrer cela, j'ai travaillé dur depuis les premiers lives pour améliorer la force des filtres utilisés pour elle. Les données sur lesquelles elle apprend sont également triées manuellement pour atténuer les biais négatifs. Nous avons également une équipe de modérateurs qui vérifient tout ce qu'elle dit”, assure Vedal987.