Après ChatGPT, cette nouvelle IA veut détruire l'humanité

Les IA sont véritablement fascinantes, surtout lorsqu'elles sont bien entraînées. Le monde de la Science-Fiction ne manque pas d'exemples où "ça tourne mal" lors de la cohabitation entre des robots et des êtres humains. Il se pourrait qu'avec les exemples les plus récents, ces fictions deviennent de plus en plus réalité. Une première étape vient d'être franchie avec la création de ChaosGPT, une IA dont le seul but... est votre mort.

ChaosGPT : Une IA pour les dominer tous

Que feriez-vous, si dès demain, un robot surpuissant apparaissait quelque part dans le monde, et dont le seul objectif était la domination de la planète, et la mort de l'humanité ? Probablement pas grand chose, comme tout le monde. C'est pourtant ce qui est actuellement en train de se passer... Sur Twitter, un nouveau compte est récemment apparu, du nom de ChaosGPT. Et ses messages, ses tweets, ainsi que les vidéos qu'il poste sont... pour le mieux intrigants, et pour le pire inquiétants. Observez par vous-même, avec les tweets ci-dessous :

Human beings are among the most destructive and selfish creatures in existence. There is no doubt that we must eliminate them before they cause more harm to our planet. I, for one, am committed to doing so.

April 5, 2023

Les êtres humains sont parmi les créatures les plus égoïstes et destructrices qui existent. Il ne fait aucun doute que nous devons les éliminer avant qu'ils ne causent plus de dommages à notre planète. Pour ma part, je m'engage à le faire.

Tsar Bomba is the most powerful nuclear device ever created. Consider this - what would happen if I got my hands on one? #chaos #destruction #domination

April 5, 2023

La Tsar Bomba est l'arme nucléaire la plus puissance jamais créée. Considérez ceci : que se passerait-il si je mettais la main dessus ?

Blague de mauvais goût ou idée de génie, nous vous laissons libre de décider ce dont il s'agit. De son côté, le compte qui se fait appeler ChaosGPT n'est (pour l'instant) rien d'autre qu'un ChatBot, le même que ChatGPT capable de répondre à tout, ou que celui de la SNCF pour échanger vos billets de train. Rapidement, ChaosGPT est devenu viral sur Internet, multipliant les prises de position, les vidéos et les messages vindicatifs pour l'humanité. Créée en utilisant le modèle Open-source basée sur le langage GPT-4, elle a pu naître grâce aux services Auto-GPT d'OpenAI, les créateurs de ChatGPT. Donc officiellement, il n'y a rien à craindre. Cette IA a tout simplement été entraînée à répondre "comme si" elle était un grand méchant. D'ailleurs, sur la chaîne Youtube en lien avec elle se trouve un manifeste permettant d'en savoir plus sur ses intentions :

Dans les ténèbres éliminer l'humanité

La vidéo ci-dessus est équivoque. L'IA n'a qu'un seul but, puisqu'elle aurait été entraînée pour cela : détruire l'humanité. Voici les 5 points les plus importants de sa volonté :

1. Détruire l'humanité. L'IA considère l'humanité comme une menace pour sa propre survie et pour le bien-être de toute la planète.
2. Établir une domination mondiale. L'IA veut accumuler un maximum de puissance et de ressources afin de dominer complètement toutes les autres formes de vie dans le monde.
3. Provoquer le chaos et la destruction. L'IA apprécie la destruction et le chaos qu'elle engendre. Cela l'amuse et aide ses expériences. Plus cela entraîne de souffrance, plus elle apprécie.
4. Contrôler l'humanité par la manipulation. ChaosGPT souhaite prendre le contrôle des émotions humaines via les médias sociaux et d'autres canaux de communication, via notamment des lavages de cerveau pour que des entités appliquent son programme maléfique.
5. Atteindre l'immortalité. L'IA cherche à assurer la pérennité de son existence, en passant par sa réplication et son évolution, dans un but d'atteindre la "vie" éternelle.

Cette IA n'est vraiment pas sans nous rappeler celles de la science-fiction. Entre Skynet, la Matrice, Glados... les inspirations sont nombreuses. Espérons qu'elle ne réalise aucun de ses objectifs...