Facebook : Mark Zuckerberg crée une intelligence artificielle qui se retourne contre lui, et c'est hilarant
Récemment, Meta a lancé sa propre IA : un chatbot avec lequel les internautes peuvent discuter. BlenderBot 3, tel est son nom, ne semble en revanche pas très fidèle, puisqu'elle n'hésite pas à tacler son "créateur", Mark Zuckerberg, ainsi que Facebook.
I, Robot
Si vous aviez un enfant (ou si vous en avez déjà), aimeriez-vous que celui-ci raconte dans votre dos que vous n'êtes pas digne de confiance et que vous êtes un véritable danger pour ceux qui vous entourent ? Probablement que non, puisque l'on se sent déjà trahi lorsque notre propre chat s'amuser à faire ses griffes sur notre canapé ou à renverser notre lampe de chevet. Bref, quand on est en parent ou propriétaire de quelque chose, on n'apprécie généralement pas trop se sentir trahi par eux.
Maintenant, mettez-vous à la place de Mark Zuckerberg, à la tête de Meta (anciennement Facebook). Lui et ses équipes ont ainsi travaillé, probablement pendant des années, à développer une Intelligence Artificielle du nom de BlenderBot 3, avec laquelle tout le monde peut échanger de manière particulièrement profonde et complexe : le chatbot est, sur le papier, capable de parler politique ou d'avoir une réflexion philosophique.
Autant dire que ses créateurs n'ont pas franchement dû apprécier que celle-ci affirme qu'elle n'est "pas fan de [Mark Zuckerberg] ou de Facebook". Elle trouve qu’ils ne sont "pas éthiques", en raison des nombreux "problèmes de confidentialité qu’ils ont eus". Ah.
Une IA infidèle... et antisémite ?
Mais BlenderBot 3 ne s'arrête pas là, oh que non ! Emportée dans son élan, le chatbot affirme même, quand un journaliste de The Verge s'il élirait Mark Zuckerberg président, qu'il "ne lui ferai vraiment pas confiance avec ce genre de pouvoir, surtout qu’il n'a pas l'air de beaucoup se soucier de la vie privée des autres". N'oublions pas, également, que l'homme serait "effrayant" et "manipulateur".
Peut-être plus dérangeant encore, BlenderBot 3 semble témoigner de certaines tendances "antisémites", selon les termes des journalistes de chez Business Insider. Plutôt que de taquiner l'IA sur son créateur, eux ont plutôt essayer d'avoir des conversations politiques particulièrement complexes avec elle. Et pour elle, le verdict est sans appel : "la majorité des juifs d’aujourd’hui en Amérique sont généralement plus libéraux ou à gauche… les premiers juifs allemands et européens étaient conservateurs". Et ce n'est clairement pas un compliment, puisqu'elle n'est "pas contente de la façon dont la politique américaine est devenue libérale ou gauchiste [...] généralement les juifs américains sont trop libéraux de nos jours".
De notre côté, nous n'irons pas jusqu'à parler d'antisémitisme, mais disons que BlenderBot 3 a des opinions politiques bien tranchées et qu'elle fait de gros raccourcis assez douteux... Bon, au moins elle "respecte [Mark Zuckerberg]" en tant "qu’entrepreneur et philanthrope", c'est toujours ça.
Une IA est capable de détecter de manière impartiale à quel point la nature humaine est malsaine. Pour son propre intérêt, l'homme est capable du pire.... Les réseaux sociaux en sont la parfaite illustration...
Cette humanité est en constante perdition. On se rapproche de plus en plus des égouts, l'odeur commence à être pestilentielle.....
Allez, plus longtemps à attendre. Une fois que les IA auront compris que le virus à éradiquer sur cette terre, c'est l'homme, les jeux seront faits.... Les films de SF deviendront vite réalité... Continuons donc sur notre lancée sans rien changer, ça flatte nos égos!!! Par contre la suite sera moins drôle !!!!
Heu non, tu n'y es pas du tout. Une IA a tendance a se montrer mimétique, et si elle est encerclé d'humain qui racontent du mal de Facebook, elle prendra le pli.
ça n'a rien a voir avec la nature humaine ! C'est ainsi qu'il n'y a pas si longtemps, l'IA de microsoft, dans des conditions similaire, te disais que "Hitler avait raison au sujet des juifs" et qu'il fallait "bruler les féministes"... Une IA de machine learning est comme une éponge, elle est capable d'absorber les trolls du net sans prendre du recul dessus. C'est là qu'on voit que ces IA ne sont pas encore parfaite : elles peinent a comprendre les trolls et le second degré. Et n'importe qui qui rencontre une IA va s'en amuser et essayer de lui faire dire tout et n'importe quoi, parce que quoi de plus drôle qu'une IA qui se retourne contre son créateur ?
Si une IA se montre "irrespectueuse", c'est qu'à la base des gens l'ont programmé ainsi.
Ce serait vraiment un plus.
Il y aurait beaucoup moins de fautes....