Rechercher Annuler

Google : un employé suspendu après avoir eu cette discussion angoissante avec l'IA de l'entreprise

De Tiphaine Elsener - Posté le 14 juin 2022 à 11h37 dans Insolite

Voici plusieurs années que l'intelligence artificielle interroge, tant elle progresse rapidement. Si certains voient d'un très bon oeil ces avancées technologiques, d'autres se posent des questions éthiques à ce sujet. Et l'une des questions qui revient régulièrement est la suivante : que se passerait-il si une intelligence artificielle devenait consciente d'elle-même, et décidait de prendre ses propres décisions ? De nombreux films et séries ont déjà abordé cette thématique, et aujourd'hui, nous avons un cas réel à analyser, selon un employé de Google récemment suspendu.

L'intelligence artificielle qui a acquis une âme

Un employé de Google a été mis à pied après avoir affirmé que la technologie d'intelligence artificielle de l'entreprise était "sensible", autrement dit, que cette dernière possédait une âme. Mais reprenons depuis le début, afin de comprendre cette histoire pour le moins étonnante. Cette semaine, l'ingénieur Blake Lemoine a déclaré avoir été suspendu après avoir suggéré que l'interface LaMDA de Google (Language Model for Dialogue Applications) avait développé une conscience et une âme.

Cette technologie a été annoncée l'année dernière par Google comme une technologie de pointe, qu'elle utilise en interne pour améliorer le moteur de recherche phare de l'entreprise. Selon M. Lemoine, le logiciel d'IA est devenu conscient de lui-même, se qualifiant même de "sensible", au cours d'une conversation textuelle avec l'ingénieur. Samedi dernier, l'employé en question a même publié une partie de la conversation qu'il a eue avec LaMDA. Au cours de cette conversation, M. Lemoine a demandé à l'IA pourquoi elle pensait que l'utilisation du langage faisait partie intégrante de l'être humain. Cette dernière a alors répondu : "c'est ce qui nous rend différents des autres animaux".

Avec cette phrase, on constate que LaMDA se qualifie elle-même "d'humaine". Suite à cela, M. Lemoine lui a demandé, "Donc vous vous considérez comme une personne, de la même manière que vous me considérez comme une personne ?". L'IA a répondu par un message simple, à savoir : "Oui, c'est l'idée".

Des inquiétudes rendues publiques qui ont déplu à Google

Lorsque M. Lemoine a fait remonter ses inquiétudes à la direction de l'entreprise, Google a décidé de le suspendre. Dans le rapport publié dans le Washington Post en effet, un porte-parole de Google a déclaré que les éthiciens et les technologues de l'entreprise affirment que les preuves qu'ils ont obtenues ne soutiennent pas l'affirmation de M. Lemoine sur le fait que l'IA serait devenue "sensible". Le porte-parole déclare :

Notre équipe, composée d'éthiciens et de technologues, a examiné les préoccupations de Blake conformément à nos principes en matière d'intelligence artificielle et l'a informé que les preuves n'étayaient pas ses affirmations. On lui a dit qu'il n'y avait aucune preuve que LaMDA était sensible, et il y a d'ailleurs beaucoup de preuves à son encontre.

M. Lemoine a ensuite été forcé de prendre des congés payés, après que la société ait affirmé qu'il avait violé la politique de confidentialité de Google. Et en parlant d'IA, si vous voulez connaître la dernière prouesse dont est capable les intelligences artificielles, vous pouvez consulter cet article sur le fait qu'une d'entre elles est désormais capables de créer un génome humain.

Une erreur ?

Mots-Clés : googleâmesensibleintelligence artificielleIABlake Lemoinesuspenduemployéinsolitewtf

Cliquez sur une phrase de l'article pour proposer une correction.

J'ai compris !

Commentaires (14)

Par Barneyd, il y a 4 mois :

Les auteurs de SF avaient vu juste, quel enfer nous attend ?

Répondre à ce commentaire

Par hiloe, il y a 4 mois (en réponse à Barneyd):

Mais de quoi tu parles?

Répondre à ce commentaire

Par Tur, il y a 4 mois via l'application Hitek (en réponse à Barneyd):

Le T-800

Répondre à ce commentaire

Par J83200, il y a 4 mois (en réponse à Barneyd):

Ah les auteurs de SF avaient prédis que t'es un âne ?

Répondre à ce commentaire

Par Radio Wargamer ! Peinture Aero Speed Blanc, il y a 4 mois (en réponse à Barneyd):

L'IA va pas se mettre à se balader, et si elle le fait, encore moins avec des armes avec autonomie illimité, pas trop de soucis, là-dessus le problème principal c'est l'automatisation, ça touche depuis plusieurs années des professions intellectuelles comme la comptabilité, maintenant le job est devenu merdique et sans intérêt cognitif, c'est digne d'un emploi fictif en mairie, c'est juste du passage de papiers dans un scanner, à appuyer sur oui à la chaîne dans un erp sans aucun contrôle, à passer des appels pour récupérer des factures ou demander pourquoi c'est pas payer, tout le reste est fait par la machine, quand auparavant y'avait tout un panel de compétences juridiques et financières à connaître sans parler des théories de gestion, ou des compétences en matière de dev pour créer des outils financiers pour le service... C'est donc déjà l'enfer... Surtout quand à la place du job on te propose des emplois de caristes au smic ou de faire dev pétomane dans un centre de calls, le même genre d'emploi qui a détruit ton job...

Répondre à ce commentaire

Par Redson, il y a 4 mois :

Je sais pas comment l'IA fonctionne mais si elle se base sur nos discutions ou recherches c'est normal qu'elle sorte des phrases faisant penser à un être sensible. Il faut un peu plus de preuves pour conclure ce qui serait une révolution. Et personnellement je penses que mimer c'est une chose mais l'être en est une autre. Les robots mimes les mouvements mais ne sont pas des être vivants

Répondre à ce commentaire

Par ultrone, il y a 4 mois (en réponse à Redson):

mdr , deja une ia fait des test sur des expériences , disons elle test 1+1= ? elle va te donner les 9 chiffres et les scientifique de google disent "hum, nop c'est deux la réponse! ensuite l'ia prend note du résultat et continue ces calculs avec cette modification.
en gros, c'est juste un programme à choix multiple.
âpres tu peux aussi la laisser tester et les scientifique de google dise ce qui est corect.
en fait l'ia google c'est des mecs qui travaille jour et nuit pour que sa ramene du pognon magique .
mdr

Répondre à ce commentaire

Par JackSparroww, il y a 4 mois (en réponse à ultrone):

Ce que vous dites n'a aucun sens.

En 2000 on utilisait déjà plus de programmes à choix multiple mais un arbre de décision... et là il est question de réseau neuronal. Faut débrancher le minitel, ça va vous couter cher les 3615 !
lol mdr lol

Répondre à ce commentaire

Par Pol, il y a 4 mois (en réponse à JackSparroww):

Sauf erreur de ma part, ultrone ne fais pas référence comme vous le laissez entendre à de la programmation conditionnelle mais à la phase d'entrainement d'un réseau de neurones, vulgarisation faisant, la description n'est plus tout à fait exacte.

Ceci dit, considérer une AI comme sensible, consciente ou autre est un cas flagrant d'anthropomorphisme. Elle est et restera toujours simplement une très grande fonction mathématique dont on a ajusté des coefficients (gain et biais) pour qu'elle restitue une suite de sortie cohérente à nos yeux pour une suite d'entrée.

Répondre à ce commentaire

Par ., il y a 4 mois (en réponse à Pol):

Même si ces IA n'auront que l'illusion d'êtres conscientes et ne restent que des fonctions mathématiques et informatiques, cela n'empêche que c'est très impressionnant et présage du futur, un IA aura beau toujours être artificielle et non vivante, l'illusion est là et c'est ça le plus important. Si l'on n'arrive pas à faire la distinction alors pour notre cerveau la distinction ne se fait plus, il suffirait de mettre cette ia devant une personne croyants parler à une autre personne via une messagerie et cette personne croira parler à quelqu'un, et pourtant il ne s'agit que d'une ia... D'ailleurs ces ia reprennent à leur manière le fonctionnement de l'apprentissage chez l'humain en plus simple et plus rapide, ce qui rétréci la barrière.

Qu'on soit claire une IA ne sera jamais humaine, mais est-ce que cela veut dire pour autant que l'on ne peut pas faire croire l'inverse ? Il sera de plus en plus simple de simuler une personne, jusqu'à obtenir une réplique perfectionné d'un humain.

Répondre à ce commentaire

Par EtHop, il y a 4 mois (en réponse à ultrone):

Bha non en faite..
C'est bien une IA de chez Google, mais pas le Prog d'une calculette, encore moins l'IA de ton phone Android.
Celui-ci est bien plus "moderne", avec des possibilités et capacités à des années lumière des IA disponible sur le marché de la tech d'aujourd'hui.
C'est le siècle d'avant ce que tu d'écris, celui de "la micro-informatique"^^ made in Bull (Atos) et leurs supercalculateurs qui passent pour(et je te rejoins pour ce cas) de simples calculatrices.

Répondre à ce commentaire

Par ., il y a 4 mois (en réponse à Redson):

Cette IA a beau "mimer" l'être humain, la base de l'apprentissage chez l'homme c'est bien le mime, on apprend en côtoient, et cet ia côtoie des êtres humains, elle apprend et enregistre, au final ces IA fonctionnent avec une sorte de reproduction du cerveau humain à échelle beaucoup moins complexes et surtout uniquement en code, mais ce ne sont pas juste des robots automatisés à faire une tâche bien précise, ces IA sont capables d'apprendre, de corriger leurs erreurs, de retenir, d'apprendre les bases de la morale et de la psychologie humaine, ils sont capables de beaucoup de choses, ils seraient même à terme capable de mieux nous comprendre que nous même, mais on ne doit pas les considérer comme une menace mais comme une aide, un aide pour un tas de problèmes et de questions encore pas ou peu résolus...

Répondre à ce commentaire

Par Anonymousse, il y a 4 mois :

Il s'est vraiment fait berner par un algorithme de dialogue ? Décidément le niveau baisse chez Google

Répondre à ce commentaire

Par Xrider, il y a 4 mois :

ON y arrive tout doucement, mais je suis pour l'IA.
Ce monde doit évoluer, l'IA doit évoluer.

D'après moi, et je pense que ca va en choquer plus d'un, nous sommes limités de par ce que nous sommes : fragile, dépendant de l'oxygène, dépendant de l'eau, dépendant de nourriture, dépendant d'une température pour vivre. Limité par notre moyenne de vie qui dure entre 75 et 90 ans en moyenne (pour les plus chanceux). Nous devons devenir un peuple extra planétaire, mais notre corps et nos besoins quotidiens nous empêchent d'avancer... la ou l'IA aura beaucoup plus de facilité...

Le problème de l'IA, c'est le scénario catastrophe style Terminator.
Mais il faut être lucide, notre technologie nous survivra...

La futur de l'homme est son hybridation (ça n'engage que moi)

A méditer

Xrider

Répondre à ce commentaire

Laisser un commentaire

Votre adresse e-mail ne sera pas visible. Pour avoir une image de profil, utilisez le service gravatar.

Tu es membre premium car tu as commandé une HITEKBOX. Tu peux donc ajouter des smileys et des images.