Rechercher Annuler

Google a prévu une sécurité contre son intelligence artificielle DeepMind !

De Ayasta - Posté le 6 juin 2016 à 17h19 dans Informatique

Les géants des technologies de l'information comme Google, Facebook ou Microsoft travaillent tous sur les machines intelligentes, avec des résultats plutôt concluants. Mais si ces IA peuvent déjà nous battre au jeu de Go, elles s'améliorent également dans d'autres domaines. Les peurs d'une partie de la population se réveillant, Google a cherché à rassurer en révélant l'existence d'un bouton d'arrêt pour son intelligence artificielle DeepMind.

 

L'intelligence artificielle et son développement est l'un des grands défis de notre siècle. C'est également un point très controversé : tout le monde ne souhaite pas le développement d'une IA capable d'un meilleur raisonnement que le nôtre. Une peur en partie liée aux nombreuses œuvres de science-fiction dont les problèmes viennent souvent d'une IA qui a pris conscience de son existence et de sa puissance, n'hésitant pas à tuer des humains pour mener à bien sa mission. Skynet ou encore HAL 9000 en sont de bons exemples.

Google étant à la pointe de la recherche de l'intelligence artificielle, ses chercheurs se sont bien sûr posés les questions liées aux potentiels problèmes que pourrait causer l'IA si jamais elle allait trop loin. Face à la montée perceptible d'une peur d'un scénario dystopien, aidée par les déclarations de personnalités comme Stephen Hawking, Google a dévoilé son bouton d'arrêt pour l'IA.

google-bouton-arret-deepmind-ia

Histoire de calmer les sceptiques qui pensent que de toute façon l'IA prendra le contrôle du bouton, le fruit de la collaboration entre les scientifiques de Google et ceux de l'Université d'Oxford a été publié. Le bouton, lui, sert à stopper toutes séquences d'actions qui peuvent porter préjudice à un tiers - l'intelligence artificielle ne peut plus faire de mal à un humain ou à elle-même. Mais pour les chercheurs, il ne s'agit pas simplement d'un bouton d'arrêt : "une interruption sécurisée peut être utile pour prendre le contrôle d'un robot qui se comporte mal et qui pourrait engendrer des conséquences irréversibles, pour le sortir d'une situation délicate ou même pour l'utiliser de manière temporaire pour réaliser une tâche qu'il n'a pas apprise à effectuer ou pour laquelle il ne recevrait normalement aucune récompense." 

Les chercheurs assurent avoir créé une infrastructure permettant à un opérateur humain de stopper de manière sûre et répétée une intelligence artificielle, tout en faisant en sorte que celle-ci ne puisse pas empêcher ces interruptions. Tous les algorithmes ne sont pas cependant compatibles avec ce mécanisme d'interruption, précisent les auteurs du papier.

Une erreur ?

Source(s) : Business Insider Malaysia

Mots-Clés : deepmindgoogleboutonarrêtcontrôle

Par Ayasta

Passionné de jeux vidéo, mangas et heroic fantasy, Bilal (Ayasta) aime passer son temps sur le côté obscur du web. Occupation principale ? Regarder des vidéos de chats en mangeant du chocolat.

Cliquez sur une phrase de l'article pour proposer une correction.

J'ai compris !

Commentaires (15)

Par Hyung Lord, il y a 8 ans :

Perso ca me dérange absolument pas une IA forte et puissante, n'en déplaise aux fans de science-fiction qui partent beaucoup trop vite dans leurs délires de fin du monde. Les I.A qu'ils s'imaginent seront pas là avant au moins 20-30 ans, et on aura bien prévu le coup.

Répondre à ce commentaire

Par Thaar, il y a 8 ans (en réponse à Hyung Lord):

Cet avis a été rédigé par Cortana version 1.1.35a skynet.

Répondre à ce commentaire

Par Gobou, il y a 8 ans via l'application Hitek :

ELLE VA NOUS ZIGOUILLER AAAAAH

Répondre à ce commentaire

Par NoXlight, il y a 8 ans :

Personne aurait des films ou des livres qui parle I.A mais, de façon positive pas comme skynet mais plutot positive comme Chappie ? :D

Répondre à ce commentaire

Par anonyme, il y a 8 ans (en réponse à NoXlight):

Nous pourront même avoir des corps robotiques et l'immortalité

Répondre à ce commentaire

Par 1979, il y a 8 ans (en réponse à NoXlight):

Succession de Scott Westerfeld.

Un conflit entre immortels et machines : une guerre psychologique et technologique qui met en péril le secret de l'Empereur immortel.

L'Empire ressuscité : quatre-vingts mondes sous la domination absolue d'un empereur immortel. Son ennemi : la secte des Rix, fanatiques cyborgs dont le but est de faire émerger des I.A. symbiotes sur chaque planète qu'ils rencontrent puis de les vénérer comme leurs dieux.
Il vont malheureusement mettre la main sur un secret bien garder...

Un bon diptyque.

Répondre à ce commentaire

Par NoXlight, il y a 8 ans (en réponse à 1979):

oh merci ---------> direct à la librairie :D !

Répondre à ce commentaire

Par Yon!, il y a 8 ans (en réponse à NoXlight):

isaac asimov : fondation / cycle des robots :p

Répondre à ce commentaire

Par waz, il y a 8 ans (en réponse à Yon!):

Pas de spoils ! je suis en train de lire le tome 2 de Fondation :)

Répondre à ce commentaire

Par Rigolo, il y a 8 ans :

Et si l'IA apprend comment ne pas subit le bouton "arrêt"? ^^

Répondre à ce commentaire

Par Tamair, il y a 8 ans (en réponse à Rigolo):

Encore un qui a lu la moitié de l'article...

Répondre à ce commentaire

Par Vaca, il y a 8 ans :

Ca me dérangerais des IA qui serais plus intelligente..Ça serait logique d'ailleurs !

Répondre à ce commentaire

Par Vaca, il y a 8 ans (en réponse à Vaca):

Ca me PAS dérangerais des IA qui

Répondre à ce commentaire

Par Megamann, il y a 8 ans (en réponse à Vaca):

Toujours pas.

Répondre à ce commentaire

Par HeisenTheFifth, il y a 8 ans via l'application Hitek :

En réponse a Noxlight: Je te conseille "La Saga du Commonwealth" de P.F Hamilton. L'I.A est pas le point central de l'intrigue du tout mais tu y verras un concept d'I.A beaucoup plus coherent que les canons du genre ^^.

Répondre à ce commentaire

Laisser un commentaire

Votre adresse e-mail ne sera pas visible. Pour avoir une image de profil, utilisez le service gravatar.

Tu es membre premium car tu as commandé une HITEKBOX. Tu peux donc ajouter des smileys et des images.