Google a prévu une sécurité contre son intelligence artificielle DeepMind !

Les géants des technologies de l'information comme Google, Facebook ou Microsoft travaillent tous sur les machines intelligentes, avec des résultats plutôt concluants. Mais si ces IA peuvent déjà nous battre au jeu de Go, elles s'améliorent également dans d'autres domaines. Les peurs d'une partie de la population se réveillant, Google a cherché à rassurer en révélant l'existence d'un bouton d'arrêt pour son intelligence artificielle DeepMind.

L'intelligence artificielle et son développement est l'un des grands défis de notre siècle. C'est également un point très controversé : tout le monde ne souhaite pas le développement d'une IA capable d'un meilleur raisonnement que le nôtre. Une peur en partie liée aux nombreuses œuvres de science-fiction dont les problèmes viennent souvent d'une IA qui a pris conscience de son existence et de sa puissance, n'hésitant pas à tuer des humains pour mener à bien sa mission. Skynet ou encore HAL 9000 en sont de bons exemples.

Google étant à la pointe de la recherche de l'intelligence artificielle, ses chercheurs se sont bien sûr posés les questions liées aux potentiels problèmes que pourrait causer l'IA si jamais elle allait trop loin. Face à la montée perceptible d'une peur d'un scénario dystopien, aidée par les déclarations de personnalités comme Stephen Hawking, Google a dévoilé son bouton d'arrêt pour l'IA.

Histoire de calmer les sceptiques qui pensent que de toute façon l'IA prendra le contrôle du bouton, le fruit de la collaboration entre les scientifiques de Google et ceux de l'Université d'Oxford a été publié. Le bouton, lui, sert à stopper toutes séquences d'actions qui peuvent porter préjudice à un tiers - l'intelligence artificielle ne peut plus faire de mal à un humain ou à elle-même. Mais pour les chercheurs, il ne s'agit pas simplement d'un bouton d'arrêt : "une interruption sécurisée peut être utile pour prendre le contrôle d'un robot qui se comporte mal et qui pourrait engendrer des conséquences irréversibles, pour le sortir d'une situation délicate ou même pour l'utiliser de manière temporaire pour réaliser une tâche qu'il n'a pas apprise à effectuer ou pour laquelle il ne recevrait normalement aucune récompense." 

Les chercheurs assurent avoir créé une infrastructure permettant à un opérateur humain de stopper de manière sûre et répétée une intelligence artificielle, tout en faisant en sorte que celle-ci ne puisse pas empêcher ces interruptions. Tous les algorithmes ne sont pas cependant compatibles avec ce mécanisme d'interruption, précisent les auteurs du papier.