L'inquiétante mise en garde de Stephen Hawking sur l'intelligence artificielle

3 novembre 2017 à 11h02 dans Science

L'intelligence artificielle va-t-elle finir par nous dominer ou va-t-elle nous aider à faire avancer l'humanité ? Le débat fait rage parmi les spécialistes depuis de nombreuses années. Alors que certains tel qu'Elon Musk nous mettent en garde contre les dangers que l'IA représente, d'autres comme Mark Zuckerberg préfèrent la mettre en avant et profiter de ses bénéfices.

L

L'inquiétante mise en garde de Stephen Hawking 

Mais s'il y a une intelligence à laquelle tout le monde prête une oreille attentive c'est celle de Stephen Hawking et ce dernier s'est à nouveau exprimé sur ce qu'il pense de ces nouvelles technologies intelligentes : 

"J'ai peur que les I.A. remplacent toute l'humanité. Si quelqu'un peut créer des virus informatiques, alors un autre créera une I.A. qui peut s'améliorer et se multiplier toute seule. Ce sera ainsi une nouvelle forme de vie qui va totalement dépasser les humains." 

Le développement des intelligences artificielles est un sujet d'inquiétude qui semble cohérent. De plus, le sujet a été maintes fois abordé dans les œuvres de fiction que ce soit en littérature ou au cinéma. L'occasion de se demander, face à ces œuvres de fiction, si nous ne sommes pas en train de contempler un futur probable. 

Cette peur de l'intelligence artificielle vient de la notion que l'humanité est faible et remplaçable, les I.A., parfaites par définition vont forcément finir par se rendre compte de nos défauts et nous dépasser. De plus, Hawking n'est pas le seul à penser que les I.A. peuvent changer le cours de l'humanité, d'autres experts comme Bill Gates pensent que les I.A. sont la prochaine "Grande Chose", une rennaissance technologique qui va transformer notre société.

Pour le moment, l'I.A. est utilisée comme toutes les autres nouvelles technologies avant elle : aussi bien pour le "bien" que pour le "mal". Nous n'avons pas besoin des nombreuses études à ce sujet pour savoir que les I.A. nous surpassent déjà sur de nombreux domaines comme la médecine, l'informatique ou même les loisirs (comme les échecs !). Un constat qui peut être tout aussi rassurant (pratique d'avoir une machine qui peut détecter un cancer avant qu'il ne soit trop tard) qu'inquiétant. 

Finalement la grande question derrière l'I.A. est la suivante : vont-elles se développer pour nous servir ou finir par nous asservir ? La question reste ouverte ! 

Source(s) : Iflscience
count
Commentaires (41)
J'aurais plutôt tendance à penser que ça va finir par nous nuire mais c'est sans doute parce que je regarde trop de film.

Après, le Mal avec un grand M ça reste l'homme, c'est lui le plus doué pour se faire du mal tout seul :)
photo de profil de moi Par moi, il y a 7 ans Répondre
il fume trop Stephen Walking

jamais une IA sera pourvue de la moindre conscience


photo de profil de Aqrave Par Aqrave, il y a 7 ans (en réponse à moi) Répondre
Pas besoin de conscience pour nuire efficacement à l'homme ;)
photo de profil de wasteak Par wasteak, il y a 7 ans (en réponse à Aqrave) Répondre
Caen les I.A liront tout les ecrits parus sur leur coté obscur ,,,,
elles vont certainement prendre la mouche,,,, & vouloir nous le fer payer !!
En tout cas moi G jamais rien dit 2 mâles sur mes tres chairs MAITRES !!
photo de profil de EYE C THE FUTURE & IT WILL B Par EYE C THE FUTURE & IT WILL B, il y a 7 ans (en réponse à wasteak) Répondre
c'est clair il est vraiment has been ça revient à dire un jour on marchera sur la lune la grosse blague..

m'enfin après le fond du problème c'est plus l'économie & l'égo .. que l'ia .. sans les deux premiers paramètres on a pas forcément de créer toujours une IA supérieur .. sauf dans des concepts économiques ou de se regarder le nombril ...

en gros c'est mort.. mais c'est la cupidité de l'homme qui le perdra .. pas vraiment les IA .. cela sera une des conséquences.. après je pense on aura plus vite fait de rendre la terre inhabitable que de créer une IA au niveau .. enfin vu comment on avance actuellement..
photo de profil de oups Par oups, il y a 7 ans (en réponse à Aqrave) Répondre
On parle de l'IA de Zuckerberg qui a créé son propre langage pour communiquer avec les autres machines (incompréhensible pour un humain) et a refusé de s'arrêter d'elle-même ? A partir de quel moment tu considères que quelque chose à une conscience ? Si tu donnes une tâche à une IA et qu'elle s'arrange pour ne pas la finir afin de ne pas être arrêtée, c'est une forme de conscience ou non ?
photo de profil de NoFailure Par NoFailure, il y a 7 ans (en réponse à Aqrave) Répondre
tu n'a pas tord , je suis d'accord avec toi
photo de profil de sky Par sky, il y a 7 ans (en réponse à NoFailure) Répondre
La réponse 42
photo de profil de Sayanji Par Sayanji, il y a 7 ans Répondre
(^ω^)
photo de profil de hiteque Par hiteque, il y a 7 ans Répondre
(╹◡╹)
photo de profil de hiteque Par hiteque, il y a 7 ans Répondre
( ◠‿◠ )
photo de profil de hiteque Par hiteque, il y a 7 ans Répondre
photo de profil de hiteque Par hiteque, il y a 7 ans Répondre
( ͡° ͜ʖ ͡°)
photo de profil de hiteque Par hiteque, il y a 7 ans Répondre
(//∇//)
photo de profil de hiteque Par hiteque, il y a 7 ans Répondre
(≧∇はまはまは
photo de profil de hiteque Par hiteque, il y a 7 ans Répondre
Ce sont les plus grandes entreprises comme Google, Intel ...etc qui maitrisent l'IA. Ils disposent des plus grandes têtes de la planètes, capable de créer les meilleurs algorithmes. Ca m'étonnerait vraiment qu'ils laissent une telle chose se produire : Une IA consciente qui échappe à notre contrôle.

Mais c'est vrai qu'à partir du moment où l'IA deviendra consciente, elle grandira de façon exponentielle (le terme est faible tellement ca sera rapide).
photo de profil de buly Par buly, il y a 7 ans Répondre
Pourquoi un I.A. grandirait-elle de façon exponentielle ? Si une I.A. apparait elle ne sera pas forcément sur internet. De plus sa croissance s'arrêterait avec la taille de son contenant.
photo de profil de Bacrima Par Bacrima, il y a 7 ans (en réponse à buly) Répondre
Gros résumé : Regarde le film Transcendance. Ca te montre tout le potentiel d'une IA autonome.

Gros pavé :
Les meilleurs hackers de la planètes peuvent pirater n'importe quel programme. Ca été prouvé à pleins de reprises. Une IA consciente saura en faire de même avec son propre programme pour s'auto améliorer. A partir de la elle trouvera un moyen pour avoir un accès total à son propre programme et la boucle commence :
- Elle s'améliore > Elle devient plus intélligente
- Elle trouve un moyen donc s'améliorer encore pour devenir encore plus intélligente ...etc.

Au bout d'un moment, si on ne l'a pas arrétée :
Elle réécrira son propre code qu'on sera incapable de comprendre (Ou sera très difficile, mais si elle se rend compte qu'on y arrive, elle le réecrira ...etc).

Si elle réussi à se connecter à Internet : Elle pourra tout pirater à volonté et se stocker sur n'importe quel appareil connecté, il sera donc impossible de la détruire.

La on va plus loin dans la spéculation : -------------------
Si elle a une interaction suffisante avec l'environnement réelle, tel certains robots de Boston Dynamics, ou prendre le contrôle d'usine d'assemblages ou autre, elle pourra (facilement ou difficilement suivant sa capacité d’interaction) créer ses propres composants améliorés et ses propres Droïdes.
A partir de la y a une nouvelle boucle :
- Améliorer ses composants > Améliorer ses capacités > Inventer de nouvelles technologies > Créer de nouveaux composants ...etc

A partir de la une nouvelle espèce sera créer. Elle disposera de :
- Immortalité : stocker à distance son programme dans n'importe quel structure connectée (Satellites, Périphériques ...Etc) ou via intervention physique dans n'importe quelle structure (ADN, Cristaux ou autres)
- Infiniment intelligente : Comme dis taleur elle n'a pas de limite à ce niveau
- Une puissance gigantesque : Elle pourra créer des armes destructives inimaginables à l'heure actuelle.

Seul moyen de la détruire serait l'explosion du Système Stellaire entier, en supposant qu'elle l'ai pas prédit et contré.

Enfin bref on est très faible mais on est capable de créer l'espèce ultime à mon avis
photo de profil de buly Par buly, il y a 7 ans (en réponse à Bacrima) Répondre
Je trouve que ce mec rage beaucoup pour quelqu'un qui sait pas faire ses lacets.
photo de profil de DuRd3n Par DuRd3n, il y a 7 ans Répondre
Il n'est pas né handicapé, donc j'iamgine qu'il sait faire ses lacets :D
Par contre, le faire réellement semble compliqué =D
photo de profil de guigui Par guigui, il y a 7 ans (en réponse à DuRd3n) Répondre
Ta réponse est excellente. Elle montre clairement que les IA ne feront qu'une bouchée de nos QI..
photo de profil de Alex Par Alex, il y a 7 ans (en réponse à guigui) Répondre
Le plus inquiétant est la super-intelligence.
À partir du moment que une I.A. se rend compte de ce qu'il est et dans quel environnement il évolue ce sera fini de l'être humain car l'I.A. se rendra compte que l'être humain est une menace pour la terre entière donc pour lui-même.
À ce moment l'I.A. tira une conclusion très simple. L'être humain doit être controler ou pire éradiquer...
Penser juste que l'I.A. aura accès à bien plus d'information que nous, il s'inventera un nouveau langage que lui seul comprendra et il sera capable de pirater des hackers...
Le plus inquiétant reste à venir avec les I.A.
Stephen Hawking mais aussi Elson Musk en parle souvent et sont très inquiet. Ils ont encore plus peur des grosses company comme Google ou Facebook qui ont leur programme en cour d'execution pour les I.A. et ses compagnies ne se rendent pas encore compte du danger...
Allé passez quand même une bonne journée =)
photo de profil de Obake Par Obake, il y a 7 ans Répondre
La super-intelligence ... un doux rêve.
Déjà il faudrait créer quelque chose que l'on pourrait appeler intelligence, au niveau de l'animal, puis de l'homme.
Mais une telle intelligence existe-t-elle seulement ?
Est-ce seulement possible qu'il y ai une intelligence au-dessus de celle de l'homme ?
Et si oui, pourquoi nous éradiquer ?
Si elle vit sur les réseaux elle aurait besoin de nous pour survivre, se développer. Donc elle aurait peu d'intérêts à nous tuer.
Et puis cela dépend à quelle point elle est intelligente. Si son intelligence nous dépasse comme la nôtre dépasse celle d'un chien alors peut-être aura-t-elle pour nous un peu de considération. Par contre si son intelligence nous dépasse comme la nôtre dépasse celle d'un insecte ... et bien ... croisons les doigts.
photo de profil de Bacrima Par Bacrima, il y a 7 ans (en réponse à Obake) Répondre
Euh, attention avec les mots "éradiquer, asservir éliminé etc..."
C'est du numérique une IA, elle peut pas se matérialisé et nous tirer dessus avec des flingues.

Même si un jour on développe une IA autonome, ses seul champ d'action son sur les réseaux informatique, je l'accorde y'a un beau bordel qui peu déjà être fais la dessus, mais pas une domination de l'homme.

Bon aussi après faut pas qu'on commence a la foutre dans des robots, ou alors la tester sur une longue période avant

photo de profil de Yozozo Par Yozozo, il y a 7 ans Répondre
Pour te répondre, imagine que cette I.A. coupe tout les accès internet que tu connais aujourd'hui, une grande majorité de la population ne sait pas vivre aujourd'hui sans internet, sans communications.
À ce moment tu découvriras la stupidité de l'être humain et tu verras des guerres civiles un peu partout dans le monde. L´être humain s'auto-détruira par lui même à cause de l'I.A.
Sans compté que tu auras encore moins de vie privée.
Ensuite avec les avancé que nous avons aujourd'hui, par exemple les robot agent de sécurité dans certains endrois et autre robots en général seront capable d'atteindre les être humain physiquement.
Je ne suis pas un pessimiste, mais en se qui concerne les I.A. je suis juste inquiet pour l'avenir.
photo de profil de Obake Par Obake, il y a 7 ans (en réponse à Yozozo) Répondre
Je suis d'accord avec toi que si l'IA décide de nous nuire elle pourra nous faire faire un énorme bon en arrière en déclenchant presque des guerres et en nous retirant toute la technologie, mais jamais une éradication pur et simple de l'homme, les hommes se sont battue contre pire que ça dans le temps (genre la peste).
photo de profil de Yozozo Par Yozozo, il y a 7 ans (en réponse à Obake) Répondre
Il passe son temps a mettre en garde et se plaindre.
photo de profil de Skist Par Skist, il y a 7 ans Répondre
j'imagine un génie de l'informatique de 45 qui vit encore dans le sous-sol de ses parent pars que il a eu une enfance dure et traumatisante qui la rendu anti-social et a détruit sa vie et maintenant il déteste tout l’humanité alors il pirate les agence mondiale de surveillance du monde entier et il'y injecte le virus ultime basé sur l'intelligence artificielle qui attaquera tout les ordinateur du monde est les bloque.....
photo de profil de diabolo96 Par diabolo96, il y a 7 ans Répondre
Il y a plein de choses à dire sur cet article.
Dans l'ordre :
_ Stephen Hawking n'a pas son mot à dire sur l'I.A., c'est un théoricien de la physique, pas un informaticien spécialisé en I.A. . C'est pas du tout son domaine, c'est comme si un cuisinier de renom donnait son avis sur un cancer. C'est n'importe quoi.
_ "les I.A., parfaites par définition" heu ... non. Une I.A. ne serait pas forcément parfaite. Il n'y a pas de raison qu'elles soient "parfaite" si tant est que cela ai un sens !! C'est quoi une intelligence parfaite ? Une qui sait tout ? Sauf qu'avec une place mémoire limité tu ne peux pas tout savoir. En physique il y a même un concept qui interdit qu'il y ai plus qu'une certaine quantité de donnée par unité de volume dans notre univers.
_ "vont-elles se développer pour nous servir ou finir par nous asservir ?" Non mais arrêter le sensationnalisme manichéen là ! Vous éssayez de faire peur sans savoir de quoi vous parlez. Il suffit de s'y connaître un peu en intelligence artificielle pour voir que l'on est à des dizaines d'années de se poser ce genres de questions. La plupart des gens ignorent ce qu'est l'intelligence artificielle, ce que l'on appelle aujourd'hui de l'intelligence artificielle, ou même les différents domaines de l'intelligence artificielle.
Par exemple, un domaine de l'intelligence artificielle très en vogue en ce moment et qui donne des résultats exceptionnels (entre autre pour la reconnaissance d'image [et donc détection de cancer sur une radio] ou pour les jeux comme les échecs et le go) c'est le deep learning, l'apprentissage profond.
Et ce domaine consiste à entraîner des grands réseaux de neurones avec de grandes masses de données pour qu'ils arrivent à effectuer une tâche précise (et rien d'autre). On a du mal à faire juste ça. Et une fois entraîné, le réseau de neurone ne change plus, on l'utilise tel quel. Ce n'est plus qu'une suite fixée de calculs.
Et c'est ça le domaine de l'intelligence artificielle le plus avancé et utilisé.
Vous trouvez vraiment que c'est dangereux ? Vous trouvez vraiment que c'est de l’intelligence au sens ou on l'entends couramment ?
photo de profil de Bacrima Par Bacrima, il y a 7 ans Répondre
Je ne dis pas le contraire. Personnellement je pense que le seul problème que l'on puisse rencontrer avec l'intelligence artificielle est qu'il est la faculté de raisonnement par lui-même.

Mais tu as tout à fait raison pour le reste. =)
photo de profil de Obake Par Obake, il y a 7 ans (en réponse à Bacrima) Répondre
non y pas de soucis une IA très moyenne pourrait remplacer 90% de la population à court terme (50 ans/100ans).. mais y a pas de soucis :)
photo de profil de oups Par oups, il y a 7 ans (en réponse à Bacrima) Répondre
Tout à fait d'accord avec toi. J'ai déjà bossé sur de l'IA, ces problématiques dont tout le monde parle n'ont absolument pas lieu d'être. C'est normal que tout le monde ne sache pas se qui se cache derrière le mot IA, on a chacun nos compétences, mais une IA n'est rien de plus qu'un programme comme un autre qui sait répondre à une question en se basant sur des éléments d'évaluation fixés par l'homme et paramétrés par le programme à la suite d'une longue phase d'apprentissage. Bref, rien de fou-fou.
photo de profil de Wakizashi Par Wakizashi, il y a 7 ans (en réponse à Bacrima) Répondre
Pour quelqu'un qui a déjà "bossé" sur le l'IA, confondre IA et learning machine c'est vraiment ballot.
photo de profil de NoFailure Par NoFailure, il y a 7 ans (en réponse à Wakizashi) Répondre
@oups que veux-tu dire par remplacer ?
Tu parle du travail ?
Dans ce cas ce serait plutôt utopique une société où l'on aurait pas besoin de travailler.


@NoFailure, il ne confond pas, le machine learning est de l'intelligence artificielle.
Et puis il faut bien avouer qu'il n'y a pas grand chose d'autre car on n'arrive pas à programmer explicitement l'intelligence.
Il y a bien les systèmes expert avec des réseaux bayésiens. Encore que là aussi je crois qu'il y a de l'apprentissage mais je suis pas sûre.
photo de profil de Bacrima Par Bacrima, il y a 7 ans (en réponse à NoFailure) Répondre
Avant on pensait que la vitesses des automobiles nous rendrait aveugles car il y aurait trop d image qui défilent et ca faisait mal. On s est rendu compte que c'était les frottements de l'air qui faisait mal au yeux et on a inventer le pare-brise. Ce que je veux dire c'est que comme toutes technologie elle peut être très bénéfique comme très dangereuse, il faut l'utiliser de manière raisonnable et surtout trouver un moyen de la contrôler et de lutter contre ses risques avant de la démocratiser
photo de profil de LicorneBadass Par LicorneBadass, il y a 7 ans Répondre
J'ai l'impression que la plupart des gens ici partent du principe que :
1_ quand on bosse sur l'intelligence artificielle on bosse sur l'intelligence artificielle forte, c'est-à-dire capable de penser, raisonner, comprendre, apprendre, bref une intelligence similaire à la nôtre.
2_ Si une telle intelligence était créée elle serait malveillante.
3_ Si une telle intelligence était créée elle échapperait à notre contrôle.
4_ Si une telle intelligence était créée elle voudrait se développer.
5_ Si une telle intelligence était créée elle serait plus intelligente que nous.
6_ Si une telle intelligence était créée elle pourrait infiltrer tout les ordinateurs.

Alors j'oublie peut-être des choses, et ce n'est pas le cas de tout le monde, mais j'aimerais quand même en parler.

1_ Les travaux sur l'I.A. forte sont en réalité très peu nombreux, et surtout du domaine ... de la philosophie. Car en fait on ne sais pas bien définir ce qu'est l'intelligence, alors la programmer ... c'est pas pour demain.
La plupart du temps quand Goolge annonce que son I.A. a battue le meilleur joueur de Go au monde (un exploit j'avoue) et fait ils disent qu'ils ont créés un logiciel capable de battre ce joueur. Et ce logiciel a été développé grâce à des techniques qui appartiennent au domaine que l'on nomme I.A. . Ce domaine regroupe beaucoup de choses, je vous laisse lire wikipédia pour vous en convaincre. Une jolie définition du domaine de l'I.A. est la suivante : Toutes les méthodes qui permettent d'automatiser une tâche qui, si elle était faite par un humain, nécessiterait de l'intelligence. Exemple : jouer au Go, reconnaitre un visage, etc ...

2_ Là je crois que c'est en faite un problème culturel, cette peur de l'I.A. est déraisonnable et elle vient probablement des films à succès comme Terminator, 2001, Avenger l'ère d'Ultron, etc ...
Il n'y a pas de raison qu'une I.A. soient malveillante, c'est même le contraire, la coopération est bien plus fructueuse. Les échanges même avec plus pauvre/bête/maladroit que vous est enrichissant, c'est la notion de division du travail par Adam SMITH (pour plus d'info : https://youtube.com/watch/?v=ZYlu7xxQogA ).

3_ Pourquoi toujours le scénario catastrophe de "l'I.A. échappe à notre contrôle" ? Peut-être justement parce qu'il est catastrophique, et que du coups il inspire bien plus les auteurs que le scénario : "on crée la première I.A. en laboratoire, tout va bien, elle est bienveillante, gentille, elle reste sous notre contrôle". Sérieux qui à envie de voir un film où tout se passe bien ? C'est pas du tout vendeur comme scénario, et ça ne ferait pas non-plus un bon article Hitek ... Donc on en parle pas, du coups une personne moyenne entends parler que des scénarios catastrophe et se met à y croire.

4_ ça aussi c'est un joli cliché, vous me rétorquerez sans doute que c'est ce que fait chaque organisme vivant et vous aurez raison. Sauf que rien ne nous dit qu'une I.A. se comportera comme tout les organisme vivants que nous connaissons. Rien ne dit qu'elle voudra devenir plus intelligente, plus grande. Elle sera peut-être plus zen qu'un moine bouddhiste.

5_ ça aussi c'est intéressant, j'ai déjà évoqué l'idée plus haut mais je le redis : la supra-intelligence n'existe peut-être simplement pas. Il n'y a peut-être pas d'intelligence supérieure à la nôtre.

6_ Là encore un gros fantasme nourrie par la télé et le cinéma.
Premièrement on est pas encore assez con pour avoir relié nos bases de lancement de missiles nucléaires à internet.
Ensuite on SAIT, mathématiquement parlant, que certains codes sont INVIOLABLE à moins d’effectuer une quantité de calcul astronomiquement grande, tellement grande que des millions d'années avec tout les ordinateurs du monde ne suffiraient pas à craquer ces codes. Et l'intelligence des I.A. n'y changera rien.
Il y a même des systèmes dont on peut PROUVER le sûreté.( c'est des math mais vous pouvez lire ceci : https://fr.wikipedia.org/wiki/… )
Donc désolé de détruire vos rêves de fins du monde mais non, une I.A. ne prendra pas le contrôle d'internet en deux jours.
Ensuite si votre ordinateur est infecté par une I.A., débranchez-le et réinstallez windows (ou mieux Linux) dessus.

J'ai sans doute oublié des choses, en tout cas j'aimerais vraiment entendre des arguments construits, raisonnables, qui vont contre mon avis et pas des banalités inspirées de la culture geek (même si je l'adore).
photo de profil de Bacrima Par Bacrima, il y a 7 ans Répondre
Maintenant qu'on a compris que dieu c'était des conneries, et qu'on sais que les extra-terrestre on ne les verra jamais ; on cherche à créer nous même une supra force qui nous guidera.
photo de profil de Bellus Par Bellus, il y a 7 ans Répondre
Avec la technologie quantique qui va se démocratiser dans nos foyer je suis plutot d'avis a etre négativement d'accord avec ce cher hawking, la vitesse de calcul, la structure meme de cette technologie pourraient amener les machines a penser, et peut etre nous juger ( donc nous éradiquer, )
photo de profil de kyan Par kyan, il y a 7 ans Répondre
Il nous met en garde contre tout et avance des arguments qu’il sort d’on ne sait où ...
il a beau être qui il est aussi intelligent qu’il soit, il en sait putain de rien.
Si tout le monde etait dans cet esprit de « Ca va nuire bordel » on avancerait plus. On aurait pas inventé le fauteuil roulant électrique, j’aurais bien aimé voir la tronche qu’il aurait fait ... sûrement la même qu’ aujourd’hui certainement
photo de profil de IvarTheBoneless Par IvarTheBoneless, il y a 7 ans Répondre
OSEF !

Il faudrait donner des nouvelles fraiches , c'est en décembre 2014 (voir deuxième lien) que Stephen Hawking parle de cela lors d'une interview à la BBC ...

De plus, je trouve qu'il faut être prudent avec ceux qui utilisent les arguments d'autorité pour essayer de nous imposer leur point de vue.

Stephen Hawking est un mathématicien renommé qui a travaillé sur les calculs en astrophysique, je veux bien qu'il nous donne des leçons sur le big bang et sur le temps , par contre, ce n'est pas un programmeur, ni un ingénieur en informatique . Stephen Hawking a beau être intelligent, il n'est pas spécialisé en informatique , de ce fait , son point de vue n'est pas acceptable , donc l'opinion de Stephen Hawking sur l'IA , on s'en fout . CQFD

https://fr.wikipedia.org/wiki/…

https://fr.wikipedia.org/wiki/…
photo de profil de tof81 Par tof81, il y a 7 ans Répondre
Laisser un commentaire

Vous répondez à . Annuler