L'intelligence artificielle de Facebook capable de mieux détecter les messages à tendance suicidaire

Pour renforcer ses outils de lutte contre le suicide, Facebook a décidé de lancer son intelligence artificielle pour détecter de façon plus réactive, les messages des utilisateurs aux tendances suicidaires.

Pour ce faire, le système effectuera des recherches automatiques d'indices dans les différents messages postés sur le réseau social, mais également dans Facebook Live. Le but est de pouvoir interpeller les équipes du réseau social plus rapidement et de mettre en contact ces personnes avec les structures qui leur viennent en aide. Le vice-président de Facebook a expliqué que l'intelligence artificielle qui va être déployée permettra de reconnaître "des types de comportement pour aider à identifier les messages et les vidéos en direct qui expriment potentiellement des idées suicidaires".

Une initiative saluée, mais qui pose question

Si cette idée est louable, en revanche, le nouveau système du réseau social inquiète les associations. En effet, pour que l'IA puisse fonctionner, il faudra qu'elle analyse l'intégralité des messages, mais aussi les réponses sous les publications. Cela veut donc dire que si la plateforme de Zuckerberg est capable de détecter les messages à tendance suicidaire, on peut imaginer qu'elle est aisément capable d'identifier d'autres critères. Et là, c'est le respect de la vie privée qui risque d'en prendre un coup !

La mise en place de ce système intervient après de nombreux cas de suicides dont certains se sont déroulés en direct sur le réseau comme le rappelle Mark Zuckerberg. En février dernier, le patron de Facebook avait déclaré que ces tragiques évènement "auraient peut-être pu être évités si quelqu'un s'était rendu compte de ce qui se passait et en avait fait part plus tôt". En plus de cette intelligence artificielle, Guy Rosen, le vice-président de l'entreprise, souligne que Facebook collabore depuis dix ans avec des organisations qui sont spécialisées dans la santé mentale.

Après avoir testé cette technologie aux Etats-Unis, Facebook souhaite la déployer à travers toute la planète à l'exception de l'Union Européenne sans qu'aucune explication ne soit donnée concernant cette décision. Certainement à cause de la protection des données personnelles nettement plus forte chez nous que chez nos amis américains.