Contenus haineux sur Internet : la vérification de l'identité en ligne, instrument crucial pour une lutte efficace

Injures, menaces, propos encourageant la violence ou apologie du terrorisme… Les contenus haineux ont pris une ampleur considérable sur les réseaux sociaux. Face à ce phénomène, le gouvernement français se veut intransigeant : le Ministre de la Justice a affirmé à plusieurs reprises sa volonté de renforcer la répression face à la haine en ligne. Au-delà de la proposition de loi contre la haine en ligne portée par Laetitia Avia, de nouveau en discussion après avoir été censurée par le Conseil constitutionnel en juin dernier, l’une des mesures tout récemment annoncées par Eric Dupont-Moretti vise à "faire en sorte que ceux qui diffusent ce poison qu'est la haine en ligne soient immédiatement jugés devant le tribunal correctionnel dans le cadre d'une comparution immédiate". Mais est-ce vraiment réalisable ?

Des technologies faciles à contourner

Aujourd’hui, il est toujours facile de dissimuler son identité sur les réseaux sociaux : il suffit d’indiquer une adresse mail, un mot de passe et un nom pour créer un faux profil. Une plateforme telle que Facebook a d’ores et déjà reconnu qu’il était nécessaire d’aller plus loin dans la lutte contre les contenus extrémistes. Dès 2019, l’entreprise a autorisé les tribunaux français à accéder aux adresses IP des contrevenants pour les identifier et les poursuivre.

Mais, avec la démocratisation des logiciels VPN, qui peuvent masquer l’adresse IP d’un ordinateur, il devient de plus en plus difficile de tracer avec certitude les auteurs de contenus haineux. Un moyen plus efficace pourrait être de vérifier l’identité légale liée au profil soumis à enquête. Les investigations en seraient facilitées ; les internautes, ne pouvant plus se réfugier derrière l’anonymat, seraient davantage responsabilisés et y réfléchiraient à deux fois avant de poster ; et cela contribuerait à rétablir la confiance du public dans les médias sociaux.

Parmi les plateformes de réseaux sociaux, certaines ont déjà entrepris une démarche d’authentification des utilisateurs. Par exemple, pour détecter les bots - des algorithmes informatiques imitant le comportement humain pour diffuser de fausses informations – en intégrant des tests dits "du vivant" (liveness test). Ces tests fonctionnent comme un CAPTCHA vidéo, où le titulaire du compte doit se filmer en mode selfie avant de pouvoir poster un article sur son compte.

Facebook compte parmi ceux qui ont pris cette direction, mais le selfie CAPTCHA testé par Facebook ne tient pas compte de la valeur ou du risque associé à chaque transaction. Cette initiative a par ailleurs suscité des craintes parmi les internautes : les données biométriques ainsi collectées pourraient être utilisées abusivement. Mais Facebook a confirmé que ce service reste limité à la détection des bots et "n’utilise pas la reconnaissance faciale".

La confiance digitale : un facteur clef

De nombreuses start-up spécialisées en cybersécurité travaillent sur des solutions basées sur l’intelligence artificielle (IA) pour identifier les faux sites web, les faux profils sur les médias sociaux et les domaines d'entreprise contrefaits créés pour usurper l'identité en ligne d'une marque. LinkedIn a également mis en place des outils de détection basés sur l’IA et le machine learning et prenant en compte les signalements effectuées par les utilisateurs.

L'utilisation de ce type de méthodes peut aider les réseaux sociaux à endiguer la propagation de la désinformation via des bots, à identifier les propagateurs de discours de haine et à les tenir pour responsables de leurs actes, et contribuer à créer un climat de confiance.

Aussi les plateformes de réseaux sociaux pourraient-elles prendre exemple sur l’écosystème de l’économie du partage, où la vérification d’identité en ligne est déjà largement utilisée. De nombreuses sociétés de location de trottinettes, de voitures et d'appartements l’ont adoptée pour renforcer la confiance entre les prestataires de services et les consommateurs. La vérification d’identité est également devenue incontournable dans le secteur des services financiers, où les comptes frauduleux peuvent entraîner des pertes financières massives et de lourdes amendes en cas de non-respect des politiques de contrôle anti-blanchiment ou de KYC définies par les régulateurs. Les néo-banques, comme Revolut et Monzo notamment, ont massivement intégré la vérification d'identité en ligne pour leurs processus d’ouverture de comptes, ce qui permet de réaliser l’opération rapidement et en toute sécurité.

Selon une étude publiée par DataReportal, il y avait en 2019 environ 3,5 milliards d'utilisateurs de médias sociaux dans le monde, soit près de la moitié de la population du globe. Il est donc de notre responsabilité d'agir maintenant, avant que les discours de haine et la désinformation ne deviennent la nouvelle norme. Si nous ne le faisons pas, nous pourrions bientôt avoir tant de mal à distinguer les vraies nouvelles des fake news que nous refuserons de porter crédit à toute information.